OxServer

牛马AI服务

本地部署大模型 · 对话与 API 一体

OxServer 是本地大模型服务平台:在自己电脑上快速部署并运行大模型,支持从魔搭(ModelScope)等渠道下载模型,内置对话聊天,同时提供可对接其他软件的 API 服务。

最新 2026.9.2Windows(64 位)

截图

左右滑动或使用方向键切换截图。

功能

本地大模型 · 对话 + API 一体

01

本地一键部署大模型

在自己电脑上安装并运行大模型,开箱即可用。相对云端方案,数据不出本机;相对纯命令行,桌面部署更省事。

02

魔搭等渠道快速下载模型

支持从魔搭(ModelScope)等渠道获取模型,缩短找模型、下模型的时间,更快进入可用状态。

03

对话服务 + API 服务

既可直接在桌面里聊天,也可把本地模型以 API 形式提供给其他软件调用——一个人用、一套服务给全家桶工具用。

04

知识库文档问答

把说明、方案、笔记放进知识库,对话时可引用本地资料,答案更贴合你的真实文件。

05

数据留在本机

推理与常用资料默认走本地,适合不希望把公司文档、客户信息直接丢给公有云的场景。

最新 2026.9.2

正式版发布于 2026年8月22日
下载

更新说明

- 修复了 v0.1.1 中的若干已知问题
- 优化了部分界面的视觉呈现
- 改进了多处交互细节,操作更顺手

支持的系统

其他产品