本地一键部署大模型
在自己电脑上安装并运行大模型,开箱即可用。相对云端方案,数据不出本机;相对纯命令行,桌面部署更省事。
左右滑动或使用方向键切换截图。
01/07
本地大模型 · 对话 + API 一体
在自己电脑上安装并运行大模型,开箱即可用。相对云端方案,数据不出本机;相对纯命令行,桌面部署更省事。
支持从魔搭(ModelScope)等渠道获取模型,缩短找模型、下模型的时间,更快进入可用状态。
既可直接在桌面里聊天,也可把本地模型以 API 形式提供给其他软件调用——一个人用、一套服务给全家桶工具用。
把说明、方案、笔记放进知识库,对话时可引用本地资料,答案更贴合你的真实文件。
推理与常用资料默认走本地,适合不希望把公司文档、客户信息直接丢给公有云的场景。