Jan 本地大模型客户端：离线能用，模型要自己备

Jan 的卖点只有一个词：离线。不是「可以离线」作为备选，而是默认就在本机跑。这让它在断网、内网、涉密环境里有明确的位置，也让它在日常使用中比网页版麻烦。

和网页版 AI 的区别

网页版是「模型在别人机房，界面在浏览器」；Jan 是「模型和界面都在你电脑上」。好处是数据不出本机、断网可用、不受账号和地区限制；代价是模型能力上限取决于你的显卡，且要自己下载几个 GB 的权重。

它内置 llama.cpp 作为推理引擎，所以 GGUF 格式的模型都能加载。

最近更新了什么

2026 年 10 月 28 日的 v0.8.8 是一次安全更新，官方建议所有用户升级。三项改动值得记住：

• 聊天里的链接一律用系统浏览器打开，不再在应用窗口内加载，避免钓鱼页面伪装成对话内容；
• 本地 API 服务开始校验请求来源：只接受同机、Jan 自身、或你在 Trusted Hosts 里明确列出的主机；
• 推理引擎升到 llama.cpp 0.7.0，同步上游的模型支持。

Trusted Hosts 这个改动会影响局域网共享场景。以前手机连电脑的 Jan 服务可以直接用，现在要在设置里把手机所在地址加进去，否则请求会被拒。

适合谁

适合三类场景：内网办公环境、需要处理敏感文档、以及想在没有网络的设备上做实验。

不适合两类人：追求最强模型效果的（本地模型和云端旗舰差距仍然明显），以及不想折腾模型文件的。

安装与第一次配置

安装包覆盖 Windows、macOS、Linux。首次启动会引导下载一个默认模型，也可以跳过，自己把 GGUF 放进模型目录。

有个细节值得提前知道：Jan 的模型目录和配置默认在用户目录下，换机器时把整个目录拷过去，模型和历史会话能一起带走。

三个限制

中文能力取决于模型。 客户端本身有中文界面，但回答质量看你下的是哪个模型。中文任务建议选中文语料占比高的版本。

长上下文吃内存。 本地模型开大上下文，内存占用会线性上升。处理长文档前先确认机器扛得住，测算方法见《DeepSeek 本地部署要多少显存》。

扩展生态还在早期。 插件、助手模板的数量远不如云端产品，很多能力要自己接 API。

常见问题

Jan 怎么读？ 读作「詹」，是英文人名 January 的缩写形式，不是缩写词。

有手机版吗？ 没有官方移动客户端。手机要用只能在电脑跑服务，通过局域网访问。

和 Ollama 的区别？ Jan 是带界面的客户端，Ollama 是纯服务。两者可以配合：Jan 也能连 Ollama 的接口。

一定要独立显卡吗？ 不必，CPU 也能跑，只是 7B 以上模型的速度会明显变慢。

一句话判断

Jan 适合「数据不能出机器」这个前提成立的场景。如果这个前提不成立，云端产品的体验仍然更好。