Jan
免费开源的本地运行大模型并进行AI聊天对话的工具
桌面一键安装,免费运行主流开源模型,数据全在本地

核心功能
100%离线运行
无需联网即可使用AI助手,初始下载后可完全脱离网络,所有对话、附件和配置文件留在本机
一键下载模型
内置模型中心,点几下就能下载 LLaMA、Mistral、Gemma、Phi 等主流 GGUF 格式模型
跨端多平台
完美适配 Windows、macOS(Intel/M1/M2/M3)和 Linux,同时提供 Web 网页版
本地 API Server
完全兼容 OpenAI API 格式,部署在 localhost:1337,现成工具链无需修改代码即可接入
Agent 与 MCP
内置 MCP 服务器能力,赋予模型调用外部工具和类 Agent 行为,打造全自主可控的本地智能体
自定义助理
按需设置写作、编程、总结等专属 AI 助理,可配置固定指令反复调用,提升高频场景使用效率
文档图像处理
直接在对话界面中上传文档与图片,Jan 能识别并基于内容进行交互
加速推理
充分利用 NVIDIA、AMD 和 Apple Silicon GPU 进行硬件加速,主流模型推理效率极高
跨应用集成
通过 Connectors 功能打通 Gmail、Notion、Slack、Google Drive、Jira、Figma 等常用工具
产品特色
- 01
零门槛私有化部署,非技术用户也能轻松玩
很多人一听到本地跑模型就觉得要编译、配依赖、折腾环境。Jan 直接把这些门槛削平了,你不需要知道什么是 CUDA,也不需要碰命令行。它就是一个桌面应用,打开就能用,界面干净到了一种很舒服的程度,不用技术背景也能快速上手
- 02
数据主权不可妥协,隐私安全彻底归位
每一次对话放进云服务,就有一份可能被审计、用于训练或暴露在漏洞中的风险。Jan 默认完全离线,对话、配置、附件全部留在本地。更极端的情况,它甚至能在完全隔离的物理环境中运行,这是 ChatGPT 不可能做到的
- 03
免费的本地 API Server,零成本接入现有工具链
Jan 内置的 API Server 完全兼容 OpenAI 格式,现有的 Python 代码、curl 脚本、LangChain 或 Continue 等上层工具,只需把 base URL 改成本地 1337 端口,去掉 API Key,整套流程就可直接指向你的本地模型。不用重新集成,不用改架构
- 04
从聊天界面跨到智能体生态,打通工作流闭环
与其他本地工具不同,Jan 不只是 ChatGPT 的界面复刻,它自带 Extension 扩展生态和 MCP 协议集成,支持通过 Connectors 挂载 Gmail、Notion、Slack、Google Drive 等外部系统
- 05
Apache 2.0 全透明开源,代码可审可改可商用
发布于 Apache 2.0 许可,所有代码在 GitHub 上公开。企业和开发者可以自由审计、修改、定制,甚至嵌入到自己的产品中,没有法律灰色地带
- 06
团队近况活跃,生态持续迭代中
2026 年 5 月刚发布 0.7.9 版本,核心更新包括更智能的上下文管理、Windows CLI 修复及更安全的数据路径处理。长周期的维护迭代还在跑,不是停止更新的老项目
应用场景
✅ 隐私优先场景
律师处理客户案卷、医生分析病历、开发者排查专有代码——任何不便上传云端的数据,交给本地模型处理是最安全的选择。Jan 让你用 AI 的同时,不用拿隐私去换便利
✅ 团队内部知识库与自动化
在 Notion、Google Drive、Jira 等内部工具上部署 Jan,团队可以直接调用本地 AI 处理文档、生成报告或自动归类信息,无需将业务数据暴露给任何第三方 API
✅ 开发者本地测试与集成
开发过程中调用 OpenAI API 积少成多也是一笔不小的开支。将 Jan 的本地 API 作为调试后端,全流程零调用成本,确认无误后再迁移到生产环境,同一套 OpenAI SDK 的代码几乎不用改动
✅ 完全隔离的离线环境
政府单位、实验室或涉密部门等物理隔离网络环境,无法访问互联网的机器上也能部署 AI 能力。Jan 所有对话与数据永不离开本地硬件,符合监管要求
常见问题
解答您关于"Jan"的常见疑问,让您更好地使用这款AI工具
-
是的,Jan 100% 免费。不像部分本地工具只在社区版中提供基础功能,Jan 没有任何付费墙或使用次数限制,也没有 API 调用额度
-
入门级模型(如 Phi-3 Mini)约需 4GB 内存;中等模型(如 Llama 3.1 8B)建议 8GB 以上;大型模型需更高规格。GPU 非必需但强烈推荐,能明显提升推理速度
-
支持 LLaMA、Mistral、Gemma、Phi、Qwen、DeepSeek 等主流 GGUF 格式模型,模型中心可直接下载,也支持手动导入自定义 GGUF 文件
-
Ollama 面向开发者,侧重 CLI 和 API;LM Studio 侧重图形界面和模型发现。Jan 的差异点在于零遥测与完全本地化,同时兼顾友好的 ChatGPT 风格界面和开源的扩展生态,适合隐私至上的个人和团队
-
可以。Jan 的 API 完全兼容 OpenAI 格式,任何使用 OpenAI SDK 的 Python、JavaScript 项目只需将 base URL 改成本地端点,去掉 API Key,其余代码一行不改就能对接
-
首次下载客户端和模型时需要联网,完成后即可完全离线运行。后续所有对话、推理都在本地完成,无需任何网络连接
立即体验 Jan
Jan是一款完全开源免费的桌面应用,可在 Windows、macOS 和 Linux 上离线运行 LLaMA、Mistral、Gemma 等主流大模型。核心价值在于将复杂的本地 AI 部署简化成下载安装,无需 API Key,不设调用额度,所有数据留存在本地,从根本上保障隐私安全。无论是隐私至上的个人用户、希望零成本集成 AI 的开发团队,还是需要完全离线环境的研究机构,Jan 都提供了一个开箱即用且完全可控的解决方案。