规格速览
- 运行平台
- 下载渠道官网下载
- 内置广告无广告
- 语言中文
- 特性徽章开源项目
- 收录日期2026年9月27日
AnythingLLM 是一款由 Mintplex Labs 开发的全栈 AI 应用,定位是“零配置、隐私优先的一体化 AI 助手”。它把大语言模型、RAG(检索增强生成)和 AI Agent 打包在一个应用里,用户无需编写代码或搭建基础设施,下载安装即可使用。
它的核心场景是把本地文档转化为可对话的知识库:上传 PDF、Word、代码文件等资料,AnythingLLM 会将其处理为 AI 可引用的上下文,之后就可以针对这些内容提问、总结或做研究,全程数据保留在本地设备上。
适合希望使用 AI 能力但不愿把敏感文档上传云端的人,也适合需要私有化部署 AI 知识库的团队和组织。
核心功能
文档对话与 RAG:支持上传多种格式文档,将其转化为可检索的知识库,AI 在回答时会引用相关文档内容。提供 Agent Mode(推荐)、Chat Mode 和 Query Mode 三种对话模式,分别适用于自动调用工具、结合文档与通用知识、以及严格基于文档回答的场景。
AI Agent 与无代码构建器:内置无代码 AI Agent 构建器,可自定义 Agent 的行为和可用工具,支持 MCP 协议兼容,让 AI Agent 可以调用外部工具和技能。
内置本地 LLM 引擎:桌面版自带模型下载与运行引擎,支持 Llama-3、Phi-3 等可在 CPU 和 GPU 上本地运行的开源模型,开箱即用。
会议助手:桌面版可自动转录和总结会议内容,生成行动项和关键决策摘要,无需机器人加入通话,全程在本地处理。
Magic Echo 语音输入:通过语音输入文字时可实时优化措辞,并能结合当前屏幕内容给出精准回答,完全在设备端运行。
多用户与权限管理:Docker 自托管版本支持多用户实例和权限控制,适合团队使用。
动态模型路由:可根据自定义规则自动将对话路由到最合适的模型提供商。
软件特色
AnythingLLM 最突出的特点是 “不租用智能” 的理念:官方表述为“Don’t rent intelligence. Own it.”,即用户不依赖云端 API,不受 token 限制和速率约束,AI 运行在自己的设备上,数据完全归自己所有。
它同时提供 桌面单用户版 和 Docker 自托管多用户版 两种形态:桌面版面向个人,一键安装、零配置;Docker 版面向团队,支持多用户、权限管理和远程部署。
移动端方面,Android 版 AnythingLLM Mobile 已上线 Google Play,可在设备端运行小模型,也支持与桌面版配对以访问更大模型和完整工作区。iOS 版本有计划但暂无发布时间。
支持平台
Windows
macOS
Linux
Android(AnythingLLM Mobile)
Docker(自托管部署)
收费方式
桌面版免费使用,覆盖 99% 的功能。部分 Magic 功能设有每日免费额度,无需注册即可使用。
AnythingLLM Pro 为可选订阅,解锁 Magic 功能的无限每日使用额度以及无水印文档生成等附加功能,每个 Pro 功能均保留免费每日额度,订阅到期后功能回退到免费额度而非完全锁定。
开源情况
AnythingLLM 采用 MIT 许可证 开源,桌面版和自托管版均可免费使用。官方明确承诺自托管版本将持续保持开源。

![AnythingLLM的使用截图[1]](https://anythingllm.com/images/home/meeting-assistant.webp)











