AnythingLLM

AnythingLLM 简介

AnythingLLM 是由 Mintplex Labs 开发的一款一体化开源 AI 应用，旨在帮助用户构建私有的、功能完备的 AI 助手。它结合了检索增强生成（RAG）、AI 代理和多用户工作区，且设置过程极为简便。该项目采用 MIT 许可证，官方主页将其定位为“完全运行在您计算机上的私人 AI 助手”，无需账户、API 密钥或令牌限制。

核心功能

AnythingLLM 提供丰富的功能集，包括：

• 跨提供商的动态模型路由
• 自动和用户管理的记忆
• 定时 cron 风格的代理任务
• 无代码 AI 代理构建器
• MCP 兼容性
• 多模态支持
• 完整的开发者 API，用于自定义集成

它支持文档聊天，可拖拽上传文件并提供来源引用；内置代理可浏览网页；针对大型文档集进行了优化。Docker 版本还支持多用户实例，具备权限管理和可嵌入的网站聊天小部件。

部署方式

AnythingLLM 提供多种部署选项：

• 桌面应用：支持 macOS（Apple Silicon 和 Intel）、Windows（x64 和 ARM）以及 Linux，是单用户本地应用。
• Docker 自托管版：支持单用户或多用户，适用于任何 Web 服务器，提供基于角色的访问控制（管理员/经理/默认角色）、可嵌入小部件和品牌定制。
• 移动应用：提供 Google Play 上的配套移动应用。
• 浏览器扩展：提供配套浏览器扩展。

本地优先与隐私

AnythingLLM 默认本地运行：模型、文档、嵌入和聊天历史均保留在用户设备上。桌面应用无需账户、注册或云 API 密钥，提供一键安装，无需终端配置。项目包含可选的匿名遥测功能（通过 PostHog），仅跟踪聊天发送、文档添加/删除等使用事件，绝不记录文档内容或 IP 地址，可通过 DISABLE_TELEMETRY 环境变量或应用内隐私设置禁用。

会议助手

模型与集成

AnythingLLM 支持 40 多种 LLM 提供商，包括 Ollama、LM Studio、OpenAI、Anthropic、Azure OpenAI、Google Gemini 和 AWS Bedrock，同时支持多种向量数据库，如 LanceDB（内置）、Chroma、Milvus、Pinecone 和 Zilliz。它还提供数据连接器，用于 GitHub 仓库、YouTube 转录、Confluence 和网页抓取，并支持 PDF、DOCX、TXT 等多种文档和代码格式。在 AMD 硬件上，AnythingLLM 可利用 ROCm GPU 加速和 Ryzen AI NPU 进行本地推理和嵌入任务，保持 AI 体验完全在设备端。

定价与许可

桌面应用和自托管 Docker 版免费且采用 MIT 许可证，无使用上限或付费层级。付费产品为 AnythingLLM Cloud，Basic 版起价每月 50 美元（面向小团队），Pro 版每月 99 美元，另有企业版提供本地部署、自定义 SLA 和集成以及 SSO/RBAC。云计划提供私有多用户实例，客户自带 LLM API 密钥。