Anything LLM

AnythingLLM: The all-in-one AI app you were looking for.

Chat with your docs, use AI Agents, hyper-configurable, multi-user, & no frustrating setup required.

| |

Docs |

Hosted Instance

English · 简体中文 · 日本語

👉 AnythingLLM for desktop (Mac, Windows, & Linux)! Download Now

一个全栈应用程序，使您能够将任何文档、资源或内容转换为上下文，任何LLM都可以在聊天过程中将其用作参考。此应用程序允许您选择要使用的LLM或矢量数据库，并支持多用户管理和权限。

Watch the demo!

产品概述

AnythingLLM是一个全栈应用程序，您可以使用商用现成的LLM或流行的开源LLM和vectorDB解决方案来构建一个私有的ChatGPT，您可以在本地和远程主机上运行，并能够与您提供的任何文档进行智能聊天。

AnythingLLM将您的文档划分为名为 workspaces工作区的功能很像线程，但增加了文档的容器化。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文干净。

AnythingLLM的酷炫功能

• 🆕 完全兼容MCP
• 🆕 无代码AI代理构建器
• 🖼️ 多模式支持（包括封闭式和开源LLM！）
• 自定义AI代理
• 👤 多用户实例支持和权限 _仅限Docker版本_
• 🦾 工作区内的代理（浏览网页等）
• 💬 为您的网站定制可嵌入聊天小部件 _仅限Docker版本_
• 📖 支持多种文档类型（PDF、TXT、DOCX等）
• 简单的聊天界面，具有拖放功能和清晰的引用。
• 100%云部署就绪。
• 适用于所有流行 封闭和开源LLM提供商.
• 与任何其他聊天UI相比，内置的节省成本和时间的措施用于管理非常大的文档。
• 用于自定义集成的完整开发人员API！
• 更多。..安装并找出答案！

支持的LLM、嵌入器模型、语音模型和矢量数据库

大型语言模型（LLM）：

• 任何开源的llama.cpp兼容模型
• 开放人工智能
• OpenAI（通用）
• Azure OpenAI
• AWS基岩
• Anthropic
• NVIDIA NIM（聊天模式）
• 谷歌Gemini Pro
• 拥抱的脸（聊天模特）
• Ollama（聊天模特）
• LM工作室（所有型号）
• LocalAI（所有型号）
• 人工智能（聊天模型）
• 烟花AI（聊天模型）
• 困惑（聊天模型）
• OpenRouter（聊天模式）
• DeepSeek（聊天模型）
• 米斯特拉尔
• 格罗克
• 凝聚
• KoboldCPP
• 文学硕士
• 文本生成Web UI
• Apipie
• xAI
• Z.AI（聊天模特）
• Novita AI（聊天模型）
• PPIO
• Gitee 人工智能
• 月之暗面
• 微软Foundry本地
• CometAPI（聊天模特）

嵌入器模型：

• AnythingLLM原生嵌入器 （默认）
• 开放人工智能
• Azure OpenAI
• LocalAI（全部）
• 奥拉玛（全部）
• LM工作室（全部）
• 凝聚

音频转录模型：

• 任何LLM内置 （默认）
• 开放人工智能

TTS（文本转语音）支持：

• 内置原生浏览器（默认）
• PiperTTSLocal-在浏览器中运行
• OpenAI TTS
• 十一实验室
• 任何OpenAI兼容的TTS服务。

STT（语音转文本）支持：

• 内置原生浏览器（默认）

矢量数据库：

• LanceDB （默认）
• PG矢量
• 阿斯特拉DB
• 松果
• Chroma&ChromaCloud
• Weaviate
• Qdrant
• 米尔维斯
• Zilliz

技术概述

这个monorepo由六个主要部分组成：

• frontend：一个viteJS+React前端，你可以运行它来轻松创建和管理LLM可以使用的所有内容。
• server：NodeJS express服务器，用于处理所有交互，并执行所有vectorDB管理和LLM交互。
• collector：NodeJS express服务器，处理和解析来自UI的文档。
• docker：Docker指令和构建过程+从源代码构建的信息。
• embed：用于生成和创建的子模块 web嵌入小部件.
• browser-extension：子模块 chrome浏览器扩展.

🛳 自我寄宿

Mintplex实验室和社区维护了许多部署方法、脚本和模板，您可以使用它们在本地运行AnythingLLM。请参阅下表，了解如何在首选环境中部署或自动部署。

如何设置开发

• yarn setup 填写必填项 .env 您在每个应用程序部分（从repo的根目录）中需要的文件。

- 在继续之前，先把这些填好。确保 server/.env.development 已满，否则事情将无法正常进行。

• yarn dev:server 在本地启动服务器（从repo的根目录）。
• yarn dev:frontend 在本地启动前端（从repo的根目录）。
• yarn dev:collector 然后运行文档收集器（从repo的根目录）。

了解文档

了解矢量缓存

外部应用程序和集成

_这些应用程序不是由Mintplex Labs维护的，但与AnythingLLM兼容。这里的列表不是背书。_

• Midori AI子系统经理 -一种使用Docker容器技术部署AI系统的简化和高效的方法。
• 冷却 -只需单击一下即可部署AnythingLLM。
• GPTLocalhost for Microsoft Word -一个本地Word插件，供您在Microsoft Word中使用AnythingLLM。

遥测和隐私

Mintplex Labs Inc的AnythingLLM包含一个遥测功能，用于收集匿名使用信息。

More about Telemetry & Privacy for AnythingLLM

为什么？

我们使用这些信息来帮助我们了解AnythingLLM的使用方式，帮助我们优先考虑新功能和错误修复的工作，并帮助我们提高AnythingLL的性能和稳定性。

选择退出

集 DISABLE_TELEMETRY 在您的服务器或docker.env设置中设置为“true”以选择退出遥测。您也可以在应用程序中通过转到侧边栏来完成此操作> Privacy 并禁用遥测。

你明确追踪什么？

我们只会跟踪有助于我们做出产品和路线图决策的使用细节，特别是：

• 安装类型（Docker或桌面）

• 添加或删除文档时。无信息 _关于_ 文件。只是事件发生了。这给了我们一个使用的想法。

• 正在使用的矢量数据库类型。这有助于我们在更新到达该提供商时优先考虑更改。

• 正在使用的LLM提供程序类型和型号标记。这有助于我们在该提供商或模型或其组合的更新到达时优先考虑更改。例如：推理与常规、多模态模型等。

• 当聊天被发送时。这是最常见的“活动”，让我们了解了该项目在所有设施中的日常活动。再一次，只有 事件 我们没有关于聊天本身的性质或内容的信息。

您可以通过查找所有位置来验证这些声明 Telemetry.sendTelemetry 被称为。此外，这些事件会写入输出日志，因此您还可以看到发送的特定数据（如果启用）。 不收集IP或其他识别信息遥测提供程序是 PostHog -开源遥测收集服务。

我们非常重视隐私，我们希望您能理解，我们想了解我们的工具是如何使用的，而不是使用恼人的弹出式调查，这样我们就可以构建一些值得使用的东西。匿名数据是 _从不_ 永远与第三方共享。

[查看源代码中的所有遥测事件]()

👋 贡献

• 为任何事情做贡献LLM -如何为AnythingLLM做出贡献。

💖 赞助商

高级赞助商

所有赞助商

🌟 贡献者

🔗 更多产品

• 矢量管理: 用于管理矢量数据库的一体化GUI和工具套件。
• OpenAI助手Swarm: 将你的整个OpenAI助手库变成一支由单一代理指挥的军队。

______________________________________________________________________

版权所有©2025 Mintplex实验室.

这个项目是 麻省理工学院 得到许可的。