概述: Anything LLM
简述
-
一体式桌面和Docker AI应用程序,内置RAG、AI代理、无代码代理构建器等。
-
url
- https://anythingllm.com
- https://github.com/Mintplex-Labs/anything-llm
20250220 : 3.7k fork / 38.1K star
-
创建公司:Mintplex Labs Inc.
-
创立时间:2023年12月(首次公开)
-
开源协议: MIT
-
主要编程语言: JavaScript / CSS
-
技术栈: React + ViteJS + NodeJS
优势与劣势
优势:
- 全栈 RAG 解决方案:支持文档解析、向量化、检索增强生成一体化
- 多模型支持:兼容 OpenAI、Ollama、Hugging Face 等 20+ LLM 和向量数据库
- 成本优化:大文档仅需一次嵌入,节省 90% 成本
- 企业级功能:多用户权限、工作区隔离、API 集成
劣势:
- 硬件要求高:本地部署需 GPU 加速和 32GB+ 内存
- 社区版限制:桌面端缺少多用户管理等高级功能
主要功能
- 文档管理:支持 PDF、TXT、DOCX、网页抓取等格式,自动分块和向量化
- 聊天模式:对话模式(上下文保留)和查询模式(精准检索)
- AI Agent:支持搜索代理、代码执行等扩展功能
- 多终端支持:Web 端、Windows/Mac/Linux 桌面端
技术栈与架构
- 数据库:LanceDB(默认的向量数据库)、Pinecone、Weaviate。
- 模型集成:Ollama、OpenAI、Azure OpenAI、Hugging Face 等。
- 开发框架:Node.js、Express、React
graph TDA[前端: React + ViteJS] --> B[服务器: Node.js + Express]B --> C[文档处理服务]C --> D[向量数据库: LanceDB/Pinecone]B --> E[LLM 接口: OpenAI/Ollama]D --> EE --> F[用户交互: 聊天/查询模式]
安装指南
安装 on Windows
- Step1 下载安装包
AnythingLLMDesktop.exe
- https://anythingllm.com
- https://cdn.anythingllm.com/latest/AnythingLLMDesktop.exe
- Step2 点击安装