AnythingLLM:3分钟聊上你的文档
【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm
你有一堆 PDF、零散的网页和几个 YouTube 视频,想让 AI 基于这些材料回答问题,而不是瞎编。AnythingLLM 就是干这个的:把这些材料变成私有知识库,本地部署、完全免费,然后直接跟它们聊天。
🐳 3 分钟跑起来:一条 Docker 命令
Docker 本地部署是最短路径,要求就三行:
- Windows 10 / macOS / Linux 任一系统,装好 Docker(含 Docker Compose)
- 至少 4GB 空闲内存,想跑本地大模型就再加
- 想从源码开发的话,再准备 Node.js 18+
只想用,一条命令就够:
git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm/docker docker compose up --build构建完成后打开浏览器访问 http://localhost:3001 ,设置第一个账号即可。想从源码跑?BARE_METAL.md 里写了安装和启动三个服务的方法。要直接上云,仓库也备好了 AWS 模板,上传后等构建完成:
Outputs 页会给出服务器 IP 和访问地址,浏览器直接打开就是:
把 PDF、网页、视频喂给 AI
登录后在左上角建第一个 Workspace,可以把它理解成一个知识库。进入工作区点「添加文档」,所有内容都从这一个入口进来:直接上传 PDF、Word、TXT 文件;粘贴网页链接,它自动抓取并转成文本;粘贴 YouTube 链接,自动抽取字幕。不用你操心处理过程,后台收集器会把内容切块、入库。入库之后,聊天时它会先翻你的材料再开口回答。
🧠 选大脑,选记忆库
设置入口在右上角齿轮图标,只需要做两个决定:
- 大脑(LLM 提供商):本地先用 Ollama,挂一个免费本地模型;云端就选 OpenAI 或 Anthropic,填 API Key
- 记忆库(向量数据库):本地用内置的 ChromaDB 直接开跑;上云、数据量大再换 Pinecone
默认推荐:本地 Ollama + ChromaDB,零成本;想答得好再切 OpenAI + Pinecone。就这两步,没有别的必填项。
第一次对话 & 从你到团队
回到工作区,输入框里敲一个问题,比如「总结我上传的合同要点」。你会看到回答明显带着你文档里的内容,来源可查。
用顺手之后可以升级玩法:管理面板里邀请队友、给不同人设置权限;换端口、加 SSL、挂反向代理,都是改配置的事,不用碰代码。
🛠️ 卡住了看这里
- 端口 3001 被占用 → 先查谁占着端口,把你本地的 docker-compose.yml 端口映射改一下
- 容器起不来或 502 → 查环境变量是否配好、依赖是否装全
- 上传失败或处理卡住 → 查文件格式是否受支持、网络能否访问外网
- 回答怪怪的、像没找到资料 → 确认文档真的出现在工作区文档列表里,再查磁盘空间
现在打开终端,敲下上面的命令,3 分钟后你的私有 AI 助手就在线了。
【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考