AnythingLLM 部署教程文档聊天机器人 5 分钟跑通【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llmAnythingLLM 是一个开源的文档聊天机器人把你手头的文档变成大模型对话时能引用的上下文回答附来源。它支持多种 LLM 提供商和向量库——存放文档向量、支持检索的数据库全程可以本地私有部署。按本文操作5 分钟就能在本地装好 AnythingLLM 并完成一次带引用的问答。它能替你干哪几件事把 PDF、Word 文档变成可追问的知识库合同、手册扔进去答案直接标出处接本地或云端大模型Ollama、LM Studio、OpenAI、Anthropic、Gemini 等都支持多用户共用一台实例按人分配工作区权限各查各的文档互不干扰进阶玩法定时任务、无代码 AI Agent、MCP 工具接入、模型动态路由开装前备齐这几样做完这步你会得到一份明确的依赖清单避免装到一半缺东西。对照下表确认环境依赖版本要求必需/可选操作系统Windows 10 / macOS 10.14 / Ubuntu 18.04必需Node.js18 或更高本地开发路线必需Docker 路线不用管Yarn最新版本地开发路线必需Docker任意近期版本可选但推荐走 Docker 路线内存 / 磁盘至少 2GB 内存、建议 10GB 磁盘必需最快路线Docker 一条命令跑起来做完这步你会得到一个跑在本地的 AnythingLLM 实例浏览器打开即用。git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm docker-compose up --build首次构建要拉镜像、编译耐心等几分钟。数据会落在挂载的存储目录里容器删了数据也不丢。图中你将看到 AnythingLLM 把文档变成聊天机器人的整体流程示意看到什么算成功命令停止滚动、日志不再报错浏览器访问http://localhost:3001出现 AnythingLLM 的引导界面就算跑起来了。如果你走的是云平台部署图中你将看到部署输出的服务器 IP 和访问地址记下其中的 ServerIp 和访问 URL下一步就用得上。想改代码走本地开发路线做完这步你会得到一套可调试的运行环境改完代码刷新页面即可验证。这条路线和 Docker 路线二选一只挑一条走。yarn install yarn setup yarn dev:server yarn dev:frontend yarn dev:collector三条dev命令分别在三个终端窗口里跑前端界面跑在 3000 端口API 服务跑在 3001 端口collector 负责把各类资料解析成可检索的文本。图中你将看到文档上传界面把文件拖进上传区即可开始导入首次配置三件事做完这步你会得到「能接模型、能存向量、能对话」的最小配置。按下面三个 H3 的顺序点一遍即可。第 1 步接一个大模型在设置里选 LLM 提供商。走本地就选 Ollama 或 LM Studio填上本地服务地址和模型名走云端就选 OpenAI、Anthropic 或 Gemini把 API 密钥填进密钥字段。图中你将看到 LocalAI 这类本地模型的接入配置示例第 2 步选一个向量库在向量库选项里做选择不想额外装服务就用内置库已有 Pinecone、ChromaDB、Weaviate 或 Qdrant 的账号就填外部连接。向量库存的是文档切块后的向量负责「按问题找相关段落」。第 3 步建第一个工作区侧边栏新建一个工作区把刚配好的 LLM 和向量库绑定上去。之后所有文档都放进这个工作区聊天也在它里面进行。把你的资料喂进去做完这步你会得到一个有「料」可查的工作区。常用导入入口整理如下来源说明本地文件上传PDF、Word、TXT、Excel 等拖进上传区即可网页链接粘贴文章、博客地址自动抓取正文转成 MarkdownYouTube 视频粘贴视频链接抓取字幕文本入库GitBook / Confluence 等连接在线文档系统按库批量导入纯文本粘贴直接贴进输入框保存为文档导入完成后资料会被解析、切块、向量化再写进你选的向量库。发起第一次对话做完这步你会完成第一次「有引用」的有效提问。在输入框提问比如「这份手册里推荐的最小内存配置是多少」等回答生成注意底部标注的引用来源它会列出被引用的文档片段和文件名点开可以核对原文没答到点就换个更具体的问法带上文档里出现过的关键词再问一次进阶玩法多用户权限Docker 版支持多用户在管理后台建账号把不同工作区分配给不同人各自的数据互相隔离反向代理 SSL用 Nginx 把域名指到 3001 端口配好证书后记得开启 WebSocket 转发和proxy_buffering off否则流式回答会卡住视频内容提取导入 YouTube 链接后系统会把字幕转成可检索文本和文档一样参与问答引用卡住了按表排查做完这步你会有一份自助排障清单90% 的报错能自己对上号现象常见原因处理动作服务起不来 / 页面打不开端口被占用Node 版本低于 18依赖没装全检查 3001 端口占用升级 Node 后重新安装依赖文档导入失败、解析异常文件加密或纯图片扫描版网页需要登录换清晰文本版、确认格式在支持列表内、先登录再复制正文回答不引用文档内容工作区没绑定文档或问法离关键词太远确认文档已导入该工作区换更具体的问法先把你最常查的 10 份文档导进去试试。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
AnythingLLM 部署教程：文档聊天机器人 5 分钟跑通
AnythingLLM 部署教程文档聊天机器人 5 分钟跑通【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llmAnythingLLM 是一个开源的文档聊天机器人把你手头的文档变成大模型对话时能引用的上下文回答附来源。它支持多种 LLM 提供商和向量库——存放文档向量、支持检索的数据库全程可以本地私有部署。按本文操作5 分钟就能在本地装好 AnythingLLM 并完成一次带引用的问答。它能替你干哪几件事把 PDF、Word 文档变成可追问的知识库合同、手册扔进去答案直接标出处接本地或云端大模型Ollama、LM Studio、OpenAI、Anthropic、Gemini 等都支持多用户共用一台实例按人分配工作区权限各查各的文档互不干扰进阶玩法定时任务、无代码 AI Agent、MCP 工具接入、模型动态路由开装前备齐这几样做完这步你会得到一份明确的依赖清单避免装到一半缺东西。对照下表确认环境依赖版本要求必需/可选操作系统Windows 10 / macOS 10.14 / Ubuntu 18.04必需Node.js18 或更高本地开发路线必需Docker 路线不用管Yarn最新版本地开发路线必需Docker任意近期版本可选但推荐走 Docker 路线内存 / 磁盘至少 2GB 内存、建议 10GB 磁盘必需最快路线Docker 一条命令跑起来做完这步你会得到一个跑在本地的 AnythingLLM 实例浏览器打开即用。git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm docker-compose up --build首次构建要拉镜像、编译耐心等几分钟。数据会落在挂载的存储目录里容器删了数据也不丢。图中你将看到 AnythingLLM 把文档变成聊天机器人的整体流程示意看到什么算成功命令停止滚动、日志不再报错浏览器访问http://localhost:3001出现 AnythingLLM 的引导界面就算跑起来了。如果你走的是云平台部署图中你将看到部署输出的服务器 IP 和访问地址记下其中的 ServerIp 和访问 URL下一步就用得上。想改代码走本地开发路线做完这步你会得到一套可调试的运行环境改完代码刷新页面即可验证。这条路线和 Docker 路线二选一只挑一条走。yarn install yarn setup yarn dev:server yarn dev:frontend yarn dev:collector三条dev命令分别在三个终端窗口里跑前端界面跑在 3000 端口API 服务跑在 3001 端口collector 负责把各类资料解析成可检索的文本。图中你将看到文档上传界面把文件拖进上传区即可开始导入首次配置三件事做完这步你会得到「能接模型、能存向量、能对话」的最小配置。按下面三个 H3 的顺序点一遍即可。第 1 步接一个大模型在设置里选 LLM 提供商。走本地就选 Ollama 或 LM Studio填上本地服务地址和模型名走云端就选 OpenAI、Anthropic 或 Gemini把 API 密钥填进密钥字段。图中你将看到 LocalAI 这类本地模型的接入配置示例第 2 步选一个向量库在向量库选项里做选择不想额外装服务就用内置库已有 Pinecone、ChromaDB、Weaviate 或 Qdrant 的账号就填外部连接。向量库存的是文档切块后的向量负责「按问题找相关段落」。第 3 步建第一个工作区侧边栏新建一个工作区把刚配好的 LLM 和向量库绑定上去。之后所有文档都放进这个工作区聊天也在它里面进行。把你的资料喂进去做完这步你会得到一个有「料」可查的工作区。常用导入入口整理如下来源说明本地文件上传PDF、Word、TXT、Excel 等拖进上传区即可网页链接粘贴文章、博客地址自动抓取正文转成 MarkdownYouTube 视频粘贴视频链接抓取字幕文本入库GitBook / Confluence 等连接在线文档系统按库批量导入纯文本粘贴直接贴进输入框保存为文档导入完成后资料会被解析、切块、向量化再写进你选的向量库。发起第一次对话做完这步你会完成第一次「有引用」的有效提问。在输入框提问比如「这份手册里推荐的最小内存配置是多少」等回答生成注意底部标注的引用来源它会列出被引用的文档片段和文件名点开可以核对原文没答到点就换个更具体的问法带上文档里出现过的关键词再问一次进阶玩法多用户权限Docker 版支持多用户在管理后台建账号把不同工作区分配给不同人各自的数据互相隔离反向代理 SSL用 Nginx 把域名指到 3001 端口配好证书后记得开启 WebSocket 转发和proxy_buffering off否则流式回答会卡住视频内容提取导入 YouTube 链接后系统会把字幕转成可检索文本和文档一样参与问答引用卡住了按表排查做完这步你会有一份自助排障清单90% 的报错能自己对上号现象常见原因处理动作服务起不来 / 页面打不开端口被占用Node 版本低于 18依赖没装全检查 3001 端口占用升级 Node 后重新安装依赖文档导入失败、解析异常文件加密或纯图片扫描版网页需要登录换清晰文本版、确认格式在支持列表内、先登录再复制正文回答不引用文档内容工作区没绑定文档或问法离关键词太远确认文档已导入该工作区换更具体的问法先把你最常查的 10 份文档导进去试试。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考