最近在AI开发圈里一个现象越来越明显大家不再满足于仅仅调用云端API而是开始琢磨怎么把大模型“请”到自己的电脑上。无论是出于数据隐私的考量、网络延迟的烦恼还是单纯想折腾一下本地算力本地部署模型都成了一个绕不开的话题。但问题也随之而来。直接上手Ollama、LM Studio这些工具虽然能跑起来但总感觉缺了点什么——一个能像ChatGPT那样流畅对话、管理上下文、甚至能联网搜索的“智能体”前端。难道为了用本地模型我们就得退回到命令行问答的原始时代吗当然不是。这就是我们今天要聊的ChatGPT Work也被称为OpenClaw出现的背景。它不是一个新模型而是一个开源的、可本地部署的AI代理框架。它的核心价值在于让你能用类似ChatGPT的Web界面和交互体验去驱动你本地的Ollama模型。简单说它给本地大模型装上了“大脑”和“手脚”让它从一个只能回答问题的“书呆子”变成一个能执行任务、管理对话的“智能助手”。本文将带你从零开始完成ChatGPT Work的安装、配置并实测其与本地Ollama模型的联动效果。我们会重点解决安装过程中的各种“坑”比如网络问题、端口冲突、模型加载失败等并提供清晰的配置示例和排查思路。读完本文你将能独立搭建一个属于你自己的、功能完整的本地AI对话平台。1. 核心价值为什么你需要关注ChatGPT Work在深入技术细节之前我们必须先搞清楚ChatGPT Work到底解决了什么痛点它和直接使用Ollama的Web UI或LM Studio有什么区别1.1 痛点分析本地模型使用的“最后一公里”难题当你成功在本地用Ollama跑起一个7B或13B的模型后通常会面临几个尴尬交互简陋Ollama自带的ollama run命令行或基础Web UI功能单一缺乏多轮对话管理、对话历史保存、流式输出优化等现代聊天应用应有的体验。能力孤立模型只是一个语言模型它无法主动调用工具如计算器、搜索、无法访问外部知识除非微调、更无法作为一个“代理”去规划并执行复杂任务。集成困难如果你想把它嵌入到自己的应用如飞书机器人、知识库问答系统中需要从零开始构建一套API封装、会话管理和工具调用框架。ChatGPT Work瞄准的正是这些痛点。它本质上是一个AI Agent框架的后端网关Gateway和一个现代化的前端界面。1.2 ChatGPT Work vs. 其他方案为了更直观地理解其定位我们做一个简单对比特性/方案Ollama (原生)LM StudioChatGPT Work (OpenClaw)核心定位本地大模型运行与基础管理本地模型GUI管理推理AI代理框架 本地模型前端交互体验命令行/基础Web UI优秀的单机GUI侧重模型加载与测试类ChatGPT的Web聊天界面支持对话历史、流式响应核心能力模型拉取、运行、基础对话模型加载、硬件监控、对话测试对话管理、插件/工具扩展、多模型路由、API服务可扩展性通过API有限扩展主要用于本地测试与开发高设计上支持接入不同后端Ollama, OpenAI等可开发自定义技能适合场景开发者快速测试模型非开发者或研究者本地体验模型开发者构建本地AI应用、需要Agent能力、追求完整对话体验结论如果你只需要“跑起来看看”Ollama或LM Studio足够了。但如果你想构建一个功能接近ChatGPT的本地应用或者需要为你的本地模型添加工具调用等Agent能力那么ChatGPT Work是一个更专业的选择。1.3 它适合谁全栈/后端开发者希望快速搭建一个私有AI对话服务并集成到现有系统。AI应用爱好者不满足于简单问答想探索本地模型的Agent潜能。注重隐私的团队/个人需要完全离线的智能对话助手且对交互体验有要求。学习AI Agent架构的学生通过一个开源项目理解Agent、技能、网关等概念的实际实现。2. 核心概念与架构解析在动手之前理解ChatGPT Work的几个核心概念能让你在配置和排查问题时事半功倍。2.1 核心组件ChatGPT Work的架构通常包含以下部分根据版本可能略有不同Gateway (网关)这是核心后端服务。它接收来自前端或API的请求进行会话管理、请求路由、插件调度并将请求转发给对应的模型后端如Ollama。你遇到的openclaw gateway run命令就是在启动它。Web UI (前端)一个类似ChatGPT的网页界面用户在此进行对话。它通过HTTP接口与Gateway通信。Skill (技能)这是Agent能力的体现。一个Skill可以是一个简单的函数也可以是一个复杂的流程用于扩展模型的能力。例如一个“天气查询”Skill当用户问天气时Gateway会先调用这个Skill获取真实数据再将结果和问题一起交给模型生成回复。Model Provider (模型提供商)即实际运行模型的底层服务。ChatGPT Work支持接入多种Provider我们主要关注Ollama它负责在本机加载和运行大模型。Config (配置)通常是一个config.yaml或config.json文件用于定义Gateway监听的端口、启用的Skill、连接的Model Provider及其参数。2.2 工作流程一次典型的用户对话流程如下用户在Web UI输入“北京今天天气怎么样”Web UI将问题发送给Gateway。Gateway解析请求发现触发了预定义的“天气查询”Skill。Gateway调用该Skill例如访问一个天气API获取到北京的实时天气数据。Gateway将原始问题“北京今天天气怎么样”和Skill返回的天气数据组合成一个新的提示词发送给配置好的Ollama服务。Ollama中的本地模型根据组合后的提示词生成一段自然语言的回复例如“根据查询北京今天晴气温15-25摄氏度……”Gateway将回复流式传输回Web UI展示给用户。这个过程实现了本地模型 外部工具的协同让本地模型突破了其训练数据的时间限制能够处理实时信息。3. 环境准备与安装规划我们的目标是搭建一个完整的本地环境Ollama (模型层) ChatGPT Work Gateway (代理层) Web UI (表现层)。3.1 系统与环境要求操作系统Windows 10/11, macOS, 或 Linux (本文以Windows为例其他系统原理相通)。内存至少16GB RAM。运行7B参数模型约需8-10GB空闲内存13B模型则需要更多。存储空间预留20GB以上空间用于存放模型文件。网络需要良好的网络环境以下载安装包和模型。对于国内用户Ollama下载慢是首要解决的问题。命令行工具需要终端Windows PowerShell或CMD推荐使用Windows Terminal。3.2 工具安装清单我们将按顺序安装以下工具Ollama负责拉取和运行本地大模型。ChatGPT Work (OpenClaw)包含Gateway和Web UI。(可选) 模型文件通过Ollama拉取如llama3.2:1b,qwen2.5:7b等。4. 第一步解决网络问题安装Ollama对于国内用户直接安装Ollama最大的障碍就是下载速度极慢甚至失败。我们必须先配置镜像源。4.1 配置Ollama国内镜像源关键步骤Ollama默认从https://ollama.com拉取模型。我们可以通过修改系统环境变量将其指向国内镜像站。对于Windows用户 打开“系统属性” - “高级” - “环境变量”。 在“系统变量”或“用户变量”中新建一个变量变量名OLLAMA_HOST变量值0.0.0.0(这表示监听所有IP方便后续Gateway连接) 接着再新建一个变量这是加速下载的关键变量名OLLAMA_MODELS变量值https://mirror.ghproxy.com/https://ollama.com/library说明这里使用了ghproxy.com镜像站你也可以寻找其他可用的国内镜像。完成后点击确定务必重启你的命令行终端以使环境变量生效。对于macOS/Linux用户 在终端中执行export OLLAMA_HOST0.0.0.0 export OLLAMA_MODELShttps://mirror.ghproxy.com/https://ollama.com/library为了使配置永久生效可以将这两行添加到你的shell配置文件如~/.bashrc,~/.zshrc中然后执行source ~/.zshrc。4.2 下载并安装Ollama访问Ollama官网https://ollama.com下载对应操作系统的安装包。像安装普通软件一样安装它。安装完成后Ollama服务应该会自动在后台运行。验证安装打开一个新的终端确保环境变量已生效输入ollama --version如果显示版本号说明安装成功。4.3 拉取并运行一个测试模型为了验证Ollama和镜像源是否工作正常我们拉取一个较小的模型进行测试。ollama pull llama3.2:1b这个命令会下载Meta发布的Llama 3.2 1B参数模型体积较小下载快。如果镜像源配置正确下载速度会有显著提升。下载完成后运行该模型ollama run llama3.2:1b你应该能看到模型启动并进入一个交互式命令行界面。输入“Hello”看它是否能回复。输入/bye退出。至此你的本地模型引擎Ollama已经就绪并在11434端口默认提供服务。5. 第二步安装与配置ChatGPT Work (OpenClaw)ChatGPT Work的安装方式有多种包括Docker、直接下载可执行文件等。我们选择最简单直接的方式使用其预编译的CLI工具。5.1 获取OpenClaw Gateway根据你的网络情况选择以下一种方式从GitHub Releases下载访问项目的GitHub Release页面下载对应系统的最新版openclaw-gateway可执行文件。使用包管理工具如需要某些社区可能提供了brew或scoop的安装方式请以项目官方文档为准。对于Windows用户下载一个名为openclaw-gateway-windows-amd64.exe的文件。为了方便可以将其重命名为openclaw.exe并放置在一个你熟悉的目录例如D:\AI_Tools\OpenClaw\。5.2 创建基础配置文件ChatGPT Work需要一个配置文件来指定如何运行。在openclaw.exe的同级目录下创建一个名为config.yaml的文件。以下是连接本地Ollama的最简配置# config.yaml gateway: port: 3000 # Gateway服务监听的端口前端将通过这个端口访问 log_level: info models: - name: local-llama # 你给这个模型配置起的名字用于前端选择 provider: ollama # 指定使用Ollama作为提供商 config: base_url: http://localhost:11434 # Ollama服务的地址和端口 model: llama3.2:1b # 指定要使用的Ollama模型名称必须与已pull的模型一致 skills: [] # 初始阶段我们不配置额外技能先保证基础对话畅通 # 前端UI配置如果Gateway内置或关联了UI ui: enabled: true这个配置文件告诉Gateway在本地3000端口启动服务。定义一个名为local-llama的模型它连接到本地Ollama服务的llama3.2:1b模型。5.3 启动Gateway服务打开终端PowerShell或CMD导航到openclaw.exe所在的目录。cd D:\AI_Tools\OpenClaw然后运行启动命令.\openclaw.exe gateway run --config .\config.yaml如果一切正常你将看到类似以下的输出表明Gateway已成功启动并加载了配置INFO[0000] Starting gateway server... INFO[0000] Gateway server started on http://localhost:3000 INFO[0000] Loaded model: local-llama (provider: ollama)5.4 常见启动错误与排查如果你遇到了[openclaw] could not start the cli或openclaw closed before connect conn这类错误请按以下顺序排查端口冲突3000端口可能被其他程序占用。可以修改config.yaml中的gateway.port为其他端口如3001。配置文件错误YAML文件对缩进非常敏感。确保使用空格缩进而不是Tab键。可以使用在线YAML校验器检查语法。Ollama服务未运行确保Ollama在运行。在另一个终端执行ollama list看是否有模型列出。或者访问http://localhost:11434Ollama会返回一个简单的JSON。模型名称不匹配config.yaml中model: “llama3.2:1b”必须与Ollama中已拉取的模型名完全一致。用ollama list确认模型名。可执行文件权限Linux/macOS可能需要使用chmod x openclaw赋予执行权限。查看详细日志启动时添加--log-level debug参数可以获得更详细的错误信息。.\openclaw.exe gateway run --config .\config.yaml --log-level debug6. 第三步访问Web UI并进行首次对话Gateway启动成功后它通常已经内置或关联了一个Web UI。打开你的浏览器访问http://localhost:3000(如果修改了端口请替换为对应的端口)。你应该能看到一个类似ChatGPT的聊天界面。在界面上找到模型选择器可能在下拉菜单或设置中选择我们配置的local-llama模型。在输入框发送一条消息例如“用中文介绍一下你自己。”观察回复。如果成功你将看到流式输出的、由你的本地Llama 3.2 1B模型生成的回答。恭喜你已经成功搭建了本地模型AI代理的前端平台。7. 进阶配置与功能探索基础对话跑通后我们可以探索ChatGPT Work更强大的功能。7.1 接入更多Ollama模型你可以在Ollama中拉取更多、更强的模型并在config.yaml中配置多个模型选项供前端切换。models: - name: “local-llama-fast” provider: “ollama” config: base_url: “http://localhost:11434” model: “llama3.2:1b” - name: “local-qwen-powerful” # 新增一个模型配置 provider: “ollama” config: base_url: “http://localhost:11434” model: “qwen2.5:7b” # 假设你已经 pull 了 qwen2.5:7b 模型重启Gateway后前端就可以在local-llama-fast和local-qwen-powerful之间切换。7.2 配置基础技能Skill让我们添加一个简单的“回声”技能理解Skill的工作原理。修改config.yaml的skills部分skills: - name: “echo” # 技能名称 description: “A simple skill that echoes the input.” # 技能描述 triggers: # 触发条件这里我们简单定义为用户输入包含‘echo’ - type: “keyword” keyword: “echo” action: # 技能执行的动作 type: “http” config: url: “https://httpbin.org/post” # 一个用于测试的公共API method: “POST” headers: Content-Type: “application/json” body: ‘{“message”: “{{.input}}”}’ # 将用户输入作为请求体 response_handler: # 处理API返回的数据 type: “template” template: “Echo Skill Response: {{.body.message}}”这个技能会在用户输入包含“echo”时被触发向一个测试API发送POST请求并将返回的信息格式化后连同原始问题一起交给模型生成最终回复。你需要重启Gateway来加载新技能。7.3 配置系统提示词System Prompt你可以为模型定义系统角色使其行为更符合你的需求。这通常在模型配置中完成models: - name: “local-llama-assistant” provider: “ollama” config: base_url: “http://localhost:11434” model: “llama3.2:1b” options: # Ollama特有的模型运行参数 num_ctx: 4096 temperature: 0.7 system: “你是一个专业的编程助手回答要简洁、准确。如果遇到不确定的问题请直接说明。” # 系统提示词8. 常见问题与深度排查指南以下是部署过程中可能遇到的典型问题及解决方案。问题现象可能原因排查步骤解决方案Gateway启动失败could not start the cli1. 端口被占用2. 配置文件语法错误3. 可执行文件损坏或权限不足1.netstat -ano | findstr :3000查看端口占用2. 使用在线工具校验config.yaml3. 尝试在另一个干净目录运行1. 更改config.yaml中的端口2. 修正YAML语法注意缩进3. 重新下载可执行文件确保有执行权限前端无法连接到模型或提示超时1. Ollama服务未运行2.base_url配置错误3. 防火墙阻止连接1. 在浏览器访问http://localhost:114342. 检查config.yaml中base_url的IP和端口3. 暂时关闭防火墙测试1. 在终端运行ollama serve启动服务2. 确保IP为localhost或127.0.0.1端口为114343. 在防火墙中为Ollama添加入站规则模型列表为空或找不到指定模型1. Ollama中未拉取对应模型2. 模型名称拼写错误3. Ollama环境变量导致路径问题1. 运行ollama list2. 仔细对比ollama list输出和config.yaml中的model字段3. 检查OLLAMA_MODELS镜像源是否影响了本地模型查找1. 使用ollama pull model_name拉取正确模型2. 确保大小写和冒号后的标签完全一致3. 尝试在不设置OLLAMA_MODELS的情况下重启Ollama服务Web UI页面无法打开(404)1. Gateway未成功启动UI2. 访问的URL路径错误3. 前端资源未正确打包1. 检查启动日志是否有UI相关错误2. 确认访问的是Gateway端口如3000而不是Ollama端口3. 查看项目文档确认当前版本是否包含UI1. 确保config.yaml中ui.enabled为true2. 尝试访问http://localhost:3000根路径3. 考虑使用独立的第三方前端如chatbot-ui连接Gateway的API技能(Skill)不触发1. 触发条件配置过于严格或不匹配2. Skill动作配置的API不可用3. Gateway未加载最新配置1. 检查triggers下的keyword是否匹配用户输入2. 使用curl或Postman测试Skill中配置的API端点3. 重启Gateway服务1. 简化触发条件例如使用type: “always”进行测试2. 更换为可用的测试API或本地Mock服务3. 修改配置后必须重启Gateway9. 生产环境考量与最佳实践如果你计划将这套系统用于更严肃的用途或小团队共享以下建议至关重要。9.1 安全与权限不要暴露到公网默认配置下Gateway和Ollama都监听在本地(localhost)。如果出于测试需要让局域网其他机器访问可以将配置中的localhost改为本机局域网IP但务必意识到这会使服务在局域网内可见。切勿在无防火墙保护的情况下将服务端口直接暴露在互联网。API密钥管理如果未来添加需要API Key的技能如联网搜索切勿将密钥硬编码在config.yaml中。应该使用环境变量或专门的密钥管理服务。# 在config.yaml中引用环境变量 api_key: “{{ env “MY_API_KEY” }}”输入输出过滤对于用户输入和模型输出应考虑基本的过滤和审查防止恶意提示或不当内容生成。9.2 性能与稳定性模型选择根据你的硬件选择模型。7B模型在16GB内存上通常能流畅运行而更大的模型可能需要更多内存甚至GPU。Ollama参数调优在config.yaml的模型options中可以调整num_ctx上下文长度、temperature创造性等参数以平衡速度和质量。Gateway监控关注Gateway进程的资源占用情况。对于长期运行的服务可以考虑使用systemd(Linux)或nssm(Windows)将其注册为系统服务实现开机自启和故障重启。日志管理将Gateway的日志级别调整为info或error并配置日志轮转避免日志文件无限增大。9.3 配置管理与版本控制配置文件版本化将你的config.yaml纳入Git等版本控制系统方便追踪变更和团队协作。环境分离可以创建多个配置文件如config.dev.yaml开发、config.prod.yaml生产通过启动命令指定。.\openclaw.exe gateway run --config .\config.prod.yaml9.4 扩展与集成接入飞书/钉钉等平台ChatGPT Work的设计支持通过API被调用。你可以编写一个简单的中间件服务接收飞书机器人的Webhook请求将其转发给本地Gateway再将回复传回飞书。这需要你了解对应平台的机器人开发规范。连接知识库要实现类似“私有知识库问答”的功能这超出了基础ChatGPT Work的范围。通常需要额外构建一个RAG检索增强生成管道将文档切片、向量化存储在用户提问时先检索相关片段再将片段作为上下文提供给模型。你可以将这套RAG系统封装成一个Skill供Gateway调用。使用更强大的前端如果内置UI功能有限你可以寻找更成熟的开源Chat UI项目如chatbot-ui,Open WebUI它们通常支持配置后端API地址将其指向你的Gateway即可。通过以上步骤你不仅成功搭建了一个本地AI对话环境更掌握了一套将本地模型“智能化”、“产品化”的框架。ChatGPT Work的价值在于它提供了一个可扩展的Agent架构让你能基于本地模型这个“大脑”不断为其添加新的“技能”和“感知器官”。从简单的对话开始逐步探索技能开发、多模型调度、与外部系统集成这才是本地AI应用开发的真正起点。
本地AI智能体部署指南：基于ChatGPT Work与Ollama搭建私有对话平台
最近在AI开发圈里一个现象越来越明显大家不再满足于仅仅调用云端API而是开始琢磨怎么把大模型“请”到自己的电脑上。无论是出于数据隐私的考量、网络延迟的烦恼还是单纯想折腾一下本地算力本地部署模型都成了一个绕不开的话题。但问题也随之而来。直接上手Ollama、LM Studio这些工具虽然能跑起来但总感觉缺了点什么——一个能像ChatGPT那样流畅对话、管理上下文、甚至能联网搜索的“智能体”前端。难道为了用本地模型我们就得退回到命令行问答的原始时代吗当然不是。这就是我们今天要聊的ChatGPT Work也被称为OpenClaw出现的背景。它不是一个新模型而是一个开源的、可本地部署的AI代理框架。它的核心价值在于让你能用类似ChatGPT的Web界面和交互体验去驱动你本地的Ollama模型。简单说它给本地大模型装上了“大脑”和“手脚”让它从一个只能回答问题的“书呆子”变成一个能执行任务、管理对话的“智能助手”。本文将带你从零开始完成ChatGPT Work的安装、配置并实测其与本地Ollama模型的联动效果。我们会重点解决安装过程中的各种“坑”比如网络问题、端口冲突、模型加载失败等并提供清晰的配置示例和排查思路。读完本文你将能独立搭建一个属于你自己的、功能完整的本地AI对话平台。1. 核心价值为什么你需要关注ChatGPT Work在深入技术细节之前我们必须先搞清楚ChatGPT Work到底解决了什么痛点它和直接使用Ollama的Web UI或LM Studio有什么区别1.1 痛点分析本地模型使用的“最后一公里”难题当你成功在本地用Ollama跑起一个7B或13B的模型后通常会面临几个尴尬交互简陋Ollama自带的ollama run命令行或基础Web UI功能单一缺乏多轮对话管理、对话历史保存、流式输出优化等现代聊天应用应有的体验。能力孤立模型只是一个语言模型它无法主动调用工具如计算器、搜索、无法访问外部知识除非微调、更无法作为一个“代理”去规划并执行复杂任务。集成困难如果你想把它嵌入到自己的应用如飞书机器人、知识库问答系统中需要从零开始构建一套API封装、会话管理和工具调用框架。ChatGPT Work瞄准的正是这些痛点。它本质上是一个AI Agent框架的后端网关Gateway和一个现代化的前端界面。1.2 ChatGPT Work vs. 其他方案为了更直观地理解其定位我们做一个简单对比特性/方案Ollama (原生)LM StudioChatGPT Work (OpenClaw)核心定位本地大模型运行与基础管理本地模型GUI管理推理AI代理框架 本地模型前端交互体验命令行/基础Web UI优秀的单机GUI侧重模型加载与测试类ChatGPT的Web聊天界面支持对话历史、流式响应核心能力模型拉取、运行、基础对话模型加载、硬件监控、对话测试对话管理、插件/工具扩展、多模型路由、API服务可扩展性通过API有限扩展主要用于本地测试与开发高设计上支持接入不同后端Ollama, OpenAI等可开发自定义技能适合场景开发者快速测试模型非开发者或研究者本地体验模型开发者构建本地AI应用、需要Agent能力、追求完整对话体验结论如果你只需要“跑起来看看”Ollama或LM Studio足够了。但如果你想构建一个功能接近ChatGPT的本地应用或者需要为你的本地模型添加工具调用等Agent能力那么ChatGPT Work是一个更专业的选择。1.3 它适合谁全栈/后端开发者希望快速搭建一个私有AI对话服务并集成到现有系统。AI应用爱好者不满足于简单问答想探索本地模型的Agent潜能。注重隐私的团队/个人需要完全离线的智能对话助手且对交互体验有要求。学习AI Agent架构的学生通过一个开源项目理解Agent、技能、网关等概念的实际实现。2. 核心概念与架构解析在动手之前理解ChatGPT Work的几个核心概念能让你在配置和排查问题时事半功倍。2.1 核心组件ChatGPT Work的架构通常包含以下部分根据版本可能略有不同Gateway (网关)这是核心后端服务。它接收来自前端或API的请求进行会话管理、请求路由、插件调度并将请求转发给对应的模型后端如Ollama。你遇到的openclaw gateway run命令就是在启动它。Web UI (前端)一个类似ChatGPT的网页界面用户在此进行对话。它通过HTTP接口与Gateway通信。Skill (技能)这是Agent能力的体现。一个Skill可以是一个简单的函数也可以是一个复杂的流程用于扩展模型的能力。例如一个“天气查询”Skill当用户问天气时Gateway会先调用这个Skill获取真实数据再将结果和问题一起交给模型生成回复。Model Provider (模型提供商)即实际运行模型的底层服务。ChatGPT Work支持接入多种Provider我们主要关注Ollama它负责在本机加载和运行大模型。Config (配置)通常是一个config.yaml或config.json文件用于定义Gateway监听的端口、启用的Skill、连接的Model Provider及其参数。2.2 工作流程一次典型的用户对话流程如下用户在Web UI输入“北京今天天气怎么样”Web UI将问题发送给Gateway。Gateway解析请求发现触发了预定义的“天气查询”Skill。Gateway调用该Skill例如访问一个天气API获取到北京的实时天气数据。Gateway将原始问题“北京今天天气怎么样”和Skill返回的天气数据组合成一个新的提示词发送给配置好的Ollama服务。Ollama中的本地模型根据组合后的提示词生成一段自然语言的回复例如“根据查询北京今天晴气温15-25摄氏度……”Gateway将回复流式传输回Web UI展示给用户。这个过程实现了本地模型 外部工具的协同让本地模型突破了其训练数据的时间限制能够处理实时信息。3. 环境准备与安装规划我们的目标是搭建一个完整的本地环境Ollama (模型层) ChatGPT Work Gateway (代理层) Web UI (表现层)。3.1 系统与环境要求操作系统Windows 10/11, macOS, 或 Linux (本文以Windows为例其他系统原理相通)。内存至少16GB RAM。运行7B参数模型约需8-10GB空闲内存13B模型则需要更多。存储空间预留20GB以上空间用于存放模型文件。网络需要良好的网络环境以下载安装包和模型。对于国内用户Ollama下载慢是首要解决的问题。命令行工具需要终端Windows PowerShell或CMD推荐使用Windows Terminal。3.2 工具安装清单我们将按顺序安装以下工具Ollama负责拉取和运行本地大模型。ChatGPT Work (OpenClaw)包含Gateway和Web UI。(可选) 模型文件通过Ollama拉取如llama3.2:1b,qwen2.5:7b等。4. 第一步解决网络问题安装Ollama对于国内用户直接安装Ollama最大的障碍就是下载速度极慢甚至失败。我们必须先配置镜像源。4.1 配置Ollama国内镜像源关键步骤Ollama默认从https://ollama.com拉取模型。我们可以通过修改系统环境变量将其指向国内镜像站。对于Windows用户 打开“系统属性” - “高级” - “环境变量”。 在“系统变量”或“用户变量”中新建一个变量变量名OLLAMA_HOST变量值0.0.0.0(这表示监听所有IP方便后续Gateway连接) 接着再新建一个变量这是加速下载的关键变量名OLLAMA_MODELS变量值https://mirror.ghproxy.com/https://ollama.com/library说明这里使用了ghproxy.com镜像站你也可以寻找其他可用的国内镜像。完成后点击确定务必重启你的命令行终端以使环境变量生效。对于macOS/Linux用户 在终端中执行export OLLAMA_HOST0.0.0.0 export OLLAMA_MODELShttps://mirror.ghproxy.com/https://ollama.com/library为了使配置永久生效可以将这两行添加到你的shell配置文件如~/.bashrc,~/.zshrc中然后执行source ~/.zshrc。4.2 下载并安装Ollama访问Ollama官网https://ollama.com下载对应操作系统的安装包。像安装普通软件一样安装它。安装完成后Ollama服务应该会自动在后台运行。验证安装打开一个新的终端确保环境变量已生效输入ollama --version如果显示版本号说明安装成功。4.3 拉取并运行一个测试模型为了验证Ollama和镜像源是否工作正常我们拉取一个较小的模型进行测试。ollama pull llama3.2:1b这个命令会下载Meta发布的Llama 3.2 1B参数模型体积较小下载快。如果镜像源配置正确下载速度会有显著提升。下载完成后运行该模型ollama run llama3.2:1b你应该能看到模型启动并进入一个交互式命令行界面。输入“Hello”看它是否能回复。输入/bye退出。至此你的本地模型引擎Ollama已经就绪并在11434端口默认提供服务。5. 第二步安装与配置ChatGPT Work (OpenClaw)ChatGPT Work的安装方式有多种包括Docker、直接下载可执行文件等。我们选择最简单直接的方式使用其预编译的CLI工具。5.1 获取OpenClaw Gateway根据你的网络情况选择以下一种方式从GitHub Releases下载访问项目的GitHub Release页面下载对应系统的最新版openclaw-gateway可执行文件。使用包管理工具如需要某些社区可能提供了brew或scoop的安装方式请以项目官方文档为准。对于Windows用户下载一个名为openclaw-gateway-windows-amd64.exe的文件。为了方便可以将其重命名为openclaw.exe并放置在一个你熟悉的目录例如D:\AI_Tools\OpenClaw\。5.2 创建基础配置文件ChatGPT Work需要一个配置文件来指定如何运行。在openclaw.exe的同级目录下创建一个名为config.yaml的文件。以下是连接本地Ollama的最简配置# config.yaml gateway: port: 3000 # Gateway服务监听的端口前端将通过这个端口访问 log_level: info models: - name: local-llama # 你给这个模型配置起的名字用于前端选择 provider: ollama # 指定使用Ollama作为提供商 config: base_url: http://localhost:11434 # Ollama服务的地址和端口 model: llama3.2:1b # 指定要使用的Ollama模型名称必须与已pull的模型一致 skills: [] # 初始阶段我们不配置额外技能先保证基础对话畅通 # 前端UI配置如果Gateway内置或关联了UI ui: enabled: true这个配置文件告诉Gateway在本地3000端口启动服务。定义一个名为local-llama的模型它连接到本地Ollama服务的llama3.2:1b模型。5.3 启动Gateway服务打开终端PowerShell或CMD导航到openclaw.exe所在的目录。cd D:\AI_Tools\OpenClaw然后运行启动命令.\openclaw.exe gateway run --config .\config.yaml如果一切正常你将看到类似以下的输出表明Gateway已成功启动并加载了配置INFO[0000] Starting gateway server... INFO[0000] Gateway server started on http://localhost:3000 INFO[0000] Loaded model: local-llama (provider: ollama)5.4 常见启动错误与排查如果你遇到了[openclaw] could not start the cli或openclaw closed before connect conn这类错误请按以下顺序排查端口冲突3000端口可能被其他程序占用。可以修改config.yaml中的gateway.port为其他端口如3001。配置文件错误YAML文件对缩进非常敏感。确保使用空格缩进而不是Tab键。可以使用在线YAML校验器检查语法。Ollama服务未运行确保Ollama在运行。在另一个终端执行ollama list看是否有模型列出。或者访问http://localhost:11434Ollama会返回一个简单的JSON。模型名称不匹配config.yaml中model: “llama3.2:1b”必须与Ollama中已拉取的模型名完全一致。用ollama list确认模型名。可执行文件权限Linux/macOS可能需要使用chmod x openclaw赋予执行权限。查看详细日志启动时添加--log-level debug参数可以获得更详细的错误信息。.\openclaw.exe gateway run --config .\config.yaml --log-level debug6. 第三步访问Web UI并进行首次对话Gateway启动成功后它通常已经内置或关联了一个Web UI。打开你的浏览器访问http://localhost:3000(如果修改了端口请替换为对应的端口)。你应该能看到一个类似ChatGPT的聊天界面。在界面上找到模型选择器可能在下拉菜单或设置中选择我们配置的local-llama模型。在输入框发送一条消息例如“用中文介绍一下你自己。”观察回复。如果成功你将看到流式输出的、由你的本地Llama 3.2 1B模型生成的回答。恭喜你已经成功搭建了本地模型AI代理的前端平台。7. 进阶配置与功能探索基础对话跑通后我们可以探索ChatGPT Work更强大的功能。7.1 接入更多Ollama模型你可以在Ollama中拉取更多、更强的模型并在config.yaml中配置多个模型选项供前端切换。models: - name: “local-llama-fast” provider: “ollama” config: base_url: “http://localhost:11434” model: “llama3.2:1b” - name: “local-qwen-powerful” # 新增一个模型配置 provider: “ollama” config: base_url: “http://localhost:11434” model: “qwen2.5:7b” # 假设你已经 pull 了 qwen2.5:7b 模型重启Gateway后前端就可以在local-llama-fast和local-qwen-powerful之间切换。7.2 配置基础技能Skill让我们添加一个简单的“回声”技能理解Skill的工作原理。修改config.yaml的skills部分skills: - name: “echo” # 技能名称 description: “A simple skill that echoes the input.” # 技能描述 triggers: # 触发条件这里我们简单定义为用户输入包含‘echo’ - type: “keyword” keyword: “echo” action: # 技能执行的动作 type: “http” config: url: “https://httpbin.org/post” # 一个用于测试的公共API method: “POST” headers: Content-Type: “application/json” body: ‘{“message”: “{{.input}}”}’ # 将用户输入作为请求体 response_handler: # 处理API返回的数据 type: “template” template: “Echo Skill Response: {{.body.message}}”这个技能会在用户输入包含“echo”时被触发向一个测试API发送POST请求并将返回的信息格式化后连同原始问题一起交给模型生成最终回复。你需要重启Gateway来加载新技能。7.3 配置系统提示词System Prompt你可以为模型定义系统角色使其行为更符合你的需求。这通常在模型配置中完成models: - name: “local-llama-assistant” provider: “ollama” config: base_url: “http://localhost:11434” model: “llama3.2:1b” options: # Ollama特有的模型运行参数 num_ctx: 4096 temperature: 0.7 system: “你是一个专业的编程助手回答要简洁、准确。如果遇到不确定的问题请直接说明。” # 系统提示词8. 常见问题与深度排查指南以下是部署过程中可能遇到的典型问题及解决方案。问题现象可能原因排查步骤解决方案Gateway启动失败could not start the cli1. 端口被占用2. 配置文件语法错误3. 可执行文件损坏或权限不足1.netstat -ano | findstr :3000查看端口占用2. 使用在线工具校验config.yaml3. 尝试在另一个干净目录运行1. 更改config.yaml中的端口2. 修正YAML语法注意缩进3. 重新下载可执行文件确保有执行权限前端无法连接到模型或提示超时1. Ollama服务未运行2.base_url配置错误3. 防火墙阻止连接1. 在浏览器访问http://localhost:114342. 检查config.yaml中base_url的IP和端口3. 暂时关闭防火墙测试1. 在终端运行ollama serve启动服务2. 确保IP为localhost或127.0.0.1端口为114343. 在防火墙中为Ollama添加入站规则模型列表为空或找不到指定模型1. Ollama中未拉取对应模型2. 模型名称拼写错误3. Ollama环境变量导致路径问题1. 运行ollama list2. 仔细对比ollama list输出和config.yaml中的model字段3. 检查OLLAMA_MODELS镜像源是否影响了本地模型查找1. 使用ollama pull model_name拉取正确模型2. 确保大小写和冒号后的标签完全一致3. 尝试在不设置OLLAMA_MODELS的情况下重启Ollama服务Web UI页面无法打开(404)1. Gateway未成功启动UI2. 访问的URL路径错误3. 前端资源未正确打包1. 检查启动日志是否有UI相关错误2. 确认访问的是Gateway端口如3000而不是Ollama端口3. 查看项目文档确认当前版本是否包含UI1. 确保config.yaml中ui.enabled为true2. 尝试访问http://localhost:3000根路径3. 考虑使用独立的第三方前端如chatbot-ui连接Gateway的API技能(Skill)不触发1. 触发条件配置过于严格或不匹配2. Skill动作配置的API不可用3. Gateway未加载最新配置1. 检查triggers下的keyword是否匹配用户输入2. 使用curl或Postman测试Skill中配置的API端点3. 重启Gateway服务1. 简化触发条件例如使用type: “always”进行测试2. 更换为可用的测试API或本地Mock服务3. 修改配置后必须重启Gateway9. 生产环境考量与最佳实践如果你计划将这套系统用于更严肃的用途或小团队共享以下建议至关重要。9.1 安全与权限不要暴露到公网默认配置下Gateway和Ollama都监听在本地(localhost)。如果出于测试需要让局域网其他机器访问可以将配置中的localhost改为本机局域网IP但务必意识到这会使服务在局域网内可见。切勿在无防火墙保护的情况下将服务端口直接暴露在互联网。API密钥管理如果未来添加需要API Key的技能如联网搜索切勿将密钥硬编码在config.yaml中。应该使用环境变量或专门的密钥管理服务。# 在config.yaml中引用环境变量 api_key: “{{ env “MY_API_KEY” }}”输入输出过滤对于用户输入和模型输出应考虑基本的过滤和审查防止恶意提示或不当内容生成。9.2 性能与稳定性模型选择根据你的硬件选择模型。7B模型在16GB内存上通常能流畅运行而更大的模型可能需要更多内存甚至GPU。Ollama参数调优在config.yaml的模型options中可以调整num_ctx上下文长度、temperature创造性等参数以平衡速度和质量。Gateway监控关注Gateway进程的资源占用情况。对于长期运行的服务可以考虑使用systemd(Linux)或nssm(Windows)将其注册为系统服务实现开机自启和故障重启。日志管理将Gateway的日志级别调整为info或error并配置日志轮转避免日志文件无限增大。9.3 配置管理与版本控制配置文件版本化将你的config.yaml纳入Git等版本控制系统方便追踪变更和团队协作。环境分离可以创建多个配置文件如config.dev.yaml开发、config.prod.yaml生产通过启动命令指定。.\openclaw.exe gateway run --config .\config.prod.yaml9.4 扩展与集成接入飞书/钉钉等平台ChatGPT Work的设计支持通过API被调用。你可以编写一个简单的中间件服务接收飞书机器人的Webhook请求将其转发给本地Gateway再将回复传回飞书。这需要你了解对应平台的机器人开发规范。连接知识库要实现类似“私有知识库问答”的功能这超出了基础ChatGPT Work的范围。通常需要额外构建一个RAG检索增强生成管道将文档切片、向量化存储在用户提问时先检索相关片段再将片段作为上下文提供给模型。你可以将这套RAG系统封装成一个Skill供Gateway调用。使用更强大的前端如果内置UI功能有限你可以寻找更成熟的开源Chat UI项目如chatbot-ui,Open WebUI它们通常支持配置后端API地址将其指向你的Gateway即可。通过以上步骤你不仅成功搭建了一个本地AI对话环境更掌握了一套将本地模型“智能化”、“产品化”的框架。ChatGPT Work的价值在于它提供了一个可扩展的Agent架构让你能基于本地模型这个“大脑”不断为其添加新的“技能”和“感知器官”。从简单的对话开始逐步探索技能开发、多模型调度、与外部系统集成这才是本地AI应用开发的真正起点。