简介面向希望在本地运行大语言模型并实现工具调用的开发者这份代码包展示了如何将OpenClaw与Ollama进行集成。Ollama作为开源本地模型运行环境通过OpenClaw的OpenAI兼容API接入可自动发现支持工具调用的模型适用于离线环境下的AI应用开发、模型调试与隐私敏感场景。压缩包共3个文件其中html文件提供集成说明与配置向导inscode为可直接运行的代码环境配置gitignore用于剔除无关文件整体仅7KB轻量易用。已有178人学习下载。借助这个代码包开发者能掌握Ollama安装、模型拉取、显式/隐式模型配置、推理模型与上下文窗口调整等关键操作并获得常见故障的排错思路从而快速搭建本地工具调用模型环境。Ollama提供免费且完全离线的本地运行方式适合个人开发者与小型团队在隐私敏感或低成本场景中实践节省自行调研与踩坑时间。 最近圈子里聊OpenClaw的人越来越多很多人一上来就想着接ChatGPT或者Claude的API结果不是被API连接不稳定折腾到没脾气就是被token费用搞得心慌。我自己前前后后折腾了一周多把OpenClaw和Ollama本地模型完整打通了现在整套AI代理跑在本地写文案、回消息、做数据分析都顺手很多。这篇文章就把我从零到一的完整过程整理出来包括环境安装、配置文件、代码示例、参数调优和踩坑记录给想本地化部署的朋友一份可以直接照着抄的方案。说实话OpenClaw这个项目在智能体圈子里火起来是有原因的。它把“模型编排”和“工具调用”做了很好的解耦本地模型只要暴露一个标准接口就能接进去。而Ollama作为本地模型运行器恰恰把“把模型跑起来”这件事简化到了极致。两者一组合等于把过去要花半天时间搭的LLM基础设施压缩成了一条命令的事。下面我就按实际操作的顺序从方案选型到问题排查一步步讲清楚。1. 方案选型为什么我选择OpenClaw Ollama1.1 OpenClaw到底是什么OpenClaw是一个开源的AI代理/智能体框架你可以把它理解成一个“AI管家的大脑”。它负责接收消息、拆解任务、调用工具、组织多轮对话然后把最终结果返回给用户。和那些绑定特定云厂商的智能体平台不同OpenClaw的核心只定义了一套模型接入规范具体底层用的是哪家大模型、哪个本地模型完全由你决定。这样的好处很明显你换模型的时候不需要改业务逻辑只需要改配置。我把它装好后的第一感觉是它特别像一个“消息中转站任务调度中心”。你可以让它接入微信、飞书、Telegram也可以只让它跑在命令行里当个人助理。无论是简单问答还是复杂的多步任务比如“查一下天气然后帮我写个出行建议”它都能通过工具调用的方式一步步完成。对于想自己掌控数据和逻辑的开发者来说这种结构非常友好。1.2 为什么接Ollama而不是云端API我最早也图省事直接用云端模型API但实际用下来有三个痛点很难忍。第一是隐私问题工作里有些数据不适合传到第三方服务器每次都要人工脱敏太麻烦。第二是成本问题哪怕一个中等频率的日常助手一个月下来的token费用也够吃好几顿火锅了。第三是稳定问题API总有波动的时候有时候半夜想跑个任务网络一抖就前功尽弃。Ollama彻底解决了这三个问题。它是一个本地模型运行框架支持Llama、Qwen、DeepSeek、Mistral等一系列开源模型通过简单的命令行就能把模型拉到本地然后暴露一个类似OpenAI的HTTP接口。本地模型跑起来之后数据全程不出机器调用次数再频繁也不产生额外费用而且断网也能用。当然代价也很明显你的电脑得有一块像样的GPU或者至少内存要够大否则推理速度会慢到怀疑人生。1.3 这套组合适合谁如果你满足下面任意一条OpenClaw Ollama就很值得试试手里有本地GPUNVIDIA、AMD都可以Apple Silicon也能跑想搞一个私有的AI助手。开发智能体应用需要一个稳定、免费、可离线运行的模型后端做测试。对数据敏感不希望对话内容经过第三方服务器。单纯觉得云端API太贵想通过量化模型把成本压到几乎为零。对于完全没有GPU、纯靠CPU跑的朋友也不是不行只要你不介意每次回复要等几十秒用7B甚至更小的量化模型还是能玩的。2. 环境准备与安装2.1 安装Ollama并拉取模型Ollama的安装本身很简单。Windows和macOS直接去官网下载安装包Linux用户用一条命令就能装curl -fsSL https://ollama.com/install.sh | sh装完之后在终端里执行ollama --version如果能看到版本号就说明成功了。接下来拉取模型我这边实测用Qwen2.5 7B做日常对话很均衡显存压力小中文质量也在线ollama pull qwen2.5:7b下载模型的时候你可能会遇到一个很现实的问题速度特别慢。这通常是模型文件从官方源拉取时的网络链路问题。我的处理方法是直接去社区维护的镜像站下载GGUF格式的模型文件然后用Modelfile方式导入Ollama。具体操作后面第5部分会详细说这里先不展开。拉取完成后用ollama list确认模型已经在本地再用ollama run qwen2.5:7b跑一条测试消息确认能正常回复模型层就准备好了。2.2 安装OpenClawOpenClaw官方推荐用PowerShell一键部署脚本安装在Windows上打开PowerShell执行powershell -c irm https://openclaw.example.com/install.ps1 | iex注意上面的域名是我随手写的示意地址实际安装时要以OpenClaw官方文档里提供的脚本地址为准。安装过程中如果遇到执行策略限制可以先运行Set-ExecutionPolicy -ExecutionPolicy RemoteSigned -Scope CurrentUser。安装完成后OpenClaw会生成一个配置文件目录里面放着配置模型、渠道、插件参数的入口。我用的是默认目录在用户主目录下的.openclaw文件夹里。如果你之前用过其他智能体框架会发现它的配置风格很接近一个全局配置文件加一个插件目录不复杂也没有那么多概念要学。如果你的机器上有Bun或Node.js运行时OpenClaw也能以更灵活的方式启动方便二次开发。不过对于普通用户官方的一键部署体验已经足够好了。2.3 验证本地模型服务是否可用Ollama装好并启动后默认会在11434端口提供HTTP API。我们可以先用命令行验证一下这里模拟一次对话请求curl http://localhost:11434/api/chat \ -H Content-Type: application/json \ -d { model: qwen2.5:7b, messages: [{role: user, content: 你好用一句话介绍你自己}], stream: false }如果你能看到类似{message:{role:assistant,content:...}}的返回说明模型服务完全正常。这一步验证很关键因为后面OpenClaw接入时如果报错至少能区分是OpenClaw的问题还是Ollama的问题。3. OpenClaw接入Ollama的配置与代码示例3.1 核心配置项说明OpenClaw接Ollama不需要写任何插件只需要在配置文件里把模型供应商指向Ollama就行。我用的配置文件是config.json核心片段如下{ model: { provider: ollama, name: qwen2.5:7b, baseUrl: http://localhost:11434, temperature: 0.7, maxTokens: 2048 } }几个关键参数解释一下provider固定填ollama告诉OpenClaw走Ollama的协议。name模型名称必须和ollama list里的名字完全一致多一个标签都不行。baseUrl默认就是本地端口的地址不用改如果你把Ollama跑在远程服务器上改成对应IP和端口即可。temperature控制随机性写文案可以调到0.8左右做数据抽取建议0.2以下。maxTokens限制单次回复最多生成多少token防止长文本把显存撑爆。配置完成后重启OpenClaw它就会自动通过Ollama加载模型了。如果一切正常你在OpenClaw的对话框里发一条消息很快就能收到来自本地模型的回复。3.2 示例代码用Python直接调用Ollama API虽然OpenClaw已经帮我们把底层调用封装好了但开发过程中我经常需要直接调试模型行为。这里分享一段最常用的Python调用代码它走的就是Ollama原生APIOpenClaw内部也是用同样的协议做通信import requests import json def ollama_chat(model: str, messages: list, temperature: float 0.7): payload { model: model, messages: messages, stream: False, options: { temperature: temperature, num_ctx: 4096 } } resp requests.post( http://localhost:11434/api/chat, jsonpayload, timeout120 ) resp.raise_for_status() return resp.json()[message][content] if __name__ __main__: msgs [ {role: system, content: 你是一个简洁高效的助理。}, {role: user, content: 帮我把今天的待办整理成清单写周报、约会议室、买咖啡豆。} ] result ollama_chat(qwen2.5:7b, msgs) print(result)注意num_ctx这个参数它决定了模型能“记住”多长的上下文。4096大约是4K上下文日常聊天够用了。如果你要处理长文档可以调高到8192甚至16384但代价是显存占用会明显上升。3.3 接入微信等消息渠道OpenClaw最吸引人的功能之一就是能接入微信。配置好模型之后接下来就是绑定渠道。在OpenClaw的管理界面或者配置文件里添加微信渠道按提示扫码登录即可。这样别人给你发微信消息OpenClaw会把消息内容提取出来交给本地模型处理再把回复发回去。这里提醒一句个人微信号做自动回复存在一定的账号风控风险建议用小号测试不要直接用工作号。我自己测试的时候用的是另一个手机号注册的号虽然很多朋友觉得方便但安全第一。如果只是自己用直接在终端里跟OpenClaw对话就已经很舒服了不一定要折腾渠道接入。4. 参数调优与性能优化4.1 让Ollama用上GPU很多朋友装好之后发现模型反应特别慢跑ollama ps一看模型跑在CPU上那肯定快不起来。Ollama本身会自动检测GPU但如果你用的是AMD显卡尤其是像AMD Ryzen AI 9 HX 370这种带NPU的移动平台情况会复杂一些。我的经验是先用下面的命令确认当前加载情况ollama ps如果显示PROCESSOR列是CPU那就需要手动让Ollama启用GPU。对NVIDIA用户装好最新驱动和CUDA运行库就行对AMD用户需要确认ROCm版本和Ollama兼容某些早期版本确实存在识别不到AMD显卡的问题。这时候可以尝试设置环境变量# Linux/macOS 示例 export OLLAMA_GPU_DRIVERrocm # Windows PowerShell 示例 $env:OLLAMA_GPU_DRIVERrocm另外有个容易被忽略的点Ollama默认会按模型大小自动选择层数分配到GPU如果你的显存不够跑完整模型它会有一部分层跑在CPU上速度依然会慢。这时候最好的办法是选择更小的量化版本比如把qwen2.5:7b换成带q4_0标签的量化版。4.2 上下文长度、并发与超时控制本地模型和云端API最大的不同是所有资源都是你独享的这意味着你可以随意调整并发和上下文但也要注意别把机器卡死。我整理了一张常用配置表都是我实测过比较稳的参数配置项作用建议值num_ctx控制上下文窗口长度4096起步显存够可到8192OLLAMA_NUM_PARALLEL控制同时处理的请求数2~4取决于GPU显存OLLAMA_KEEP_ALIVE模型在内存中保持加载的时间5m到30m避免频繁重新加载OLLAMA_MAX_LOADED_MODELS最多同时加载几个模型默认3建议改成1设置环境变量的方式在Windows和Linux下不太一样。Windows里直接在系统环境变量里加OLLAMA_NUM_PARALLEL2Linux下可以写成export OLLAMA_NUM_PARALLEL2 export OLLAMA_KEEP_ALIVE10m改完之后重启Ollama服务才会生效。4.3 监控与日志排查Ollama的日志是排查性能问题最重要的入口。Windows上日志默认在临时目录Linux上可以通过journalctl -u ollama查看macOS则可以看~/.ollama/logs。我遇到过好几次“模型加载速度突然变慢”的问题最后都是靠日志发现是磁盘IO瓶颈。另外如果你希望在OpenClaw里看到更详细的调用日志可以把OpenClaw的日志级别切到debug。这样每次请求Ollama的耗时、token数、错误信息都会被完整记录下来调参的时候非常有帮助。5. 常见问题与排查心得5.1 遇到“unknown model”错误这是我在OpenClaw接入Ollama时遇到的第一个报错信息大概是agent failed before reply: unknown model: deepseek...。第一反应是配置写错了但检查了一圈发现模型名明明是对的。后来才想到OpenClaw配置的模型名必须和Ollama里面的完全一致包括冒号后面的标签部分。比如你的模型是deepseek-r1:7b配置里写了deepseek-r1就会报这个错。解决方式很简单先跑到命令行执行ollama list看看完整名称再复制到OpenClaw配置里不要手敲。特别是有些模型名中间有特殊字符很容易打错。5.2 Control UI没有启动OpenClaw有一个Control UI的管理面板有时候装完执行启动命令面板并没有弹出来。我自己试过的排查顺序是先看日志确认控制服务有没有正常监听端口。如果日志提示端口被占用改一个端口再启动。如果日志显示进程启动了但页面打不开检查是不是浏览器安全策略拦截了本地页面换个浏览器或清理缓存试试。大多数情况下就是端口冲突把OpenClaw配置文件里的controlPort改一下就好。5.3 下载模型太慢的替代方案Ollama官方源下载模型慢是很多国内用户的痛点而且这个问题在不同网络环境下的表现差别很大。如果你也卡在这一步可以试一下手动导入GGUF文件先到支持GGUF格式的模型托管平台下载对应模型的量化文件比如qwen2.5-7b-instruct-q4_k_m.gguf然后在本地写一个ModelfileFROM ./qwen2.5-7b-instruct-q4_k_m.gguf把两个文件放在同一个目录下再执行ollama create qwen2.5:7b -f Modelfile这样Ollama就会从本地文件生成一个可用的模型条目绕开官方下载链路。模型效果和官方ollama pull拿到的版本基本一致唯一需要注意的是量化格式要选对否则加载时会报格式不兼容。5.4 实测踩坑记录最后分享几个我实测踩过、但网上很少提到的小坑希望能帮你少走弯路温度参数不要盲目调高。本地模型对温度比云端大模型更敏感温度开到1.2以上的时候回复经常出现前后矛盾或者重复内容我日常都锁在0.7附近。Ollama首次调用模型时会做冷加载耗时可能超过10秒这不是故障。如果你在OpenClaw里设置了很短的超时时间可能会出现“看起来像卡死”的情况建议把OpenClaw的请求超时设置在30秒以上。如果你同时加载了好几个模型显存很容易被吃满。我一度同时装了3个模型结果OpenClaw切模型时直接把电脑卡到无响应。后来老老实实设置了OLLAMA_MAX_LOADED_MODELS1才稳定下来。中文回答偶尔出现乱码或字符不完整通常是上下文长度不够导致长句被截断把num_ctx从2048调到4096基本能解决。我实际用下来的体会是OpenClaw和Ollama这套组合最大的价值不是某个单点的功能而是“把AI代理的掌控权还给了使用者”。模型随便换、数据不出门、调用不计费这种自由度是云端方案给不了的。最后再分享一个小技巧调试阶段别急着接微信先在终端里把模型对话调稳定了再上渠道。这个习惯帮我省了很多排查时间也希望对你有效。本文还有配套的精品资源点击获取 OpenClaw+Ollama本地部署AI代理指南：从零搭建私有智能体
简介面向希望在本地运行大语言模型并实现工具调用的开发者这份代码包展示了如何将OpenClaw与Ollama进行集成。Ollama作为开源本地模型运行环境通过OpenClaw的OpenAI兼容API接入可自动发现支持工具调用的模型适用于离线环境下的AI应用开发、模型调试与隐私敏感场景。压缩包共3个文件其中html文件提供集成说明与配置向导inscode为可直接运行的代码环境配置gitignore用于剔除无关文件整体仅7KB轻量易用。已有178人学习下载。借助这个代码包开发者能掌握Ollama安装、模型拉取、显式/隐式模型配置、推理模型与上下文窗口调整等关键操作并获得常见故障的排错思路从而快速搭建本地工具调用模型环境。Ollama提供免费且完全离线的本地运行方式适合个人开发者与小型团队在隐私敏感或低成本场景中实践节省自行调研与踩坑时间。 最近圈子里聊OpenClaw的人越来越多很多人一上来就想着接ChatGPT或者Claude的API结果不是被API连接不稳定折腾到没脾气就是被token费用搞得心慌。我自己前前后后折腾了一周多把OpenClaw和Ollama本地模型完整打通了现在整套AI代理跑在本地写文案、回消息、做数据分析都顺手很多。这篇文章就把我从零到一的完整过程整理出来包括环境安装、配置文件、代码示例、参数调优和踩坑记录给想本地化部署的朋友一份可以直接照着抄的方案。说实话OpenClaw这个项目在智能体圈子里火起来是有原因的。它把“模型编排”和“工具调用”做了很好的解耦本地模型只要暴露一个标准接口就能接进去。而Ollama作为本地模型运行器恰恰把“把模型跑起来”这件事简化到了极致。两者一组合等于把过去要花半天时间搭的LLM基础设施压缩成了一条命令的事。下面我就按实际操作的顺序从方案选型到问题排查一步步讲清楚。1. 方案选型为什么我选择OpenClaw Ollama1.1 OpenClaw到底是什么OpenClaw是一个开源的AI代理/智能体框架你可以把它理解成一个“AI管家的大脑”。它负责接收消息、拆解任务、调用工具、组织多轮对话然后把最终结果返回给用户。和那些绑定特定云厂商的智能体平台不同OpenClaw的核心只定义了一套模型接入规范具体底层用的是哪家大模型、哪个本地模型完全由你决定。这样的好处很明显你换模型的时候不需要改业务逻辑只需要改配置。我把它装好后的第一感觉是它特别像一个“消息中转站任务调度中心”。你可以让它接入微信、飞书、Telegram也可以只让它跑在命令行里当个人助理。无论是简单问答还是复杂的多步任务比如“查一下天气然后帮我写个出行建议”它都能通过工具调用的方式一步步完成。对于想自己掌控数据和逻辑的开发者来说这种结构非常友好。1.2 为什么接Ollama而不是云端API我最早也图省事直接用云端模型API但实际用下来有三个痛点很难忍。第一是隐私问题工作里有些数据不适合传到第三方服务器每次都要人工脱敏太麻烦。第二是成本问题哪怕一个中等频率的日常助手一个月下来的token费用也够吃好几顿火锅了。第三是稳定问题API总有波动的时候有时候半夜想跑个任务网络一抖就前功尽弃。Ollama彻底解决了这三个问题。它是一个本地模型运行框架支持Llama、Qwen、DeepSeek、Mistral等一系列开源模型通过简单的命令行就能把模型拉到本地然后暴露一个类似OpenAI的HTTP接口。本地模型跑起来之后数据全程不出机器调用次数再频繁也不产生额外费用而且断网也能用。当然代价也很明显你的电脑得有一块像样的GPU或者至少内存要够大否则推理速度会慢到怀疑人生。1.3 这套组合适合谁如果你满足下面任意一条OpenClaw Ollama就很值得试试手里有本地GPUNVIDIA、AMD都可以Apple Silicon也能跑想搞一个私有的AI助手。开发智能体应用需要一个稳定、免费、可离线运行的模型后端做测试。对数据敏感不希望对话内容经过第三方服务器。单纯觉得云端API太贵想通过量化模型把成本压到几乎为零。对于完全没有GPU、纯靠CPU跑的朋友也不是不行只要你不介意每次回复要等几十秒用7B甚至更小的量化模型还是能玩的。2. 环境准备与安装2.1 安装Ollama并拉取模型Ollama的安装本身很简单。Windows和macOS直接去官网下载安装包Linux用户用一条命令就能装curl -fsSL https://ollama.com/install.sh | sh装完之后在终端里执行ollama --version如果能看到版本号就说明成功了。接下来拉取模型我这边实测用Qwen2.5 7B做日常对话很均衡显存压力小中文质量也在线ollama pull qwen2.5:7b下载模型的时候你可能会遇到一个很现实的问题速度特别慢。这通常是模型文件从官方源拉取时的网络链路问题。我的处理方法是直接去社区维护的镜像站下载GGUF格式的模型文件然后用Modelfile方式导入Ollama。具体操作后面第5部分会详细说这里先不展开。拉取完成后用ollama list确认模型已经在本地再用ollama run qwen2.5:7b跑一条测试消息确认能正常回复模型层就准备好了。2.2 安装OpenClawOpenClaw官方推荐用PowerShell一键部署脚本安装在Windows上打开PowerShell执行powershell -c irm https://openclaw.example.com/install.ps1 | iex注意上面的域名是我随手写的示意地址实际安装时要以OpenClaw官方文档里提供的脚本地址为准。安装过程中如果遇到执行策略限制可以先运行Set-ExecutionPolicy -ExecutionPolicy RemoteSigned -Scope CurrentUser。安装完成后OpenClaw会生成一个配置文件目录里面放着配置模型、渠道、插件参数的入口。我用的是默认目录在用户主目录下的.openclaw文件夹里。如果你之前用过其他智能体框架会发现它的配置风格很接近一个全局配置文件加一个插件目录不复杂也没有那么多概念要学。如果你的机器上有Bun或Node.js运行时OpenClaw也能以更灵活的方式启动方便二次开发。不过对于普通用户官方的一键部署体验已经足够好了。2.3 验证本地模型服务是否可用Ollama装好并启动后默认会在11434端口提供HTTP API。我们可以先用命令行验证一下这里模拟一次对话请求curl http://localhost:11434/api/chat \ -H Content-Type: application/json \ -d { model: qwen2.5:7b, messages: [{role: user, content: 你好用一句话介绍你自己}], stream: false }如果你能看到类似{message:{role:assistant,content:...}}的返回说明模型服务完全正常。这一步验证很关键因为后面OpenClaw接入时如果报错至少能区分是OpenClaw的问题还是Ollama的问题。3. OpenClaw接入Ollama的配置与代码示例3.1 核心配置项说明OpenClaw接Ollama不需要写任何插件只需要在配置文件里把模型供应商指向Ollama就行。我用的配置文件是config.json核心片段如下{ model: { provider: ollama, name: qwen2.5:7b, baseUrl: http://localhost:11434, temperature: 0.7, maxTokens: 2048 } }几个关键参数解释一下provider固定填ollama告诉OpenClaw走Ollama的协议。name模型名称必须和ollama list里的名字完全一致多一个标签都不行。baseUrl默认就是本地端口的地址不用改如果你把Ollama跑在远程服务器上改成对应IP和端口即可。temperature控制随机性写文案可以调到0.8左右做数据抽取建议0.2以下。maxTokens限制单次回复最多生成多少token防止长文本把显存撑爆。配置完成后重启OpenClaw它就会自动通过Ollama加载模型了。如果一切正常你在OpenClaw的对话框里发一条消息很快就能收到来自本地模型的回复。3.2 示例代码用Python直接调用Ollama API虽然OpenClaw已经帮我们把底层调用封装好了但开发过程中我经常需要直接调试模型行为。这里分享一段最常用的Python调用代码它走的就是Ollama原生APIOpenClaw内部也是用同样的协议做通信import requests import json def ollama_chat(model: str, messages: list, temperature: float 0.7): payload { model: model, messages: messages, stream: False, options: { temperature: temperature, num_ctx: 4096 } } resp requests.post( http://localhost:11434/api/chat, jsonpayload, timeout120 ) resp.raise_for_status() return resp.json()[message][content] if __name__ __main__: msgs [ {role: system, content: 你是一个简洁高效的助理。}, {role: user, content: 帮我把今天的待办整理成清单写周报、约会议室、买咖啡豆。} ] result ollama_chat(qwen2.5:7b, msgs) print(result)注意num_ctx这个参数它决定了模型能“记住”多长的上下文。4096大约是4K上下文日常聊天够用了。如果你要处理长文档可以调高到8192甚至16384但代价是显存占用会明显上升。3.3 接入微信等消息渠道OpenClaw最吸引人的功能之一就是能接入微信。配置好模型之后接下来就是绑定渠道。在OpenClaw的管理界面或者配置文件里添加微信渠道按提示扫码登录即可。这样别人给你发微信消息OpenClaw会把消息内容提取出来交给本地模型处理再把回复发回去。这里提醒一句个人微信号做自动回复存在一定的账号风控风险建议用小号测试不要直接用工作号。我自己测试的时候用的是另一个手机号注册的号虽然很多朋友觉得方便但安全第一。如果只是自己用直接在终端里跟OpenClaw对话就已经很舒服了不一定要折腾渠道接入。4. 参数调优与性能优化4.1 让Ollama用上GPU很多朋友装好之后发现模型反应特别慢跑ollama ps一看模型跑在CPU上那肯定快不起来。Ollama本身会自动检测GPU但如果你用的是AMD显卡尤其是像AMD Ryzen AI 9 HX 370这种带NPU的移动平台情况会复杂一些。我的经验是先用下面的命令确认当前加载情况ollama ps如果显示PROCESSOR列是CPU那就需要手动让Ollama启用GPU。对NVIDIA用户装好最新驱动和CUDA运行库就行对AMD用户需要确认ROCm版本和Ollama兼容某些早期版本确实存在识别不到AMD显卡的问题。这时候可以尝试设置环境变量# Linux/macOS 示例 export OLLAMA_GPU_DRIVERrocm # Windows PowerShell 示例 $env:OLLAMA_GPU_DRIVERrocm另外有个容易被忽略的点Ollama默认会按模型大小自动选择层数分配到GPU如果你的显存不够跑完整模型它会有一部分层跑在CPU上速度依然会慢。这时候最好的办法是选择更小的量化版本比如把qwen2.5:7b换成带q4_0标签的量化版。4.2 上下文长度、并发与超时控制本地模型和云端API最大的不同是所有资源都是你独享的这意味着你可以随意调整并发和上下文但也要注意别把机器卡死。我整理了一张常用配置表都是我实测过比较稳的参数配置项作用建议值num_ctx控制上下文窗口长度4096起步显存够可到8192OLLAMA_NUM_PARALLEL控制同时处理的请求数2~4取决于GPU显存OLLAMA_KEEP_ALIVE模型在内存中保持加载的时间5m到30m避免频繁重新加载OLLAMA_MAX_LOADED_MODELS最多同时加载几个模型默认3建议改成1设置环境变量的方式在Windows和Linux下不太一样。Windows里直接在系统环境变量里加OLLAMA_NUM_PARALLEL2Linux下可以写成export OLLAMA_NUM_PARALLEL2 export OLLAMA_KEEP_ALIVE10m改完之后重启Ollama服务才会生效。4.3 监控与日志排查Ollama的日志是排查性能问题最重要的入口。Windows上日志默认在临时目录Linux上可以通过journalctl -u ollama查看macOS则可以看~/.ollama/logs。我遇到过好几次“模型加载速度突然变慢”的问题最后都是靠日志发现是磁盘IO瓶颈。另外如果你希望在OpenClaw里看到更详细的调用日志可以把OpenClaw的日志级别切到debug。这样每次请求Ollama的耗时、token数、错误信息都会被完整记录下来调参的时候非常有帮助。5. 常见问题与排查心得5.1 遇到“unknown model”错误这是我在OpenClaw接入Ollama时遇到的第一个报错信息大概是agent failed before reply: unknown model: deepseek...。第一反应是配置写错了但检查了一圈发现模型名明明是对的。后来才想到OpenClaw配置的模型名必须和Ollama里面的完全一致包括冒号后面的标签部分。比如你的模型是deepseek-r1:7b配置里写了deepseek-r1就会报这个错。解决方式很简单先跑到命令行执行ollama list看看完整名称再复制到OpenClaw配置里不要手敲。特别是有些模型名中间有特殊字符很容易打错。5.2 Control UI没有启动OpenClaw有一个Control UI的管理面板有时候装完执行启动命令面板并没有弹出来。我自己试过的排查顺序是先看日志确认控制服务有没有正常监听端口。如果日志提示端口被占用改一个端口再启动。如果日志显示进程启动了但页面打不开检查是不是浏览器安全策略拦截了本地页面换个浏览器或清理缓存试试。大多数情况下就是端口冲突把OpenClaw配置文件里的controlPort改一下就好。5.3 下载模型太慢的替代方案Ollama官方源下载模型慢是很多国内用户的痛点而且这个问题在不同网络环境下的表现差别很大。如果你也卡在这一步可以试一下手动导入GGUF文件先到支持GGUF格式的模型托管平台下载对应模型的量化文件比如qwen2.5-7b-instruct-q4_k_m.gguf然后在本地写一个ModelfileFROM ./qwen2.5-7b-instruct-q4_k_m.gguf把两个文件放在同一个目录下再执行ollama create qwen2.5:7b -f Modelfile这样Ollama就会从本地文件生成一个可用的模型条目绕开官方下载链路。模型效果和官方ollama pull拿到的版本基本一致唯一需要注意的是量化格式要选对否则加载时会报格式不兼容。5.4 实测踩坑记录最后分享几个我实测踩过、但网上很少提到的小坑希望能帮你少走弯路温度参数不要盲目调高。本地模型对温度比云端大模型更敏感温度开到1.2以上的时候回复经常出现前后矛盾或者重复内容我日常都锁在0.7附近。Ollama首次调用模型时会做冷加载耗时可能超过10秒这不是故障。如果你在OpenClaw里设置了很短的超时时间可能会出现“看起来像卡死”的情况建议把OpenClaw的请求超时设置在30秒以上。如果你同时加载了好几个模型显存很容易被吃满。我一度同时装了3个模型结果OpenClaw切模型时直接把电脑卡到无响应。后来老老实实设置了OLLAMA_MAX_LOADED_MODELS1才稳定下来。中文回答偶尔出现乱码或字符不完整通常是上下文长度不够导致长句被截断把num_ctx从2048调到4096基本能解决。我实际用下来的体会是OpenClaw和Ollama这套组合最大的价值不是某个单点的功能而是“把AI代理的掌控权还给了使用者”。模型随便换、数据不出门、调用不计费这种自由度是云端方案给不了的。最后再分享一个小技巧调试阶段别急着接微信先在终端里把模型对话调稳定了再上渠道。这个习惯帮我省了很多排查时间也希望对你有效。本文还有配套的精品资源点击获取