拓十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

OpenBiliClaw如何接入最好的大模型:DeepSeek、Ollama与本地模型配置实战清单

OpenBiliClaw如何接入最好的大模型:DeepSeek、Ollama与本地模型配置实战清单 OpenBiliClaw如何接入最好的大模型DeepSeek、Ollama与本地模型配置实战清单【免费下载链接】OpenBiliClaw本地私有、开源的自进化跨平台 AI 内容发现 Agent先理解你再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微博等平台与开放 Web 寻找内容。支持 deepseek harness 插件 | Local-first open-source cross-platform AI content discovery agent: understands you, then proactively finds content across Bilibili, Xiaohongshu, Douyin, YouTube, X, Zhihu, Reddit, Weibo and the open web.support deepseek harness plugin项目地址: https://gitcode.com/gh_mirrors/op/OpenBiliClawOpenBiliClaw 是一个本地优先、开源的跨平台 AI 内容发现 Agent它能先理解你的兴趣画像再主动从 B 站、小红书、抖音、YouTube、X、知乎等平台寻找内容。而这一切的大脑都来自你为大模型配置的模型。本文是一份大模型配置实战清单从接入 DeepSeek、到用 Ollama 本地模型离线跑再到分模块路由与避坑清单全程图形化操作几乎不用手写代码。一、为什么要先配好大模型 OpenBiliClaw 的所有智能行为——兴趣画像生成、候选内容相关性打分、推荐文案撰写、和你聊聊口味——都由大模型驱动。模型选得不对后果很直接画像不准、推荐文案敷衍、甚至初始化卡在门禁上。配置其实只有两个独立部分新手先建立这个心智模型组成部分配置位置作用是否必须聊天 / 推理模型[llm][llm.instances.id]画像、评估、文案、对话✅ 必须配一个Embedding 向量模型[llm.embedding]主题去重、语义相似度可选推荐本地 Ollama两者完全解耦聊天用 DeepSeek、向量用本地 Ollama 的组合是完全合法的互不干扰。二、3步完成OpenBiliClaw大模型配置步骤 1在设置页创建模型实例启动后端后打开桌面 Web 的「设置」→「模型」标签页或直接编辑 config.example.toml 风格的config.toml。每个实例是一套完整可独立调用的端点类型 地址 凭据 模型四件套缺一不可。provider_type支持 8 种类型按需选择deepseek— DeepSeek 官方 API国内网络默认首选openai/claude/gemini— 三大官方 APIopenrouter/orcarouter— 聚合网关一个 Key 调 150 模型openai_compatible— 万能钥匙Groq、vLLM、OneAPI、自建中转ollama— 本地模型详见第五节步骤 2把实例放进 default_chain 故障切换链[llm]段的default_chain是一个有序的实例 ID 链请求从左到右依次尝试当前实例出现失败、超时或限流时自动降级到下一个。限流冷却按实例 ID 隔离健康的备用渠道不会被连坐[llm] routing_version 2 default_chain [deepseek, relay-backup] # 主渠道 备用中转 [llm.instances.deepseek] name DeepSeek 官方 provider_type deepseek enabled true api_key sk-... model deepseek-v4-flash base_url # 留空 官方 API 地址 reasoning_effort medium保存时有强校验空链、重复引用、停用实例、缺凭据的启用实例都会被拦截并给出具体修复提示不会出现配了但没生效的静默失败。步骤 3一键连通性探测不写盘不保存设置页每个实例旁都有测试按钮。它走的是无写入探测接口临时构建 registry 真实发一次请求返回最终命中的实例、模型与延迟失败时行内直接显示错因Key 被拒 / 额度不足 / 超时 / 空响应不会修改你磁盘上的配置。确认绿灯后再保存即可。三、DeepSeek 接入多数用户的默认最优解 对国内用户DeepSeek 官方 API 是性价比与可用性平衡最好的起点模型选择默认deepseek-v4-flash快、便宜、够用画像质量要求更高时可换deepseek-v4-pro思考档位reasoning_effort默认mediumDeepSeek 官方会映射为high。系统对关键词生成、内容打分等短任务会自动关闭 thinking避免思考吞掉输出预算无需手动干预审核 400 的正确姿势官方 API 内容安全审核较严初始化偏好分析偶发 HTTP 400 Content Exists Risk 时系统会自动拆分跳过但更稳的做法是给default_chain加一个openai_compatible中转实例作 fallback如示例中的relay-backup配好之后你会在首页看到按你口味生成的推荐流每条都带朋友口吻的推荐理由四、Ollama 与本地模型配置离线跑通零 API 成本 场景 AEmbedding 用 Ollama推荐新手不需要再多一份向量 API KeyOllama bge-m3是官方推荐的本地方案CPU 即可跑约 100–200ms/次跨 Mac / Windows / Linux 一致。一条命令搞定# 装好 Ollama 后跑向导自动拉 bge-m3 并写入 [llm.embedding] openbiliclaw setup-embedding或手动在config.toml写两行[llm.embedding] provider ollama model bge-m3注意区分OpenBiliClaw捆绑的 Ollama 只预装了 embedding 模型——小体积本地聊天模型达不到内容管线质量线所以图形向导不会推荐它当聊天默认。想要本地聊天走场景 B。场景 B本地模型当聊天 Provider进阶自建一个provider_type ollama实例并放入default_chain即可但有两个必须做对的细节model必须显式填写——留空时实例不会进入聊天注册表系统绝不替你猜模型建议num_ctx 8192——Ollama 的/v1兼容层会静默丢弃该参数上下文停在默认 4096批量评估的 prompt 被截断后小模型会吐出非法 JSON 或整批重复文案设为 8192 后系统改走原生/api/chat端点规避此坑另外本地 24G 显卡级别的小模型80–100K 上下文应调低[soul]段的认知批次预算awareness_event_batch_size等注释项而不是去改源码。配好本地模型后我的画像页依然能看到完整的用户认知五、分模块路由给不同任务配不同的大模型 配好单一模型只是及格线。OpenBiliClaw 支持把四类任务指向不同实例链实现质量与成本的最优分配见 docs/modules/config.md 的[llm.routes.*]章节模块任务选型建议soul五层画像生成、情绪判断高质量旗舰模型discovery关键词生成、来源抽取高频低成本、低延迟模型recommendation朋友式推荐理由文案平衡型模型evaluation候选打分、相关度评估最高频低成本模型默认四个模块全部inherit true跟随全局default_chain想让发现/评估走便宜中转、画像走旗舰时只改对应模块为inherit false并填入自己的有序实例链。自定义链耗尽也不会越界回落到全局链成本边界清晰可控。六、常见坑位速查清单 ✅症状根因解法报错某服务拒绝了当前 API key401 鉴权失败系统零重试换 Key / 检查临时 token 是否过期配额 / 429 报错额度用尽或被限流该实例冷却 60 秒后自动切到链上下一实例本地模型输出非法 JSONOllama/v1丢了num_ctx设num_ctx 8192第四节实例配了却不生效未加入default_chain或enabled false检查链引用与启用开关向量相似度行为异常主备 embedding 模型维度 / 空间不一致保持同一向量空间或统一output_dimensionality请求 20 分钟超时timeout默认 1200s本地模型冷加载慢正常现象Ollama 冷启动属合法等待完整错误分类鉴权 / 限流 / 超时 / 空响应 / 审核拦截的归一化逻辑在 src/openbiliclaw/llm/base.py面向用户的中文错因说明见 docs/modules/llm.md。七、进阶资料文件索引想深入某个环节时直接打开这些文件config.example.toml — 全量配置项与逐行注释含[llm]/[llm.instances.*]/[llm.embedding]/[llm.routes.*]docs/modules/llm.md — LLM 多模型支持模块文档Provider 全景、故障切换链、推理档位映射、托管 Ollama 生命周期docs/modules/config.md — 配置参考每个实例字段的类型、默认值与专属语义src/openbiliclaw/llm/ — LLM 源码registry.py实例路由与冷却、openai_provider.pyOpenAI 系含 DeepSeek 适配、ollama_provider.py本地模型【免费下载链接】OpenBiliClaw本地私有、开源的自进化跨平台 AI 内容发现 Agent先理解你再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微博等平台与开放 Web 寻找内容。支持 deepseek harness 插件 | Local-first open-source cross-platform AI content discovery agent: understands you, then proactively finds content across Bilibili, Xiaohongshu, Douyin, YouTube, X, Zhihu, Reddit, Weibo and the open web.support deepseek harness plugin项目地址: https://gitcode.com/gh_mirrors/op/OpenBiliClaw创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表