十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Project NOMAD AI 思考模式详解:如何设置逐模型 thinking 开关与全局默认

Project NOMAD AI 思考模式详解:如何设置逐模型 thinking 开关与全局默认 Project NOMAD AI 思考模式详解如何设置逐模型 thinking 开关与全局默认【免费下载链接】project-nomadProject NOMAD is an offline-first knowledge and education server. Wikipedia, thousands of books, courses, maps, and optional local AI, all running on hardware you own with no internet required.项目地址: https://gitcode.com/GitHub_Trending/pr/project-nomadProject NOMAD 是一款离线优先的本地知识与教育服务器内置可选的本地 AI 聊天助手。本文详解 Project NOMAD 的AI 思考模式thinking如何为单个模型单独开关思考能力、如何用全局默认值统一控制并讲清两者的优先级规则与生效原理帮你快速玩转本地 AI 的深度思考能力。什么是 AI 思考模式Thinking思考模式让模型在给出答案前先推理再作答。开启后✅ 回答更严谨适合数学题、逻辑推理、复杂代码问题⏳ 生成速度变慢思考过程会单独展示在聊天气泡中 完全本地运行思考内容不会离开你的设备 并非所有模型都支持思考。Project NOMAD 会在模型选择器旁自动判断只有当前模型具备该能力时才显示Thinking开关。逐模型 thinking 开关在聊天窗口里单独控制打开 AI 助手聊天界面切换到某个支持思考的模型后模型选择器右侧会出现一个Thinking开关打开聊天窗口在下方的Model:下拉框中选择模型若该模型支持思考旁边显示Thinking:与开关拨动开关即可为这一个模型单独开启/关闭思考你的选择会被按模型记住存储在浏览器 localStorage 中键名为nomad:thinking:模型名——下次再切回该模型时设置依然生效也就是说你可以让大模型默认思考、小模型关闭思考互不影响。全局默认ai.autoThinking 设置在 AI Assistant 设置页Settings → AI中有一个开关文案Use thinking automatically when a model supports it对应设置项ai.autoThinking默认关闭它的作用是为所有具备思考能力但你未单独设置过的模型指定默认行为打开 → 新模型默认开启思考关闭 → 新模型默认关闭思考优先级规则谁说了算每次发送消息时系统按以下顺序决定最终是否思考优先级来源说明1最高聊天窗口的逐模型开关你为该模型手动拨动过的选择2全局默认ai.autoThinking未单独设置时回退到此值3兜底默认关闭ai.autoThinking未配置时按 OFF 处理用一句话概括显式选择 全局默认 关闭。这正是聊天窗口提示语所描述的Your choice is remembered for this model; the default for other models is set in AI Assistant settings.背后是怎么实现的能力探测服务端调用 Ollama 的/api/show接口检查模型capabilities中是否包含thinking结果按模型名缓存避免重复查询见admin/app/services/ollama_service.ts中的checkModelHasThinking。偏好解析聊天控制器读取逐模型开关未设置时回退到ai.autoThinking得出本次请求的最终思考偏好见admin/app/controllers/ollama_controller.ts。参数下发普通支持思考的模型开启时传think: true关闭时传reasoning_effort: none显式抑制思考gpt-oss系列需要显式档位统一使用reasoning_effort: medium思考流分离流式返回时服务端从响应流中解析出thinking片段兼容 Ollama 原生字段与think标签包裹的内容前端将其渲染为独立的Thinking气泡并统计思考耗时见admin/inertia/components/chat/ChatMessageBubble.tsx。实用建议 追求速度日常问答、查离线知识库全局关闭 小模型 追求质量解题、写方案只在需要时逐模型开启 混合搭配给 7B/8B 级模型关思考保速度给推理型模型开思考保质量相关文件速查全局默认开关 UIadmin/inertia/pages/settings/models.tsx逐模型开关 UI 与本地记忆admin/inertia/components/chat/index.tsx思考偏好解析与下发admin/app/controllers/ollama_controller.ts能力探测与流式解析admin/app/services/ollama_service.ts请求/响应类型定义admin/types/ollama.ts、admin/types/chat.ts官方说明文档admin/docs/可查阅 getting-started 与 faq按以上方式配置你就能在 Project NOMAD 中获得该快则快、该深则深的 AI 体验——全程离线数据不出本地。【免费下载链接】project-nomadProject NOMAD is an offline-first knowledge and education server. Wikipedia, thousands of books, courses, maps, and optional local AI, all running on hardware you own with no internet required.项目地址: https://gitcode.com/GitHub_Trending/pr/project-nomad创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表