Temperature是 LLM 采样时的随机性控制参数作用于 logits 的 softmax 分布Piezi/T∑jezj/TP_i \frac{e^{z_i / T}}{\sum_j e^{z_j / T}}Pi∑jezj/Tezi/TT → 0分布趋近 argmax输出确定性最强贪心T 1原始分布T 1分布更平坦低概率 token 被采到的机会增大输出更发散Agent 决策场景的典型设置场景推荐值原因工具调用 / 函数参数生成0 – 0.1必须产出严格合法的 JSON/结构化指令任何随机偏差都可能导致调用失败规划 / 推理链ReAct、CoT0.2 – 0.4需要逻辑连贯但允许在多条合理路径中略有变化以提升探索性代码生成0.1 – 0.3语法正确性优先但低值可保留少量风格多样性分类 / 路由 / 守卫节点0二选一或多分类必须稳定可复现创意生成文案、对话人设0.7 – 1.2鼓励多样性容忍格式偏差Self-consistency多次采样投票0.5 – 0.9故意拉开分布让多次采样覆盖不同解路径投票后取共识为什么 Agent 场景普遍偏低可复现性Agent 是多步链式决策前一步的微小偏差会被后续步骤放大误差累积高 T 会让同输入产生完全不同的执行路径调试和回归测试困难。格式鲁棒性工具调用要求严格 schemaJSON Schema / function calling高 T 容易采到破坏结构格式的 token。安全边界低 T 减少幻觉工具名或非法参数值的概率。确定性评估CI 中的 agent benchmark 需要 near-deterministic 输出才能做 diff 对比。经验法则如果你的 Agent 节点输出需要被程序解析JSON、代码、SQL、API 参数T ≤ 0.2如果是给人读的自然语言可以放到 0.5需要探索多样性如 brainstorm、self-consistency时再故意调高。 什么是温度（Temperature）参数？在 Agent 决策场景中通常如何设置？为什么？
Temperature是 LLM 采样时的随机性控制参数作用于 logits 的 softmax 分布Piezi/T∑jezj/TP_i \frac{e^{z_i / T}}{\sum_j e^{z_j / T}}Pi∑jezj/Tezi/TT → 0分布趋近 argmax输出确定性最强贪心T 1原始分布T 1分布更平坦低概率 token 被采到的机会增大输出更发散Agent 决策场景的典型设置场景推荐值原因工具调用 / 函数参数生成0 – 0.1必须产出严格合法的 JSON/结构化指令任何随机偏差都可能导致调用失败规划 / 推理链ReAct、CoT0.2 – 0.4需要逻辑连贯但允许在多条合理路径中略有变化以提升探索性代码生成0.1 – 0.3语法正确性优先但低值可保留少量风格多样性分类 / 路由 / 守卫节点0二选一或多分类必须稳定可复现创意生成文案、对话人设0.7 – 1.2鼓励多样性容忍格式偏差Self-consistency多次采样投票0.5 – 0.9故意拉开分布让多次采样覆盖不同解路径投票后取共识为什么 Agent 场景普遍偏低可复现性Agent 是多步链式决策前一步的微小偏差会被后续步骤放大误差累积高 T 会让同输入产生完全不同的执行路径调试和回归测试困难。格式鲁棒性工具调用要求严格 schemaJSON Schema / function calling高 T 容易采到破坏结构格式的 token。安全边界低 T 减少幻觉工具名或非法参数值的概率。确定性评估CI 中的 agent benchmark 需要 near-deterministic 输出才能做 diff 对比。经验法则如果你的 Agent 节点输出需要被程序解析JSON、代码、SQL、API 参数T ≤ 0.2如果是给人读的自然语言可以放到 0.5需要探索多样性如 brainstorm、self-consistency时再故意调高。