• 文档
• 大模型
• 人工智能

本文以仓库内 paper_list/chain_of_thougt.md 为核心骨架，完整解读思维链（Chain-of-Thought, CoT）的概念定义、提出这一思想的里程碑论文，以及可落地的思维链提示构造方法。读完本文，你将理解"中间推理步骤"为何能显著提升大语言模型的复杂推理能力，掌握少样本与零样本两类 CoT 提示写法，并了解当前仓库中与推理相关的论文、模型与评测资源，便于沿 README.md 的体系继续深入研究。

Chain-of-Thought 是什么：中间推理步骤的定义

专题文档开门见山给出了 CoT 的权威定义：

Chain of thought—a series of intermediate reasoning steps—significantly improves the ability of large language models to perform complex reasoning.

即：思维链是一系列中间推理步骤，能够显著提升大语言模型执行复杂推理的能力。拆解这一定义，可以提炼出三个关键点：

1. 本质是"中间推理步骤"（intermediate reasoning steps）：模型不再一步到位给出答案，而是先输出逐步推导的过程，最终结论建立在这条可追踪的推理链之上；
2. 作用是"显著提升复杂推理能力"：面向的是数学应用、多步逻辑、常识推理等难以直接作答的复杂任务；
3. 适用对象是"大语言模型"：这正是论文标题中 "Large Language Models" 的含义，提示工程的效果与模型规模密切相关。

从定义可以推断其背后的直觉：复杂任务通常需要多步推导，标准提示迫使模型隐式地在内部完成全部推理后直接吐出答案，任一步出错都会导致最终结果失败；而思维链把推理过程显式地摊开，让模型在每一步上集中注意力、逐步推进、自我校验，相当于把"黑箱求解"转化为"白盒推导"，从而显著提升复杂任务的求解成功率。

里程碑论文：Chain of Thought Prompting Elicits Reasoning in Large Language Models

论文档案

• 标题：Chain of Thought Prompting Elicits Reasoning in Large Language Models
• 机构：Google
• 时间：2022 年 1 月（arXiv:2201.11903）
• 地位：第一篇提出思维链思想的工作

专题文档对这篇论文的注释只有一句话，却分量十足："The first paper propose the idea of chain-of-thought"——它是思维链思想的源头。需要留意一处细节：专题页将其归入 2021 分组并标注为 2021-01，而按 arXiv 编号（2201.11903）与 README.md 里程碑论文表（2022-01）来看，该论文实际发布于 2022 年 1 月，阅读时以 2022-01 为准。

在仓库中的地位

在 README.md 的里程碑论文表中，该论文与 Attention Is All You Need、GPT-3、PaLM、InstructGPT 等划时代工作并列，是 2022 年 1 月 Google 的代表作，关键词标注为 COT。这份时间线从仓库层面印证了其在大模型发展史上的里程碑地位：它紧邻 InstructGPT（2022-03）与 PaLM（2022-04），共同构成了"预训练模型 + 提示/对齐"时代的核心叙事。

核心贡献

结合论文标题与专题文档的定义，这篇论文的核心贡献可以概括为：与其让模型直接输出答案，不如在提示中示范（或要求模型生成）逐步推理，使"推理过程"本身成为可被模型显式建模的输出。这一思想的直接后果是，大模型的复杂推理能力不再只能依赖模型规模的暴力堆叠来"涌现"，还可以通过提示工程被"唤起"（elicit）——这正是论文标题中 "Elicits"（唤起）一词的精髓。

在实践中构造思维链提示

思维链本身是一种提示（Prompting）技术，不需要训练或微调，只需改变输入文本的组织方式。实操上有两类主流写法。

少样本思维链（Few-shot CoT）

在示例中展示"推理步骤 + 答案"，让模型模仿这种输出模式：

问题：小明有 3 个苹果，又买了 5 个，然后吃掉了 2 个，还剩几个？ 推理：小明原来有 3 个；买 5 个后是 3 + 5 = 8 个；吃掉 2 个后是 8 - 2 = 6 个。 答案：6 个。 问题：一支笔 4 元，买 3 支笔和 1 个 7 元的本子，一共多少钱？ 推理：

关键要点：

• 示例中必须包含显式的推理过程，而不是简单的"问题—答案"对，否则模型只会模仿答案格式、不会模仿推理行为；
• 推理步骤粒度要适中，每一步都应是可独立验证的（如上述的加法、减法分解），既不能跳步太多，也不必过度琐碎；
• 最终提示以"推理："开头引导模型续写，形成"推理链 + 最终答案"的可解析输出结构。

零样本思维链（Zero-shot CoT）

不提供任何示例，直接在问题后追加引导指令，促使模型先展开推理再作答。社区中广泛使用的写法是在提示末尾追加 "Let's think step by step"（或中文"请一步一步思考"）。零样本变体遵循与少样本完全相同的原理——把中间推理步骤显式化，只是通过指令而非示例来触发。

实操要点

• 输出结构：建议要求模型将"推理过程"与"最终答案"分离输出，便于程序解析、人工核验与错误定位；
• 采样参数：推理类任务实践中通常建议使用较低温度（如 0～0.3）以降低随机性，保证推理链稳定可复现；
• 成本权衡：显式推理会增加输出 token 数、延长响应时间，对于简单事实问答等一步可答的任务，未必需要引入 CoT；
• 模型规模：论文标题与研究设定均表明该方法主要面向大语言模型，小规模模型的推理收益有限，选择是否使用 CoT 时应结合模型实际能力判断。

从思维链到推理技术谱系：仓库中的关联脉络

在 Awesome-LLM 仓库中，CoT 并非孤立条目。围绕"显式中间步骤、推理能力"这一主线，README.md 沉淀了完整的推理技术谱系，可作为 CoT 研究的延伸阅读：

• 推理方法的扩展：Tree of Thoughts（ToT，README.md，2023-05，Google & Princeton）在思维链基础上引入树状搜索与多候选探索，把单条线性推理扩展为"深思熟虑的问题求解"，是 CoT 最具代表性的后继工作；
• 推理型大模型：DeepSeek-R1（README.md，2025-01）通过强化学习激励 LLM 的推理能力，DeepSeek-Math（README.md）面向数学推理，说明"推理"已从提示技术延伸为模型训练目标；
• 推理评测基准：M3CoT（README.md）在语言、自然科学、社会常识、时间推理、代数、几何等多模态任务上评测模型的思维链推理表现，为 CoT 效果度量提供了标准化平台。

由此可见，CoT 提出的"显式中间步骤"思想已经渗透到大模型研究的三个层面：提示方法（CoT、ToT）、训练目标（RL 激励推理）与能力评测（推理基准）。

推理评测与论文资源

评测资源

• Chain-of-Thought Hub（README.md）：专注度量 LLM 的推理性能（Measuring LLMs' Reasoning Performance），适合横向对比不同模型的推理能力；
• M3CoT（README.md）：多模态思维链推理基准，覆盖代数、几何、常识等多类推理任务。

论文资源

专题文档"Useful Resources"章节收录了两个持续更新的论文合集（原始链接见 paper_list/chain_of_thougt.md）：

• Chain-of-Thoughts Papers：由《Chain of Thought Prompting Elicits Reasoning in Large Language Models》开启的 CoT 论文趋势合集，持续追踪该方向的新工作；
• Reasoning using Language Models：语言模型推理方向的论文与资源合集，覆盖比 CoT 更广阔的推理研究全景。

仓库内延伸阅读

• paper_list/ 目录下还收录了相邻主题页：prompt_learning.md（提示学习方法与综述）、in_context_learning.md（上下文学习）、instruction-tuning.md（指令微调），可与 CoT 对照阅读，理解提示范式的整体脉络；
• README.md 的 Milestone Papers 表（README.md）提供了 CoT 前后的大模型发展完整时间线，便于定位思维链在历史坐标中的位置。

结语

思维链用一句话改变了大模型推理研究的视角：复杂推理不仅是可以靠更大模型硬算出来的"结果"，更是可以通过提示被引导、被显式化的"过程"。本文以 paper_list/chain_of_thougt.md 为入口，完成了从概念定义、源头论文到实践写法与仓库资源地图的完整梳理。无论你是要优化手头模型的推理效果，还是要系统研究推理方向，都可以以思维链为起点，沿着仓库中的 ToT、推理型模型与推理基准继续深入。

• 文档
• 大模型
• 人工智能