规划与推理：Chain of Thought、Tree of Thought 与任务分解

Agent 解决复杂问题的能力根植于其推理与规划机制。如果说范式决定了 Agent 的行为循环结构，那么推理机制决定了 Agent 在每个思考步骤中如何展开逻辑、评估选项与做出决策。本节深入探讨三大推理框架及其在任务分解中的应用。

Chain of Thought：逐步推理的线性展开

Chain of Thought（CoT）由 Wei 等人于 2022 年提出，其核心思想极为简洁却影响深远：让 LLM 在给出最终答案之前，先显式地展示中间推理步骤。

为什么逐步推理有效

LLM 的推理能力受限于其自回归生成机制——每个 token 的生成仅依赖于前序 token 的上下文。当要求 LLM 直接给出复杂问题的最终答案时，它需要在单次生成中完成所有中间推理，而这些推理并未在输出中显式呈现，导致模型在"隐式推理"中极易出错。CoT 通过将推理过程外化为文本，实质上是为模型创造了更多的"思考空间"——每一步推理的输出成为下一步推理的上下文，形成了逐步验证与逐步推进的链式结构。

CoT 的两种触发方式

  • Zero-shot CoT：仅需在 prompt 中附加"让我们一步一步地思考"（Let's think step by step），模型便能自发展开推理链。这种方式无需示范，适用于通用场景，但推理质量依赖于模型自身的推理能力。
  • Few-shot CoT：在 prompt 中提供若干包含完整推理链的示例，模型参照示例格式展开推理。示范示例提供了推理的范式模板，显著提升了推理的结构性与准确性。

CoT 的局限

CoT 的推理是线性的——每一步唯一地承接前一步，不存在分支与回溯。这意味着当推理链中某一步出现错误时，后续所有步骤都将基于错误前提继续展开，整个推理链无可挽回地偏离正确方向。CoT 也没有探索多种可能推理路径的能力，对于存在多种合理推理方向的问题，CoT 只能选择其中一条并沿其前进。

Tree of Thought：多路径探索与择优

Tree of Thought（ToT）由 Yao 人于 2023 年提出，针对 CoT 的线性局限引入了分支、评估与回溯三大机制：

分支：生成多个推理候选

在每一步推理中，ToT 不生成单一续步，而是生成多个候选推理方向，形成树状结构。每个候选代表一种不同的推理假设或解题路径。

评估：对候选进行独立评分

对每个候选推理步骤进行独立评估，判断其是否合理、是否接近目标、是否值得继续展开。评估可以由 LLM 自身完成（自我评估），也可以引入外部评估器。

回溯：放弃低分路径，回溯到高分节点

当某条推理路径的评估分数持续下降时，ToT 主动回溯到树中评分更高的节点，从该节点重新分支探索。这模拟了人类"此路不通，回头另寻"的推理策略。

搜索策略

ToT 支持两种搜索策略：

  • BFS（广度优先搜索）：在每一层保留评估最优的 K 个候选，逐步向深层推进。适合每步选择有限但需要全面评估的场景。
  • DFS（深度优先搜索）：沿单条路径深入探索，遇到评估不达标时回溯。适合需要深入推理但分支数量可控的场景。

ToT 的代价是显著更高的计算成本——每一步都需要生成多个候选并进行评估，LLM 调用次数是 CoT 的数倍。因此 ToT 适用于推理路径存在多种合理选择、且错误推理代价高昂的关键决策场景，如数学证明、策略规划与复杂诊断。

任务分解与子目标管理

无论采用 CoT 还是 ToT，面对复杂任务时，Agent 的首要规划动作是将大任务分解为可管理的子目标序列。

分解原则

有效的任务分解遵循以下原则：

  • 子目标独立性：每个子目标应具有明确的完成标准，其成功与否可以独立评估，而不依赖于其他子目标的中间状态。
  • 子目标可组合性：所有子目标完成后，其结果能够组合为原任务的完整解答。分解不应产生无法整合的碎片。
  • 依赖关系显式化：子目标间的执行依赖必须被显式标注，形成 DAG（有向无环图）结构，而非隐含假设的线性序列。

子目标管理机制

  • 进度追踪：维护每个子目标的完成状态（未开始/进行中/已完成/失败），使得 Agent 在任意时刻都能清晰感知全局进度。
  • 依赖调度：根据子目标的依赖关系图决定执行顺序——只有前置依赖全部完成的子目标才能启动，避免执行顺序冲突。
  • 动态重组：当某个子目标失败时，评估其对后续子目标的影响，决定是否需要重新分解受影响的子目标或调整整体规划。

分解的层级性

复杂任务可能需要多层级分解：顶层将任务分解为若干大阶段，每个阶段再分解为具体步骤，每个步骤再分解为原子操作。这种层级分解结构与层级编排模式天然匹配——Manager Agent 管理顶层阶段，Worker Agent 执行原子操作。

💡 实践建议：简单推理任务使用 CoT 即可满足需求；涉及关键决策或多方案择优的场景启用 ToT；而任何超过 5 步的复杂任务都应先进行显式的任务分解，再在子目标层面选择合适的推理框架。推理框架的选择应当与任务复杂度匹配，而非一味追求最复杂的机制。

本章小结

推理框架核心思想适用复杂度计算成本最佳场景
CoT线性逐步推理低-中低数学计算、逻辑推导
ToT多路径探索择优中-高较高决策优化、创意生成
任务分解将复杂任务拆分为子目标 DAG高中多步骤项目、复杂工作流

选择建议：

  • 3 步以内 → CoT
  • 需要多方案对比 → ToT
  • 超过 5 步或子任务有依赖 → 任务分解 + CoT/ToT

📖 延伸阅读

  1. Chain-of-Thought Prompting Elicits Reasoning in LLMs —— CoT 原论文
  2. Tree of Thoughts: Deliberate Problem Solving with Large Language Models —— ToT 原论文
  3. Decomposition in LLM Reasoning —— 任务分解策略综述
  4. DSPy —— 结构化 LLM 编程框架，内置多种推理策略