1. 项目概述当形式化证明遇上多智能体协同优化最近在折腾一个挺有意思的课题如何让大语言模型LLM更高效、更可靠地帮你把一段用自然语言描述的数学证明自动转换成机器可验证的形式化语言比如Coq、Lean、Isabelle里的代码。这活儿听起来就挺“硬核”的业内通常叫它“证明自动形式化”。传统的路子要么是让一个超大模型硬啃整个证明结果往往是复杂度爆炸、推理链一长就崩要么是设计复杂的流水线但推理延迟高得吓人成本也吃不消。我这次琢磨的重点是测试时优化。这可不是训练阶段的事儿而是在模型已经部署好、面对具体证明题目时动态地进行优化。核心思路是引入多智能体架构把“理解自然语言证明”和“生成形式化代码”这两件差异巨大的任务拆给两个专精的智能体Agent去干。一个当“分解者”负责解读和拆解另一个当“形式化者”负责编码和构造。但问题来了这两个家伙怎么高效协作怎么在保证最终代码质量的同时还能控制好生成过程中的时间和计算开销这就是“延迟与性能感知的多智能体服务”要解决的核心矛盾。简单说我想做的就是设计一套机制让这两个智能体在为你服务时能根据当前任务的难度、模型的“状态”甚至你设定的时间预算动态调整它们之间的交互策略和资源分配从而实现效率和质量的最优平衡。这背后其实融合了多智能体强化学习里的一些思想比如让智能体学会关注彼此的行动并做出协调决策。2. 核心架构拆解分解者与形式化者的角色与协作要实现高效的测试时优化首先得把架构搭明白。这里我们采用一个经典的双智能体分工模式但关键在于它们的协作不是静态的、一次性的而是动态的、可优化的。2.1 分解者从自然语言到结构化中间表示分解者智能体的任务是理解一段用自然语言比如英文写成的数学证明文本。它的输出不是一个最终的形式化代码而是一个结构化的、机器可读的中间表示。你可以把它想象成一个高度解析后的“证明蓝图”或“大纲”。这个中间表示通常包含以下几个关键部分声明定理、引理、定义的具体陈述。需要精确识别出所有变量、量词∀, ∃、逻辑连接词∧, ∨, →和数学符号。证明步骤将证明文本分解为一个个逻辑步骤。例如“假设P成立”、“根据引理3可得Q”、“对情况1和情况2分别讨论”。依赖关系标注每个步骤依赖于之前的哪些步骤或已知结论。术语映射将自然语言中的数学概念如“连续函数”、“开集”映射到目标形式化系统如Coq中对应的库定义或符号。为什么需要这个角色直接让一个模型端到端生成形式化代码相当于要求它同时精通自然语言理解、数学逻辑和特定形式化语言的语法失败率极高。分解者通过输出中间表示将模糊的自然语言转化为精确的结构大大降低了后续形式化任务的复杂度。在实践中我们可以用一个经过数学文本微调的LLM如专门在ProofNet、Mathlib数据集上训练过的模型来担任分解者并设计特定的提示词模板来引导它输出结构化的JSON或S表达式。2.2 形式化者将蓝图编译为可验证代码形式化者智能体接收分解者产出的中间表示其核心职责是将其“编译”成目标形式化语言例如Coq的正确、可验证的代码片段。这不仅仅是简单的翻译它涉及语法转换将逻辑结构转换为形式化语言的语法。比如将“对于所有x存在y使得P(x,y)”转换成forall x, exists y, P x y。库函数与策略调用根据证明步骤选择合适的定理库函数、引理并决定使用哪种证明策略apply,rewrite,induction,auto等。这是最需要领域知识的部分。构造证明项在依赖类型理论为基础的形式化系统如Coq中最终需要构造一个类型正确的证明项。形式化者需要逐步构建这个项。形式化者同样可以由一个LLM担任但这个模型需要针对目标形式化语言进行深度微调熟记其标准库和常用策略。它的提示词会包含中间表示以及当前证明环境的上下文已导入的库、已定义的变量等。2.3 动态协作机制超越简单流水线如果只是分解者跑完把结果扔给形式化者那这就是一个简单的静态流水线谈不上“测试时优化”。动态协作的核心在于引入一个协调器模块或者让智能体具备注意力机制能够根据实时情况进行决策。一个可行的设计是受“Actor-Attention-Critic for Multi-Agent Reinforcement Learning”启发的思路。我们可以将整个证明形式化过程建模为一个序列决策过程状态当前已生成的部分形式化代码、分解者提供的剩余证明步骤、模型的置信度分数、已消耗的计算资源如token数、时间。动作分解者可以选择“提供更详细的下一步骤分解”或“跳到高层次概述”形式化者可以选择“尝试应用某个策略”、“回溯到上一步”或“向分解者请求特定步骤的澄清”。奖励最终生成代码能否通过形式化验证器的检查稀疏但最重要的奖励以及过程中的奖励如生成步骤的流畅度、策略应用的恰当性。同时必须引入负奖励来惩罚过长的延迟和过高的计算成本。在这个框架下“Attention”机制可以让每个智能体在做出决策时不仅关注自己的局部观察还能关注到协作伙伴的当前状态和行动历史从而做出更协调的决策。例如当形式化者多次在同一类推理步骤上失败时注意力机制可能提示分解者需要为该类步骤提供更原子化、更详细的分解。3. 测试时优化策略在延迟、成本与精度间寻找平衡点测试时优化是整个系统的灵魂。它的目标不是改变模型权重而是在给定预训练好的分解者和形式化者模型的前提下针对每一个输入的具体证明动态调整推理策略以达成多目标优化。3.1 延迟感知的迭代细化最直接的优化是控制两个智能体之间的交互轮次。一个朴素的实现是让它们反复对话形式化者遇到困难就向分解者提问分解者给出更细化的解释如此循环。但这会导致交互轮次不可控延迟飙升。优化的策略是引入预算感知的终止条件。我们可以预设一个最大交互轮次N_max或者一个总时间预算T_budget。协调器需要动态决定何时停止细化。例如基于置信度的提前终止如果形式化者对当前步骤生成的代码有极高的置信度例如模型输出的概率分布熵值很低并且初步语法检查通过则可以跳过向分解者请求澄清直接进入下一步。重要性感知的细化不是对所有证明步骤都一视同仁。协调器可以评估每个步骤的“难度”或“关键性”例如通过分解者模型输出的不确定性或该步骤在证明依赖图中的位置只为高难度、高关键性的步骤启动多轮交互对简单步骤则采用“一次通过”模式。3.2 性能导向的模型调度与提示工程“性能”在这里主要指形式化代码的正确率。在测试时我们可以根据当前输入的特点动态调整策略动态提示词选择为分解者和形式化者准备多套提示词模板有的侧重于详细分解有的侧重于快速生成。在推理开始时可以用一个轻量级分类器或根据输入证明的长度、复杂度启发式地选择一套初始提示词。在推理过程中如果发现当前策略效果不佳如连续失败可以动态切换到另一套提示词。回溯与重试策略当形式化者生成的代码片段被验证器拒绝时简单的做法是让它在同一上下文中重试。更优的策略是执行有指导的回溯。协调器可以分析错误信息判断是分解不够清晰则请求分解者细化还是形式化者的策略选择错误则提示它尝试另一种证明策略如将induction改为case analysis。集成多个形式化者在关键步骤上可以并行调用多个不同专长或不同规模的形式化者模型体现“heterogeneous LLMs”的思想然后通过投票或选择置信度最高的输出。虽然这会增加单步成本但可能避免后续昂贵的回溯从整体上提高成功率和效率。3.3 将多目标优化形式化我们可以将这个问题形式化为一个约束优化问题。设Quality(s)为最终形式化代码的质量如通过验证的概率Latency(s)为总耗时Cost(s)为总计算成本如API调用费用、GPU时间。目标是最大化Quality(s) - λ_l * Latency(s) - λ_c * Cost(s)其中λ_l和λ_c是权衡延迟与成本的超参数由用户或部署场景设定。在测试时协调器的每一个决策是否请求细化、选择哪种提示、是否回溯都会影响这三个变量。我们可以使用一个轻量级的价值网络Critic来实时评估当前状态下的预期“收益”从而指导行动选择Actor。这个价值网络可以在一个离线收集的“证明形式化过程”数据集上进行训练学习预测在给定当前状态下采取不同行动后最终达成多目标奖励的期望值。4. 实现路径与实操考量理论说完了我们来聊聊具体怎么动手搭这么一个系统。这里没有银弹但有一些经过验证的路径和必须注意的坑。4.1 技术栈选型与组件构建模型基础分解者可以选择在大量数学文本和代码上训练过的通用模型如CodeLlama或DeepSeek-Coder并在ProofNet、LeanDojo等数据集上进行指令微调重点学习输出结构化JSON。也可以使用Mixtral这类MoE模型利用其不同专家处理不同子任务。形式化者这是核心必须使用在目标形式化语言语料上精调过的模型。例如对于Coq可以使用在CoqGym或Mathlib的证明脚本上微调过的模型。开源的Proofster或Draft, Sketch, Prove项目提供的模型是不错的起点。协调器/价值网络相对轻量可以是一个小型的Transformer或甚至是一个多层感知机MLP输入是拼接的智能体状态特征输出是价值估计。框架与编排多智能体间的通信和状态管理可以用LangChain或LlamaIndex的Agent框架来快速原型。它们提供了智能体、工具、记忆的基本抽象。对于需要强化学习训练协调策略的场景RLlib或Stable-Baselines3提供了多智能体RL的支持。生产环境部署需要考虑服务化。每个智能体可以封装为独立的服务如使用FastAPI协调器作为总控服务。这正好契合了“multi-agent serving”的需求便于监控每个服务的延迟和资源使用。4.2 训练数据与模拟环境构建训练协调策略最大的挑战是缺乏真实的交互数据。一个实用的方法是构建一个模拟环境收集静态数据从Mathlib、Coq标准库等开源项目中收集大量“定理陈述-自然语言证明描述-形式化证明代码”的三元组。构建分解器先用一部分数据训练一个基础分解者使其能生成大致可用的中间表示。创建模拟器环境模拟器接收一个定理让分解者生成初始中间表示然后让形式化者尝试生成代码。环境可以根据形式化验证器coqc,lean的反馈给出奖励信号成功/失败和局部奖励步骤合理性。同时环境会记录每一步的动作、状态和消耗的资源用简单的token计数和固定延迟模型来模拟。离线训练利用这个模拟环境产生大量的轨迹数据用离线强化学习算法如BCQ、CQL来训练协调器中的Actor和Critic网络让它们学会在模拟中做出好的决策。4.3 避坑指南与经验之谈在实际操作中有几个地方特别容易出问题中间表示的歧义性分解者生成的中间表示如果本身存在歧义会直接把错误传递给形式化者导致后续所有优化都是徒劳。必须在分解者的训练中强调精确性。一个技巧是让分解者同时生成中间表示和一个“自信度分数”低自信度的部分协调器应强制启动细化流程。验证反馈的稀疏性与延迟调用形式化验证器如Coq编译器通常很慢。不能每生成一行代码就验证一次。实践中通常采用“段落验证”策略形式化者生成一个逻辑上相对完整的段落如完成一个apply策略及其参数再提交验证。同时可以训练一个轻量级的语法/类型检查预测模型作为快速、近似的验证反馈用于指导过程中的决策减少对重型验证器的调用次数。延迟估算不准确在动态决策中准确估算每个动作的耗时至关重要。不能简单用固定值。需要建立简单的性能模型例如记录不同长度、复杂度的中间表示被形式化者处理的历史耗时进行实时预测。低估延迟会导致超预算高估则会导致过于保守错过优化机会。智能体的“固执”行为有时某个智能体会陷入死循环反复尝试同一个错误动作。需要在协调策略中设计多样性探索机制例如以一定概率强制选择一个非最优但不同的动作如让形式化者换一种完全不同的策略或者引入“疲劳度”概念对重复失败的动作进行惩罚。5. 评估指标与效果验证如何判断你的多智能体测试时优化系统真的有效不能只看最终证明是否通过那是一个二值指标太粗糙。需要一套多维度的评估体系成功率在基准测试集如ProofNet上完全通过验证的证明所占的比例。这是黄金标准。平均完成时间从输入自然语言证明开始到输出最终通过验证的形式化代码所经过的挂钟时间。这是延迟的直接体现。平均交互轮次分解者与形式化者之间的平均对话轮次。这反映了系统的协作效率轮次越少通常意味着延迟越低。平均Token消耗所有智能体调用所消耗的总输入输出Token数。这是计算成本的核心代理指标。部分正确率对于未完全成功的证明其生成代码的语法正确率、或能通过部分验证的步骤比例。这能衡量系统在困难问题上的“退化”性能。人工评估得分邀请熟悉形式化方法的专家对生成代码的可读性、简洁性、与自然语言证明的吻合度进行评分。这对于衡量生成代码的“质量”而非仅仅是“正确性”很重要。在实验对比时你的基线系统应该包括单智能体端到端模型一个强大的模型直接完成从自然语言到形式化代码的转换。静态两阶段流水线分解者和形式化者固定交互一次无动态优化。固定多轮对话流水线强制进行N轮交互。理想的实验结果应该是你的动态优化系统在成功率上接近或超过单智能体基线因为专精化分工同时在平均完成时间和Token消耗上显著优于静态和固定多轮流水线在延迟-成功率曲线上达到更优的帕累托前沿。从我折腾的几个原型来看最大的收益往往不是来自智能体本身能力的巨变而是来自协调器那些“小聪明”般的动态决策。比如它能学会在证明的引理部分“偷懒”采用快速模式而在核心归纳步骤上“不惜血本”地进行多轮交互和模型集成。这种资源分配的不对称性正是测试时优化价值的体现。 多智能体协同优化：实现高效可靠的证明自动形式化
1. 项目概述当形式化证明遇上多智能体协同优化最近在折腾一个挺有意思的课题如何让大语言模型LLM更高效、更可靠地帮你把一段用自然语言描述的数学证明自动转换成机器可验证的形式化语言比如Coq、Lean、Isabelle里的代码。这活儿听起来就挺“硬核”的业内通常叫它“证明自动形式化”。传统的路子要么是让一个超大模型硬啃整个证明结果往往是复杂度爆炸、推理链一长就崩要么是设计复杂的流水线但推理延迟高得吓人成本也吃不消。我这次琢磨的重点是测试时优化。这可不是训练阶段的事儿而是在模型已经部署好、面对具体证明题目时动态地进行优化。核心思路是引入多智能体架构把“理解自然语言证明”和“生成形式化代码”这两件差异巨大的任务拆给两个专精的智能体Agent去干。一个当“分解者”负责解读和拆解另一个当“形式化者”负责编码和构造。但问题来了这两个家伙怎么高效协作怎么在保证最终代码质量的同时还能控制好生成过程中的时间和计算开销这就是“延迟与性能感知的多智能体服务”要解决的核心矛盾。简单说我想做的就是设计一套机制让这两个智能体在为你服务时能根据当前任务的难度、模型的“状态”甚至你设定的时间预算动态调整它们之间的交互策略和资源分配从而实现效率和质量的最优平衡。这背后其实融合了多智能体强化学习里的一些思想比如让智能体学会关注彼此的行动并做出协调决策。2. 核心架构拆解分解者与形式化者的角色与协作要实现高效的测试时优化首先得把架构搭明白。这里我们采用一个经典的双智能体分工模式但关键在于它们的协作不是静态的、一次性的而是动态的、可优化的。2.1 分解者从自然语言到结构化中间表示分解者智能体的任务是理解一段用自然语言比如英文写成的数学证明文本。它的输出不是一个最终的形式化代码而是一个结构化的、机器可读的中间表示。你可以把它想象成一个高度解析后的“证明蓝图”或“大纲”。这个中间表示通常包含以下几个关键部分声明定理、引理、定义的具体陈述。需要精确识别出所有变量、量词∀, ∃、逻辑连接词∧, ∨, →和数学符号。证明步骤将证明文本分解为一个个逻辑步骤。例如“假设P成立”、“根据引理3可得Q”、“对情况1和情况2分别讨论”。依赖关系标注每个步骤依赖于之前的哪些步骤或已知结论。术语映射将自然语言中的数学概念如“连续函数”、“开集”映射到目标形式化系统如Coq中对应的库定义或符号。为什么需要这个角色直接让一个模型端到端生成形式化代码相当于要求它同时精通自然语言理解、数学逻辑和特定形式化语言的语法失败率极高。分解者通过输出中间表示将模糊的自然语言转化为精确的结构大大降低了后续形式化任务的复杂度。在实践中我们可以用一个经过数学文本微调的LLM如专门在ProofNet、Mathlib数据集上训练过的模型来担任分解者并设计特定的提示词模板来引导它输出结构化的JSON或S表达式。2.2 形式化者将蓝图编译为可验证代码形式化者智能体接收分解者产出的中间表示其核心职责是将其“编译”成目标形式化语言例如Coq的正确、可验证的代码片段。这不仅仅是简单的翻译它涉及语法转换将逻辑结构转换为形式化语言的语法。比如将“对于所有x存在y使得P(x,y)”转换成forall x, exists y, P x y。库函数与策略调用根据证明步骤选择合适的定理库函数、引理并决定使用哪种证明策略apply,rewrite,induction,auto等。这是最需要领域知识的部分。构造证明项在依赖类型理论为基础的形式化系统如Coq中最终需要构造一个类型正确的证明项。形式化者需要逐步构建这个项。形式化者同样可以由一个LLM担任但这个模型需要针对目标形式化语言进行深度微调熟记其标准库和常用策略。它的提示词会包含中间表示以及当前证明环境的上下文已导入的库、已定义的变量等。2.3 动态协作机制超越简单流水线如果只是分解者跑完把结果扔给形式化者那这就是一个简单的静态流水线谈不上“测试时优化”。动态协作的核心在于引入一个协调器模块或者让智能体具备注意力机制能够根据实时情况进行决策。一个可行的设计是受“Actor-Attention-Critic for Multi-Agent Reinforcement Learning”启发的思路。我们可以将整个证明形式化过程建模为一个序列决策过程状态当前已生成的部分形式化代码、分解者提供的剩余证明步骤、模型的置信度分数、已消耗的计算资源如token数、时间。动作分解者可以选择“提供更详细的下一步骤分解”或“跳到高层次概述”形式化者可以选择“尝试应用某个策略”、“回溯到上一步”或“向分解者请求特定步骤的澄清”。奖励最终生成代码能否通过形式化验证器的检查稀疏但最重要的奖励以及过程中的奖励如生成步骤的流畅度、策略应用的恰当性。同时必须引入负奖励来惩罚过长的延迟和过高的计算成本。在这个框架下“Attention”机制可以让每个智能体在做出决策时不仅关注自己的局部观察还能关注到协作伙伴的当前状态和行动历史从而做出更协调的决策。例如当形式化者多次在同一类推理步骤上失败时注意力机制可能提示分解者需要为该类步骤提供更原子化、更详细的分解。3. 测试时优化策略在延迟、成本与精度间寻找平衡点测试时优化是整个系统的灵魂。它的目标不是改变模型权重而是在给定预训练好的分解者和形式化者模型的前提下针对每一个输入的具体证明动态调整推理策略以达成多目标优化。3.1 延迟感知的迭代细化最直接的优化是控制两个智能体之间的交互轮次。一个朴素的实现是让它们反复对话形式化者遇到困难就向分解者提问分解者给出更细化的解释如此循环。但这会导致交互轮次不可控延迟飙升。优化的策略是引入预算感知的终止条件。我们可以预设一个最大交互轮次N_max或者一个总时间预算T_budget。协调器需要动态决定何时停止细化。例如基于置信度的提前终止如果形式化者对当前步骤生成的代码有极高的置信度例如模型输出的概率分布熵值很低并且初步语法检查通过则可以跳过向分解者请求澄清直接进入下一步。重要性感知的细化不是对所有证明步骤都一视同仁。协调器可以评估每个步骤的“难度”或“关键性”例如通过分解者模型输出的不确定性或该步骤在证明依赖图中的位置只为高难度、高关键性的步骤启动多轮交互对简单步骤则采用“一次通过”模式。3.2 性能导向的模型调度与提示工程“性能”在这里主要指形式化代码的正确率。在测试时我们可以根据当前输入的特点动态调整策略动态提示词选择为分解者和形式化者准备多套提示词模板有的侧重于详细分解有的侧重于快速生成。在推理开始时可以用一个轻量级分类器或根据输入证明的长度、复杂度启发式地选择一套初始提示词。在推理过程中如果发现当前策略效果不佳如连续失败可以动态切换到另一套提示词。回溯与重试策略当形式化者生成的代码片段被验证器拒绝时简单的做法是让它在同一上下文中重试。更优的策略是执行有指导的回溯。协调器可以分析错误信息判断是分解不够清晰则请求分解者细化还是形式化者的策略选择错误则提示它尝试另一种证明策略如将induction改为case analysis。集成多个形式化者在关键步骤上可以并行调用多个不同专长或不同规模的形式化者模型体现“heterogeneous LLMs”的思想然后通过投票或选择置信度最高的输出。虽然这会增加单步成本但可能避免后续昂贵的回溯从整体上提高成功率和效率。3.3 将多目标优化形式化我们可以将这个问题形式化为一个约束优化问题。设Quality(s)为最终形式化代码的质量如通过验证的概率Latency(s)为总耗时Cost(s)为总计算成本如API调用费用、GPU时间。目标是最大化Quality(s) - λ_l * Latency(s) - λ_c * Cost(s)其中λ_l和λ_c是权衡延迟与成本的超参数由用户或部署场景设定。在测试时协调器的每一个决策是否请求细化、选择哪种提示、是否回溯都会影响这三个变量。我们可以使用一个轻量级的价值网络Critic来实时评估当前状态下的预期“收益”从而指导行动选择Actor。这个价值网络可以在一个离线收集的“证明形式化过程”数据集上进行训练学习预测在给定当前状态下采取不同行动后最终达成多目标奖励的期望值。4. 实现路径与实操考量理论说完了我们来聊聊具体怎么动手搭这么一个系统。这里没有银弹但有一些经过验证的路径和必须注意的坑。4.1 技术栈选型与组件构建模型基础分解者可以选择在大量数学文本和代码上训练过的通用模型如CodeLlama或DeepSeek-Coder并在ProofNet、LeanDojo等数据集上进行指令微调重点学习输出结构化JSON。也可以使用Mixtral这类MoE模型利用其不同专家处理不同子任务。形式化者这是核心必须使用在目标形式化语言语料上精调过的模型。例如对于Coq可以使用在CoqGym或Mathlib的证明脚本上微调过的模型。开源的Proofster或Draft, Sketch, Prove项目提供的模型是不错的起点。协调器/价值网络相对轻量可以是一个小型的Transformer或甚至是一个多层感知机MLP输入是拼接的智能体状态特征输出是价值估计。框架与编排多智能体间的通信和状态管理可以用LangChain或LlamaIndex的Agent框架来快速原型。它们提供了智能体、工具、记忆的基本抽象。对于需要强化学习训练协调策略的场景RLlib或Stable-Baselines3提供了多智能体RL的支持。生产环境部署需要考虑服务化。每个智能体可以封装为独立的服务如使用FastAPI协调器作为总控服务。这正好契合了“multi-agent serving”的需求便于监控每个服务的延迟和资源使用。4.2 训练数据与模拟环境构建训练协调策略最大的挑战是缺乏真实的交互数据。一个实用的方法是构建一个模拟环境收集静态数据从Mathlib、Coq标准库等开源项目中收集大量“定理陈述-自然语言证明描述-形式化证明代码”的三元组。构建分解器先用一部分数据训练一个基础分解者使其能生成大致可用的中间表示。创建模拟器环境模拟器接收一个定理让分解者生成初始中间表示然后让形式化者尝试生成代码。环境可以根据形式化验证器coqc,lean的反馈给出奖励信号成功/失败和局部奖励步骤合理性。同时环境会记录每一步的动作、状态和消耗的资源用简单的token计数和固定延迟模型来模拟。离线训练利用这个模拟环境产生大量的轨迹数据用离线强化学习算法如BCQ、CQL来训练协调器中的Actor和Critic网络让它们学会在模拟中做出好的决策。4.3 避坑指南与经验之谈在实际操作中有几个地方特别容易出问题中间表示的歧义性分解者生成的中间表示如果本身存在歧义会直接把错误传递给形式化者导致后续所有优化都是徒劳。必须在分解者的训练中强调精确性。一个技巧是让分解者同时生成中间表示和一个“自信度分数”低自信度的部分协调器应强制启动细化流程。验证反馈的稀疏性与延迟调用形式化验证器如Coq编译器通常很慢。不能每生成一行代码就验证一次。实践中通常采用“段落验证”策略形式化者生成一个逻辑上相对完整的段落如完成一个apply策略及其参数再提交验证。同时可以训练一个轻量级的语法/类型检查预测模型作为快速、近似的验证反馈用于指导过程中的决策减少对重型验证器的调用次数。延迟估算不准确在动态决策中准确估算每个动作的耗时至关重要。不能简单用固定值。需要建立简单的性能模型例如记录不同长度、复杂度的中间表示被形式化者处理的历史耗时进行实时预测。低估延迟会导致超预算高估则会导致过于保守错过优化机会。智能体的“固执”行为有时某个智能体会陷入死循环反复尝试同一个错误动作。需要在协调策略中设计多样性探索机制例如以一定概率强制选择一个非最优但不同的动作如让形式化者换一种完全不同的策略或者引入“疲劳度”概念对重复失败的动作进行惩罚。5. 评估指标与效果验证如何判断你的多智能体测试时优化系统真的有效不能只看最终证明是否通过那是一个二值指标太粗糙。需要一套多维度的评估体系成功率在基准测试集如ProofNet上完全通过验证的证明所占的比例。这是黄金标准。平均完成时间从输入自然语言证明开始到输出最终通过验证的形式化代码所经过的挂钟时间。这是延迟的直接体现。平均交互轮次分解者与形式化者之间的平均对话轮次。这反映了系统的协作效率轮次越少通常意味着延迟越低。平均Token消耗所有智能体调用所消耗的总输入输出Token数。这是计算成本的核心代理指标。部分正确率对于未完全成功的证明其生成代码的语法正确率、或能通过部分验证的步骤比例。这能衡量系统在困难问题上的“退化”性能。人工评估得分邀请熟悉形式化方法的专家对生成代码的可读性、简洁性、与自然语言证明的吻合度进行评分。这对于衡量生成代码的“质量”而非仅仅是“正确性”很重要。在实验对比时你的基线系统应该包括单智能体端到端模型一个强大的模型直接完成从自然语言到形式化代码的转换。静态两阶段流水线分解者和形式化者固定交互一次无动态优化。固定多轮对话流水线强制进行N轮交互。理想的实验结果应该是你的动态优化系统在成功率上接近或超过单智能体基线因为专精化分工同时在平均完成时间和Token消耗上显著优于静态和固定多轮流水线在延迟-成功率曲线上达到更优的帕累托前沿。从我折腾的几个原型来看最大的收益往往不是来自智能体本身能力的巨变而是来自协调器那些“小聪明”般的动态决策。比如它能学会在证明的引理部分“偷懒”采用快速模式而在核心归纳步骤上“不惜血本”地进行多轮交互和模型集成。这种资源分配的不对称性正是测试时优化价值的体现。