告别小模型智能体循环卡死：ProD 提出进度感知蒸馏框架，跨 8 款 SLM 破解多轮长程交互停滞

核心背景与行业痛点

为了在端侧设备或低延迟边缘算力上部署自主智能体，学术界与工业界广泛采用“大模型教小模型”的监督微调蒸馏（SFT Distillation）路线，将 GPT-4 等前沿大模型的 ReAct 或 CodeAct 交互轨迹蒸馏到 0.6B 至 8B 的小语言模型（SLMs）中。然而，现有蒸馏机制存在重大隐患：学生模型虽然学会了基本的工具调用语法，但在实际长程多轮交互中，一旦某一步骤报错或未获取预期反馈，小模型极易丧失进度把控能力，陷入“相同命令反复执行”、“无意义重试”的“进度停滞（Progress Stagnation）”死循环。这不仅导致交互耗尽最大 Token 限制，还彻底丧失了任务解决能力。为此，研究团队在 arXiv:2610.19439 中提出了革新性的 ProD（Progress-Aware Distillation） 框架。

架构亮点与底层机制

1. 细粒度进度停滞度量衡（Stagnation Scoring）：

• 系统性形式化了多轮工具交互中的停滞现象，定义了单轮与轨迹级停滞指标，实时监控学生模型生成的 Reason-Act-Observe 链路是否带来了有价值的状态跃迁；

1. 基于学生-教师停滞鸿沟的自适应惩罚：

• 启发自 SimPO 偏好对齐思想，但摒弃了固定 Margin 的离线做法；ProD 动态度量学生与教师在同等状态下的停滞差距，构建自适应边界（Adaptive Margin）；
• 在优化目标中对产生无效循环、无效重复报错的轨迹施加梯度抑制，强力引导小模型学习教师在受阻时的“跳出循环、换路尝试”策略；

1. 广泛架构与参数规模普适性：

• 从 0.6B 极限轻量小模型到 8B 常用边缘底座，均能通过 ProD 稳定收敛。

权威 Benchmark 与实测跑分对比

论文在 CodeAct 等代表性智能体架构下，对 8 款主流开源小模型（0.6B~8B）展开了详尽的对比评测（Section 3, Section 4）：

• 停滞率大幅削减（Stagnation Mitigation）：
• 在复杂的软件工程与网页交互任务中，标准 SFT 蒸馏模型在长轨迹下的停滞率往往超过 40%；
• 引入 ProD 后，各类小模型的进度停滞发生率普遍降低 50% 以上；
• 任务解决率全面提升（Task Success）：
• 由于杜绝了无效自旋，小模型在既定最大步数内的任务达成率在多个基准上取得两位数百分比的显著提升；
• Token 消耗与推理效率：
• 彻底剪除死循环中的重复交互，单任务平均 Token 消耗削减约 25%~35%，极大提升了边缘智能体的响应速度。

开发者实战落地与开箱指南

• 技术论文与实现方案：详查 arXiv:2610.19439；
• SLM 智能体开发者指引：在训练端侧编程助手、本地命令行工具或嵌入式 Agent 时，切忌单纯拿教师轨迹进行机械式 Cross-Entropy 微调。引入 ProD 的停滞检测与动态偏好损失，能以极小算力开销将小模型智能体的多轮交互鲁棒性提升至工业级可用标准。