HF 热榜双雄：Waypoint-OPD 门控策略蒸馏横扫代码数学六大设定，FDE-Gym 揭示 AI 驻场交付“最后一公里”仅 14/95 通关

核心背景与行业痛点

在构建生产级代码与推理智能体的上下游链条中，当前面临一头一尾两大痛点：在模型训练端，策略偏移蒸馏（Policy-Shift Distillation）通常直接拿教师模型在 RL 前后的首尾对数概率差（Endpoint Shift）监督学生模型，却忽略了教师在训练早期与晚期的偏好可能相互抵消或震荡，导致噪声信号污染学生策略；而在应用落地端，现有基准（如 SWE-bench）全都在需求极其明确的工单上测试智能体，却无法评估类似 Palantir/OpenAI 驻场工程师（Forward-Deployed Engineer, FDE）在面对需求模糊的真实客户沟通、挖掘未明言的隐性系统约束并交付业务指标提升时的“最后一公里”实战能力。

架构亮点与底层机制

今日荣登 Hugging Face 每日论文热榜前列的 Waypoint-OPD 与 FDE-Gym 分别从蒸馏算法与驻场工程基准给出了破局方案：

1. 基于中间路标方向一致性的门控在线蒸馏（Waypoint-OPD，451 赞）：在教师模型的同一次 RL 训练轨迹中引入一个中间检查点（Intermediate Waypoint Checkpoint），对比学生访问前缀上教师“早期策略偏移”与“晚期策略偏移”的方向一致性。当早晚期演进方向相反（发生震荡抵消）时直接通过门控抑制该端到端偏移信号，仅需增加一次冻结教师前向打分即可滤除 RL 振荡噪声；
2. 真实客户沟通与生产系统交互沙盒（FDE-Gym，230 赞）：从横跨 18 个行业的 20 个真实商业交付项目中提炼出 95 个端到端交付任务。智能体必须在模拟的客户生产系统上操作，同时与带有脚本人设的客户利益相关者（Stakeholders）多轮沟通以发掘隐性约束；评分直接挂钩客户业务核心指标的归一化提升幅度，并对打扰客户次数、试跑报错与等待时间施加惩罚。

权威 Benchmark 与实测跑分对比

两项研究均提供了极具洞察力的定量实测数据：

• Waypoint-OPD 横扫代码与数学 6 大设定：以 RL 训练后的 Qwen3-4B 为教师，在 Qwen3-8B、Qwen3-14B 以及稀疏 MoE Qwen3-30B-A3B 三款学生模型上跨越数学与代码推理共 6 组领域-模型设定，Waypoint-OPD 全部夺得最高领域平均分；
• FDE-Gym 戳破智能体“最后一公里”泡沫（仅 14/95 通关）：在对 7 大厂商 13 种前沿模型配置的评测中，面对需要主动挖掘隐性约束的真实设置，最强配置平均得分仅为 0.56，95 个任务中仅圆满解决 14 个（要求业务提升 $\ge 0.8$ 且零生产事故）；即便在已从客户口中问出全部关键事实的 23 个任务上，也仅有 10 个能真正转化为合格的工程交付。

开发者实战落地与开箱指南

相关评测环境与训练工具链已开源（FDE-Gym 仓库：https://github.com/deeplethe/fde-gym）：

• 升级 RL 模型蒸馏流水线：在将 RLVR 强化后的推理模型蒸馏给线上部署模型时，保存一个训练中期的 Checkpoint 并启用 Waypoint-OPD 门控，以极小离线打分代价换取更高的代码与数学推理上限；
• 为企业 Agent 增加“需求澄清与约束探查”前置回路：参考 FDE-Gym 的失分根因，在企业级交付 Agent 动手改代码前，强制插入针对生产数据库 Schema、权限边界与 SLA 隐性约束的主动探针与最小化客户确认步骤。