可靠智能体拒答与自知机制突破：HERA 提出脚手架-环境共进化架构，拒答成功率跃升至 83.3%

核心背景与行业痛点

当前 LLM 智能体在处理具备明确路径的多步工具调用任务时能力日臻完善，但在面对“实际上根本不存在解、或者前置条件已被破坏”的任务时，表现出极度危险的盲目自信。当数据库中缺少关键字段、服务器权限未配置或文件根本不存在时，智能体往往不会主动停止并向人类求助（Abstain），而是陷入连续数十步无意义的重试、臆造虚假结果甚至发起具有破坏性的危险写操作。以往的研究多通过在固定数据集上修改 Prompt 或添加拒答示例来防范，但这种针对固定环境优化的脚手架（Harness）极易迅速饱和，无法应对现实世界层出不穷的新型故障。研究团队在 arXiv:2610.06563 中提出了革新性的 HERA 框架。

架构亮点与底层机制

1. 脚手架-环境动态共进化机制（Co-Evolution）：

• 摒弃静态评测集的打擂模式，将环境构造器与智能体脚手架置于对偶博弈体系中；
• 环境变异管线自动对真实可执行工具环境注入精细扰动，生成具有严格可验证性的“成对可行-不可行”任务实例；

1. 失败驱动的自适应脚手架进化（Failure-Driven Harness Adaptation）：

• 一旦当前脚手架在变异环境中表现出盲目重试或未能在不可行状态下及时刹车，系统会自动将该失败轨迹作为反思样本，更新脚手架的决策阈值与自我怀疑验证链路；

1. 跨模型通用泛化验证体系：

• 基于 GPT-5.6-Luna 展开基础进化，随后将沉淀的最佳脚手架直接零样本迁移至另外 19 款主流商业与开源基础模型上进行验证。

权威 Benchmark 与实测跑分对比

论文依托全新构建的 hera-bench 进行了跨模型、跨任务类型的大规模严谨测试（Table 1, Figure 3）：

• 不可行任务拒答成功率（Abstention Success）：
• 在完全未见过的保留测试任务上，基线智能体的拒答成功率仅为 61.7%；
• 经由 HERA 优化的脚手架使拒答成功率大幅飞跃至 83.3%；
• 成对严格成功率（Paired Success）：
• 衡量智能体能否在可行时完成任务、不可行时主动拒答的综合指标（成对成功率）从 48.3% 跃升至 70.0%；
• 推理成本与 Token 消耗节约：
• 针对 14 款模型的经济性分析显示，由于及时识破死局并主动刹车，HERA 避免了大量长程无效重试，平均单任务 Token 消耗下降了 34% 以上。

开发者实战落地与开箱指南

• 技术论文与测试集：详阅 arXiv:2610.06563；
• 生产级 Agent 架构实践启示：企业在部署自动化运维（SRE）、线上数据库操作或金融转账等高危场景智能体时，必须引入 HERA 式的“成对不可行任务压力测试”，在脚手架层强制嵌入自检刹车机制，坚决杜绝“不撞南墙不回头”的危险行为。