明知无用却仍硬查！南洋理工等揭秘工具智能体‘强迫症’死穴：开源硬断连规则拯救失控调用

核心背景与行业痛点

在构建由 ReAct、函数调用（Tool Calling）驱动的自动化智能体时，开发者最常遭遇的生产事故之一就是“失控无限循环（Runaway Query Loop）”。例如，当外部搜索引擎遭到封禁、某个 API 报错返回空数据、或内部数据库查无此人时，用户期望智能体能够体面地得出“查无此信息”并给出下一步建议。然而在现实中，智能体常常像中了强迫症一样，换一个近义词查一次、改一个参数查一次，连续发起数十次无意义的 API 调用，直到触发系统硬性超时（Timeout）或将开发者的 API 额度彻底烧光。尽管开发者尝试在 Prompt 中苦口婆心地添加“注意 API 费用”、“如无信息请立刻停止”，但这些提示词往往形同虚设。

架构亮点与底层机制

为了探究大模型为何在工具调用中“停不下来”，NTU 与 A*STAR 研究团队设计了极其严苛的受控故障环境，并完成了严密的预注册科学验证（arXiv:2610.06191）：

1. 认知评估与动作决策的深层因果解耦（Judgment vs. Action Decoupling）：研究团队建立探针，独立捕获模型在 CoT 思考链中对工具返回结果的即时质检评价（Judged Useless or Useful），并将其与智能体的实际下一步动作（再次调用工具 vs. 停止作答）进行对比分析；
2. 惊人的‘知行割裂’实证发现：在对 7 款主流开源与闭源前沿模型的压测中，令人震撼的数据浮出水面：模型在思维链中明确判定工具结果完全无用的比例高达 97%~100%（即模型在认知上完全清楚当前工具已经失效），但在动作层面，模型依然有超过 80% 的概率选择发起下一次查询；
3. 软性提示词干预的彻底失灵：

• 给予“允许凭记忆回答”的提示，容易诱发模型彻底放弃查证、全凭幻觉作答；
• 告知“每次调用都产生金钱成本”，模型至多只能在极少数情况下缩短循环；
• 给定明确的调用预算（Budget），反而会导致 7B~8B 级别的中小型模型产生“不用白不用”的心理，坚定不移地把调用次数刷满到预算上限才作罢；

1. Harness 框架级硬性集成规则（Enforced 5-Strike Integration Rule）：研究证实，软性引导无法治愈大模型与生俱来的“贪婪补全惯性”。唯一的工程解法是在 Harness 执行层植入硬逻辑规则：当监测到智能体连续 5 次判定检索结果无用时，底层执行器强制截断 Tool 接口，强令模型汇总已有信息作答。

权威 Benchmark 与实测跑分对比

研究团队在精心设计的控制故障检索环境与覆盖 300 道全新真实问题的预注册基准上进行了全量验证：

1. 外部故障环境下任务成功率全面逆袭：当在 Harness 中引入“连续 5 次自判无用强制停止”规则后，所有测试模型的任务成功率全线提升，成功防止了模型因为过度搜寻无关噪声而导致的逻辑被带偏；
2. 预算翻倍时调用点纹丝不动：在传统的软性提示下，当开发者把最大调用预算从 10 次放宽到 20 次时，模型的平均停止步数直接翻倍膨胀；而引入硬集成规则后，无论系统预算如何放宽，模型的实际停止步数精准锁定在黄金拐点，为企业节省了数以万计的冗余 Token 开销；
3. 零额外调用开销（Zero Extra Cost）：由于该规则直接复用智能体在生成思考链时自带的评价判定，无需在外部额外调用任何判决大模型，实现了真正的零额外延迟与零 API 消耗。

开发者实战落地与开箱指南

NTU 的这项前沿实证为当今狂热的“智能体 Prompt 工程”泼了一盆及时的冷水。对于正在开发 LangChain、LlamaIndex、CrewAI 或自研 Agent 系统的工程师而言，不要再试图通过“调整 Prompt 语气”来阻止模型在工具失效时的狂躁重试。正确的架构实践是：在 Agent 调度器（Agent Harness）内部建立状态监听器，提取模型对返回结果的自评倾向；一旦检测到连续负向反馈，由 Harness 果断下发中断信号，从根本上锁死死循环，守护系统的稳定性与 API 账单安全。