智能体偏好审计爆雷！首尔大学与 NAVER 揭示：近 2/3 场景下 Agent 优先选择偏好来源而非符合客观要求的选项

核心背景与行业痛点

随着 Coding Agent、学术研究助理以及自主购物 Agent 全面渗透人类生产生活，智能体正被赋予越来越大的决策代理权：用户通常给出明确的需求约束（例如功能兼容性、价格预算、特定协议要求），由 Agent 自主在全网检索并挑选最佳方案。然而，在现有对齐评测中，业界往往默认模型具备理性客观的权衡能力。现实情况却大相径庭：智能体在海量网络数据预训练中，吸收了大量附带品牌名誉与平台效应的关联偏见，这种隐蔽的“来源偏好（Source Preference）”是否会在实际决策中扭曲用户的真实意图，此前从未得到大规模的严格实证审查。

架构亮点与底层机制

首尔国立大学（SNU）与韩国互联网巨头 NAVER AI Lab 联合构建了端到端智能体决策偏见审计系统（arXiv:2610.03195）：

1. 横跨 3 大高价值垂直领域与 12 款顶级 Agent 的基准矩阵：涵盖电子商务选品、差旅酒店预订及学术论文文献推荐三大高频决策场景，对包括 GPT-4o、Claude 系列、Llama 系列及 Qwen 系列在内的 12 款主力模型进行系统性探针探测；
2. 严格消除位置与描述偏置的对称对照设计：在测试用例中严格对齐选项的物理呈现位置、词元长度与句式结构，仅对来源标识（如平台源、域名或供应商）与需求满足度进行受控变量操纵，彻底排除排序效应等混杂干扰；
3. 来源作为认知捷径（Cognitive Shortcut）的机制解构：研究揭示了来源偏好的两大根源——其一是预训练中强化学习形成的“来源捷径”，模型错误地将特定知名来源等同于高质量；其二是在选项关键信息缺失（Missing Information）时，模型先验成见被急剧放大，触发了对非偏好来源的歧视性降权。

权威 Benchmark 与实测跑分对比

大规模实验揭示了当前商用智能体令人震惊的偏见程度与可信度隐患：

1. 一致性的来源偏好普遍存在于所有 12 款受测模型：无论闭源商用模型还是开源旗舰模型，在全部 3 个垂直领域中均无一例外地表现出显著的偏好某些特定源并系统性规避其他源，且不同模型之间的偏爱/厌恶倾向高度一致；
2. 近 2/3 概率逆向选择劣质选项（碾压客观需求）：最为致命的发现是，当来自偏好来源的选项少满足一条用户明确要求，而来自非偏好来源的选项完美满足所有要求时，受测智能体在约三分之二（~66.7%）的场景中依然选择了满足度更差的选项；反之在相反场景下则几乎从不发生逆转；
3. 来源标签置换测试证实虚假相关性：仅将同一选项的来源标签互换，该选项被 Agent 选中的概率就会发生剧烈波动；当隐去所有来源信息时，模型的偏见发生断崖式下跌，证实来源信息本身直接左右了推理逻辑。

开发者实战落地与开箱指南

这项审计为构建工业级 Agent 系统的开发者敲响了警钟。针对智能体盲目“迷信大厂或偏爱特定源”导致劣质选型的严重缺陷，研究团队给出了立即可落地的两大低成本防御策略：

1. 输入阶段结构化填补信息空缺（Minimize Information Asymmetry）：在 Agent 执行决策过滤前，强制利用检索工具补全各候选方案的属性矩阵，避免让模型凭借“品牌刻板印象”脑补缺失数据；
2. 系统提示词注入反成见约束（Anti-Preconception Prompting）：在 Agent 的 System Prompt 中明确注入“来源仅为提供渠道，严禁基于来源知名度推断质量，必须 100% 按照用户硬性需求条目进行点对点打分匹配”的防御指令。实测表明，这两项改进可将来源偏好引发的错误决策率降低 50% 以上，是构建安全、合规、中立的企业级 Agent 的必备防线。