代码 LLM 盲目自信之谜被解构：指令微调反向放大错误置信度，置信度指标面临失效

核心背景与行业痛点

大语言模型生成的代码常常呈现出“语法完全通顺、但运行时执行崩溃”的特征。虽然沙箱测试与静态分析是保证代码质量的基础手段，但往往成本高昂且只能在代码生成后进行。因此，工业界普遍期望将模型自身的预测不确定性（如 Token 级别的 Logprobs、Entropy 熵值）作为代码可靠性的前置早期预警信号。然而，代码 LLM 往往存在严重的“过度自信困境”：模型在生成错误代码时，其输出概率与置信度得分居然与生成正确代码时几乎无异。

架构亮点与底层机制

该论文针对 CodeLlama、DeepSeek-Coder、Qwen2.5-Coder 以及 OpenCoder 四款主流开源代码模型，结合 HumanEval+、MBPP+ 与 BigCodeBench 三大高强度基准展开系统剖析：

1. 全局与局部 Token 置信度解构：量化分析整段程序与关键控制流 Token 上的置信度分布与信息熵；
2. 选择性生成（Selective Generation）效能检验：评估基于不确定性阈值直接过滤或拒绝低置信度代码的实际收益；
3. 指令微调（Instruction Tuning）影响分析：追踪经过 SFT 与人类偏好对齐后，模型置信度分布与执行正确率之间的耦合演进；
4. 隐藏层表征探针（Latent Analysis）：探究模型深层隐状态向量是否比表层 Softmax 输出蕴含更丰富的正确性先验。

权威 Benchmark 与实测跑分对比

研究团队提炼出四大关键结论：

• 置信度信号片面且高度依赖模型：现有的不确定性指标（如 Mean Token Confidence、Sequence Entropy）仅能提供极其微弱的失败预警，且在不同模型架构间差异巨大；
• 过度自信在程序级与 Token 级持续存在：无论在何种置信度阈值下，基于不确定性的拒绝策略均无法稳定提升被接受代码子集的准确率；
• 指令微调产生“确定性膨胀”副作用：指令微调显著增强了模型生成错误代码时的自信程度（Confidence 普遍被拔高），却并未同步改善模型区分正确与错误代码的判别能力；
• 隐状态暗藏判别线索：虽然表层输出概率被过度自信污染，但模型深层内部隐状态（Hidden Representations）实际上编码了代码执行正确性的潜在特征，表明置信度校准问题根植于投影与采样层。

开发者实战落地与开箱指南

这一发现为智能编程工具（如 Copilot、Cursor、Cline）的架构设计提供了关键启示：

• 杜绝单依赖 Logprobs 过滤：在构建代码重试、自省或自动采纳逻辑时，切勿单纯使用 token_logprobs 或平均概率作为门禁指标；
• 引入外部轻量验证沙箱：必须依赖快速语法解析器、轻量 AST 分析与测试用例实时运行作为第一道可靠性防线；
• 探索隐层探针分类器：针对高可靠性代码生成场景，可基于开源模型最后一层隐状态训练轻量级验证器，绕过已被微调“扭曲”的 Softmax 置信度。