X 热议：开源 AI 开发者 Jun Song 称拒绝黑客组织「天价」请求，对方想用海量攻击数据后训练开源权重模型

核心背景与行业痛点

开源权重模型的安全争论一直停留在抽象层面：权重公开后，任何人都可以用自己的数据继续训练，模型厂商加的拒答护栏可能被后训练抹掉。11 月 1 日，开源 AI 开发者 Jun Song（@jun_song，X 简介写着正在打造 Supergemma、在韩国做数据中心硬件出口）发帖，把这个担忧变成了一个具体故事：一个匿名黑客组织找上门，想花大价钱让他用攻击数据训练模型。

架构亮点与底层机制

按他的描述，对方要的是对开源权重模型做强化学习（RL）后训练，训练材料是对方手里的漏洞利用（exploit）数据，量大到他说「说是 FBI 卧底数据集我也信」。他拿自己做过的一个白帽项目对比：基于智谱 GLM-5.3，用的数据不到对方的 1%，效果就已经大幅超过前沿模型。这里的机制并不新：用真实攻击轨迹做奖励信号，能把通用模型快速特化成攻击 Agent。新的是有人愿意为此出高价。

权威 Benchmark 与实测跑分对比

官方未公布，也没有任何可核实的数据：报价金额、数据规模、黑客组织身份都只是作者一人的说法，「大幅超过前沿模型」同样没有公开跑分。可以核实的只有帖子本身的热度：截至 17:10 SGT 约 2,029 赞、22.2 万浏览、771 收藏。帖子还被多人照抄开头改成段子，说明一部分读者把它当夸张叙事看待。

开发者实战落地与开箱指南

对用开源模型的团队，这条讨论的实际意义有三点：一是别把模型自带的拒答当作安全边界，部署侧要自己做权限、沙箱和审计；二是做安全方向微调时，数据来源和用途要留档，避免被卷入灰色交易；三是关注各家对开源权重的发布政策，下一轮监管讨论很可能引用这类案例。本条为 X 热议，不代表事实已被证实。