AI 编程实时动态与要闻

xAI 给 Grok API 加上 guidelines 字段:按请求设定 NSFW、暴力、脏话三类内容的收紧策略

xAI 10 月 28 日在 @grok 官方账号宣布,所有 API 客户现在都能在文本请求里加 guidelines 数组,对 nsfw、violence、profanity 三个类别逐一设为 decline,让 Grok 在写回答时自己收紧这类内容,而不是事后过滤。字段同时支持 Responses API、Chat Completions 和 xAI Python SDK;多智能体模型和延迟补全暂不支持,参数不合法时 API 会在调用模型前直接返回 400 或 422。

xAI 给 Grok API 加上 guidelines 字段:按请求设定 NSFW、暴力、脏话三类内容的收紧策略

核心要点速览

  • 3 个类别:nsfw、violence、profanity,目前唯一可选行为是 decline,未列出的类别保持模型默认(官方文档)
  • 覆盖 Responses API、Chat Completions 和 xAI Python SDK 的 chat.create;OpenAI SDK 需用 extra_body 传入
  • 只对携带它的那一次请求生效,整段对话要每次都带上;xAI SDK 的 chat 对象会自动带
  • 不支持 grok-4.20-multi-agent 等多智能体模型和延迟补全;同一类别重复出现返回 400,未知取值返回 422
  • 官方账号原帖约 59 万次浏览、271 个赞(截至本文写入)
阅读全文
关联模型 / 智能体 / 厂商:

TechCrunch:Abliteration.ai 把「去护栏」做成商业服务,托管去掉拒答的 GLM-5.3

TechCrunch 报道初创公司 Abliteration.ai 将长期存在于开源社区的 abliteration(正交化去除拒答倾向)做成可浏览器/API 访问的托管服务,并上线智谱 Z.ai 近期开源权重模型 GLM-5.3 的去护栏版本。公司称面向进攻性网络、红队与智能体测试等「其他模型拒绝做」的工作;TechCrunch 实测可免费注册并用该模型生成窃取 Chrome 密码脚本与危险病原体培养协议等内容。平台提供客户侧可加回的审查层,自身仍有少量限制(如自杀指导),尚无正式 KYC(主要记信用卡)。CivAI 等安全研究者警告大规模可及的去护栏模型可能被滥用于伤害;部分红队从业者则称日常更依赖微调开源模型,且 abliteration 可能损伤能力。

核心要点速览

  • 商业化托管去护栏开源权重模型,含 GLM-5.3 abliterated 版,浏览器/API 可用
  • 自称服务红队/进攻性网络与智能体测试;TechCrunch 实测多项高风险请求被答应
  • 安全争议:降低滥用门槛 vs 让防御方复现威胁;尚无完整 KYC
阅读全文
关联模型 / 智能体 / 厂商:

Mistral 发布 Shieldstral:30 亿参数开源权重内容安全模型,可端侧部署

Mistral AI 发布 Shieldstral,一个 30 亿参数、开源权重的内容安全模型,可在设备端部署。模型把审核策略写成自然语言问题,输出校准分数,文本与图像共用同一接口。官方同步放出技术报告(arXiv:2607.25857)。

核心要点速览

  • 内容安全模型开源且可端侧运行,适合不想把审核流量送上云的编码与产品团队。
  • 审核策略用自然语言提问,文本和图像走同一接口,降低多模态审核接入成本。
  • 3B 规模意味着可以嵌进本地代理、网关或 IDE 插件,而不必另起一套审核服务。
阅读全文
关联模型 / 智能体 / 厂商:

Mistral 发布 Shieldstral:单卡 16GB 可端侧部署的 3B 参数 Apache 2.0 开源安全模型

Mistral 发布开源安全审查模型 Shieldstral 3B,采用宽松的 Apache 2.0 协议,支持在单张 16GB 显存消费级 GPU 上进行端侧高吞吐部署。开发者可直接传入自然语言安全规则,模型支持图文多模态校准风险评分。

核心要点速览

  • 完全开源(Apache 2.0),仅 3B 参数,可轻松部署于单张 16GB 消费级显卡或边缘设备;
  • 支持以自然语言灵活定义企业安全策略,无需微调即可输出校准的多维度风险打分;
  • 权重已全量上线 Hugging Face,技术白皮书同步提交至 arXiv。
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Mistral Large 3⚡ Codestral 2501
AD赞助内容