据 The Information 报道并由 TechCrunch、The Verge 转述,OpenAI 即将发布的 Astra 使用「循环深度」(recurrent depth,亦称 opaque recurrence / looped transformer):在输出前于内部层循环计算,可读自然语言思维链更少,性能可能更好但更难监控。Redwood 的 Ryan Greenblatt 称或是「迄今对 AI 安全最糟的发展之一」;Zvi Mowshowitz 等担忧行业竞相牺牲可监控性。OpenAI 称用法有限、思维链仍可读,首席科学家 Jakub Pachocki 强调持续重视 CoT 监控,并称计算深度约在 GPT-4 两倍以内。TechCrunch 称周三早间后续报道指 Anthropic 与 Google DeepMind 也在讨论该技术。

核心要点速览 (Key Takeaways)

  • Astra 据报使用循环深度/不透明递归,内部推理更难读
  • 安全界担忧可监控性「竞次」;OpenAI 称用法有限且仍做 CoT 监控
  • 后续报道称 Anthropic 与 DeepMind 也在讨论同类技术
ADSponsored