OpenAI 宣布在 API 中向部分开发者预览 Ultrafast 极速模式。该模式由 Cerebras 专用推理芯片提供底层算力加速,峰值生成速率高达 750 tokens/秒,相对常规推理提速 14 倍,重点赋能实时语音、复杂代码重构、UI 设计与即时安全事件自动化响应。
核心要点速览 (Key Takeaways)
- ✓基于 Cerebras 专用推理硬件,峰值输出速率飙升至 750 tokens/秒。
- ✓将前沿旗舰智力模型首次送入对毫秒级低延迟有极高要求的在线代码生成流中。
- ✓编码、界面生成与安全应急响应被明确列为首批落地业务场景。