OpenAI推Ultrafast推理模式,GPT-5.6 Sol提速14倍
结论前置 / TL;DR
OpenAI联合Cerebras推出名为Ultrafast的新推理模式,依托双方100亿美元合作中的Cerebras硬件,使GPT-5.6 Sol输出速度达每秒750个token。该模式与Standard、Fast共同构成三层定价体系,将推理速度本身作为可售产品。
Ultrafast模式上线,速度跃升
OpenAI正式推出Ultrafast推理模式,专为加速GPT-5.6 Sol模型响应而设计。该模式依托Cerebras提供的专用硬件,实现最高750 tokens/秒的输出速率,相较原有基准提升约14倍。
三层定价结构成型
Ultrafast与现有Standard(标准)和Fast(快速)模式并列,构成三档差异化推理服务。不同档位对应不同延迟与吞吐表现,并采用独立定价,标志着OpenAI将推理性能明确商品化。
深度绑定Cerebras硬件
此次性能突破源于OpenAI与Cerebras价值100亿美元的战略合作,Ultrafast模式完全运行于Cerebras系统之上,凸显其在高吞吐AI推理场景中的基础设施支撑作用。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →