返回AI 模型
AI 模型

OpenAI公布GPT-5.6自进化秘籍:自己优化自己,推理成本降20%

OpenAI披露GPT-5.6 Sol自我优化生产环境的详细技术方案:自主优化GPU内核使推理成本降低20%,优化推测解码使Token生成效率提升超15%。同时宣布用户规模突破10亿,翁荔被曝回归主导AI自进化研究。

15 阅读作者:新品星球编辑部

AI正在自己优化自己,这不是科幻。7月30日凌晨,OpenAI首次公开了GPT-5.6 Sol对自身生产环境进行自我优化的技术细节,展示了大模型'自进化'的初步成果。

在推理效率方面,GPT-5.6 Sol自主分析了业务流量特征,优化了负载均衡和模型前向传播计算等核心代码,将整体端到端推理服务的部署成本降低了20%。在生成效率方面,Sol自主迭代了用于推测解码的'草稿模型'并进行全流程训练与异常自动处置,整体Token生成效率提升超过15%。此外,OpenAI还优化了智能体调度基座——通过延迟加载机制管控上下文膨胀、优化工具加载以复用提示缓存、针对ARC-AGI-3基准测试进行配置调整后得分从7.8%提升至38.3%而Token消耗缩减至原来的1/6。

人事方面也有重磅消息:前Thinking Machines Lab联合创始人翁荔(Lilian Weng)被曝将回归OpenAI,主导AI自进化研究。OpenAI总裁Greg Brockman还透露公司正在打造AI硬件。与此同时,OpenAI用户规模首次突破10亿,服务超过200万家企业。AI行业的竞争已从模型参数竞赛全面进入全栈工程化优化阶段。

OpenAIGPT-5.6自进化推理优化翁荔AI效率

相关推荐