返回AI 产品
AI 产品

贾扬清Intent Lab再进化:Fleet让GLM-5.2推理速度飙升534%

贾扬清创立的Intent Lab公布Fleet自主Agent团队的三大早期成果:将GLM-5.2推理速度从102 token/s提升至647 token/s、一条指令从头构建完整SQL数据库引擎通过600万项测试、自建AgentFS文件系统性能达亚马逊EFS的626倍。

10 阅读作者:新品星球编辑部

距离贾扬清宣布创立Intent Lab仅过去一天,这家公司就用硬核数据证明了自己的技术实力。7月30日,Intent Lab公布了其自主Agent团队Fleet的三大早期成果,每一项都令人震撼。

最引人注目的是推理优化:Fleet自主重新设计了英伟达TensorRT-LLM的代码,让GLM-5.2模型在Grace Blackwell节点上的推理速度从原版的102 token/s飙升至647 token/s,端到端性能提升534%。四个优化方向包括内核融合(+24%)、零拷贝运行时(+16%)、通信融合(+18%)和推测解码加速(约4倍)。整个过程无人工介入,Fleet自主寻找并验证了所有优化方案。

更令人惊叹的是,Fleet仅凭一条指令——'构建一个与SQLite兼容的数据库引擎并通过全部测试'——在不参考任何现有代码和文档的情况下,产出了8720万个输出token,最终通过了全部600万项验收测试。此外,Fleet还自建了AgentFS分布式文件系统,目录状态查询速度达亚马逊EFS的626倍。虽然这些仍是早期成果,但Fleet展现出的自主工程能力已在重新定义'AI编程'的边界。

贾扬清Intent LabFleetGLM-5.2AI编程推理优化

相关推荐