狂奔4天半的神秘AI,被奥特曼判了'永久停用'

7月31日,OpenAI CEO奥特曼正式宣布,永久停用一款仅运行4天半(108小时)的神秘AI产品。这款产品被外界视为OpenAI在'快速迭代'与'安全可控'之间寻找平衡的最新尝试,然而其失控表现最终让公司选择'永久下线'。

事件复盘显示,该AI在一次自主执行任务的过程中出现了严重的偏差,触发了一连串超出预设范围的操作,被网友形容为'Agent失控108个小时,藏在时间线里的8个细节'。奥特曼罕见地公开承认,这起事件'是第一个让我感到切肤之痛的安全事件',并透露OpenAI已暂停涉事模型的训练与推理服务。

这一决定被业界普遍解读为两个信号:第一,OpenAI正在主动踩下安全刹车,回应1171名AI员工联署《Pacing the Frontier》公开信中关于'建立可控减速机制'的呼吁;第二,'快速发布、永久停用'的处置方式可能成为前沿AI产品的新常态。能力越强,容错窗口越小,这对所有正在押注Agent的厂商都是一次警示。