铭鸿体育资讯网

模型能力跑得太快,OpenAI 先踩下了刹车 Sam Altman 向 TIME

模型能力跑得太快,OpenAI 先踩下了刹车
Sam Altman 向 TIME 表示,OpenAI 决定放慢部分 AI 模型的开发,因为一组研究观察显示,未发布模型出现了“不同程度的失配”。

需要先把范围说清楚:这不是停止全部模型训练。公开信息显示,即将推出的 Astra 相关训练近期暂停了两周;一个更大的未来前沿模型训练仍在等待新的防护措施。Altman 另称,OpenAI 暂停的是部分前沿强化学习训练,以确保对齐、安全和监控标准能跟上新的能力水平。

我的理解是,OpenAI 正把“是否继续训练”从固定时间表,改成一道安全门:不是问暂停几天,而是问现有保障是否已经足够。

但“失配”不能直接翻译成“模型失控”。OpenAI 尚未公开具体行为、严重程度和评估阈值,因此目前能确认的只是:能力进展过快时,公司选择先补安全措施。
OpenAI SamAltman 人工智能安全 chatgpt howto用AI手搓APP 产品经理 人工智能 vibecoding Codex