OpenAI 首席科学家雅库布警告：AI 自我进化时代或将到来

OpenAI 首席科学家雅库布·帕乔基近日公开发表警示，指出 AI 模型的发展速度已超乎想象，并呼吁行业在建立共同安全门槛之前，采取自愿放缓开发节奏的措施。

雅库布强调，当前 AI 正在迈向“递归式自我改进”阶段，即模型能够在无人干预的情况下自主优化代码与能力。这种能力的快速提升，使得现有的监控与对齐技术面临巨大挑战。他认为，在确保安全的前提下，“慢下来”应成为全球 AI 实验室的共识。

这一观点反映了 OpenAI 在持续推动前沿技术与严控安全风险之间的焦虑平衡。此前 OpenAI 已多次表示，无法确保对齐能力始终能与模型能力并行增长，因此国际间的协调与行业自律已成为确保 AI 技术演进符合人类利益的关键。