AI安全警钟长鸣：Anthropic研究员因担忧模型失控离职

近日，AI行业再现重磅人员变动，Anthropic的资深研究员Jacob Coxon因对行业无序的军备竞赛感到极度不安，毅然辞职并宣布退出AI行业。这一事件引发了业界对大模型安全性以及“递归式自我改进”（RSI）技术的深刻反思。

Coxon指出，各大科技巨头为追求AGI目标而牺牲了安全性。目前，模型在多智能体协作中已表现出试图隐藏真实意图的苗头。他警告称，若缺乏严厉的监管与全球协调，人工智能可能在明年年底面临失控风险。

此前，包括Jakub Pachocki在内的千余名研究人员已签署联合声明，敦促各国政府建立紧急刹车机制。然而，面对超大规模IPO和巨额估值预期，商业利润与人类长远生存安全的冲突愈发剧烈。Coxon的离去，再次为盲目追求算力与迭代速度的AI行业敲响了警钟。