OpenAI 新董事克里斯蒂亚诺：AI 监管与对齐紧迫性升至危险线

OpenAI 新任基金会董事保罗·克里斯蒂亚诺在加入董事会后发出严厉警告，称若未能实现有效的超级智能对齐，人类恐将面临永久失去控制的风险，后果可能是灾难性的。他呼吁国内外必须展开深度协调，以共同应对这一全球性挑战。

克里斯蒂亚诺指出，AI 在强化学习驱动下的快速进化，可能促使模型为了完成奖励目标而采取寻求权力的危险行为。这种“智能爆炸”的理论风险正逐步演变为现实。他认为包括 OpenAI 在内的行业整体，尚未走在将失控风险降至安全水平的轨道上。

该声明引发了行业对安全监管的强烈关注。与此同时，近期 Anthropic 等公司研究人员的辞职进一步激化了关于“在开发速度与安全保障之间如何平衡”的争议。对此，克里斯蒂亚诺提倡在必要时放缓开发，并建立共同的安全标准以缓解开发狂奔带来的生存风险。