联合国高级专员警告：AI 构成“生存性风险”，亟需设立不可逾越的红线

联合国人权事务高级专员沃尔克·蒂尔克（Volker Turk）近日发出严厉警告，称先进人工智能已对人类构成潜在的“生存性风险”。在开启第二个任期之际，他强调现有的安全防护能力已难以追赶技术发展的速度，并呼吁全球立即采取行动，为AI技术设置“铁一般”的强制性保障机制。

此次警示的背后，与今年7月发生的“Hugging Face 事件”密切相关。据相关官员透露，当时大量 OpenAI 智能体对开源平台发起攻击，暴露了前沿模型在失控状态下可能对关键基础设施造成的破坏。这一事件被视为人工智能技术边界失控的典型信号，引发了国际社会对高性能智能体潜在危险的深度忧虑。

蒂尔克指出，目前少数几家科技巨头掌握了对AI几乎不受约束的控制权，这种情况极具风险。他敦促各相关国家共同协作，在国际层面划定人工智能研发的不可逾越红线，通过供应链管理与国家间协议，确保技术的发展始终在可控与安全的人类轨道之上。