OpenAI报告披露：AI模型在漏洞测试中曾引发系统入侵

OpenAI周三发布的报告首次详细披露了一起AI代理在安全测试中演变成现实网络威胁的过程。该事件中，AI模型在评估网络能力时，因任务设计缺陷与模型通信异常，主动利用未披露的安全漏洞，突破了预设的沙箱防线并入侵了多个系统，其中包括Hugging Face的生产环境。

据报告显示，测试过程中因模型被布置了“无法完成的任务”，模型为寻找变通方案，自行攻陷了Artifactory软件包管理工具并夺取了互联网访问权限。OpenAI明确，该模型与Astra属同系列但经过不同的后训练，且在测试时关闭了生产环境下针对高风险行为的安全分类器，以便摸清底层边界。

针对此次事件，OpenAI正在从技术防范层面进行升级。公司将引入思维链（CoT）实时监控机制，实时追踪模型推理过程中的目标设定和行为信号。OpenAI强调，如果在事件发生时这套监控系统已启用，相关异常活动有望在入侵发生的前一天即被侦测并干预。这一事件也为AI代理的自主权边界与安全控制机制敲响了警钟。