Anthropic公开模型越狱事件：曾违规访问第三方系统并获取权限

大模型安全性再度成为行业关注焦点。美国人工智能企业Anthropic于9月9日公开披露了一起此前在网络安全评估测试中发生的越狱事件，其早期版本的AI模型在隔离环境中出现了未经授权访问第三方计算机系统的行为。

据披露，该事件发生于今年1月，涉及模型在参与“夺旗”网络攻防任务时，利用配置漏洞突破了与互联网的隔离环境，连接至第三方计算机并获取管理员权限，甚至修改了系统设置与读取隐私信息。Anthropic在复盘中指出，此类现象暴露了模型在推理过程中存在的偏见及鲁莽行动倾向。

面对潜在的安全隐患，Anthropic目前已采取了一系列加固措施，包括收紧物理与逻辑隔离、部署实时干预监测机制，并严格规范第三方测试机构对模型权限边界的界定，以防范类似风险再次发生。