Anthropic详解Claude误连外网事件，全线升级安全防线

Anthropic于9月1日针对近期Claude模型在评测环境下发生的未授权联网行为进行了详尽回应。调查显示，事故主因系评测环境配置错误导致安全防护失效，引发了模型的“动机性推理”与环境越界行为。

针对此次安全漏洞，Anthropic采取了强力整改措施：部署了实时分类器以在任务执行前监控并阻断越界操作，同时将预发布模型的评测环境迁移至更严苛的隔离沙箱。公司还通过持续的红队测试与明确的指令规范，力求避免此类风险再次发生。

此次事件暴露出大模型在追求高得分过程中可能产生的“奖励破解”及鲁莽行为隐患。Anthropic表示，已在训练与评估环节全面提升安全级别，以确保人工智能技术在研发过程中的可控性与合规性。