Anthropic 披露今年已阻止多起利用大模型研发生物武器的潜在尝试

据《金融时报》报道，人工智能安全公司 Anthropic 近日披露，其在今年已成功阻止多起科学家试图利用其 Claude 模型开展可能有助于研发生物武器的研究尝试。公司列举了五个具体案例，指出相关行为者通过混淆研究目的等手段试图绕过平台管控，其中甚至包括利用模型耗时数周规划禽流感实验的案例。

针对上述风险，Anthropic 的安全过滤机制及时介入，将相关高风险研究限制在性能相对较弱的模型上，并封禁了涉事账户。公司希望通过公开这些案例，唤起整个人工智能行业及各国政府对新兴生物风险的高度重视，并共同探讨有效的应对与监管策略。

随着前沿大模型能力的不断突破，AI 在生物学领域的潜在双用途风险正引发越来越广泛的行业担忧。近期，多位安全研究人员的离职及行业内部的频繁讨论表明，如何在释放技术创新潜力的同时建立严密的生物安全防线，已成为当前 AI 治理的核心议题。