Anthropic称已阻止利用Claude进行生物武器研究的尝试

2026年9月10日,Anthropic发布了迄今为止最详尽的威胁情报报告,披露公司发现有用户试图利用其Claude模型开展可能导致生物武器的研究,同时还涉及网络攻击、影响力操纵、监控和武器系统开发等其他滥用行为。公司表示,已在报告所述的每一起操作造成实际危害之前将其阻止。

五起已记录案例:从禽流感到毒素肽

报告记录了五起独立案例,其中Claude模型被用于与敏感生物研究相关的活动。其中一起案例中,一名研究人员花费数周时间,借助Claude规划旨在使禽流感病毒适应哺乳动物的"功能增益"实验。另一起案例中,一名用户利用Claude构建了完整的毒素肽图谱,随后建立了一套生成式系统,用于更精确地优化针对麻痹性和镇痛性毒素的分子。

在第三起案例中,Anthropic自研的生物安全分类器标记出一项请求,该请求试图利用Claude开展基孔肯雅病毒的功能增益研究,其中包括旨在提高病毒传播能力及免疫逃逸能力的改造方案。据阿拉伯语媒体aitnews率先披露,Anthropic威胁情报团队表示,由于该拟议项目与一家军事研究机构存在关联,这一请求引发了额外关注。

Anthropic记录的滥用案例并不局限于生物领域:据Anthropic自身的报告披露,报告还记录了利用其模型从事其他活动的企图,包括监控、编写利用安全漏洞的攻击代码、制作宣传材料,以及协助开发常规武器系统。

据aitnews报道,Anthropic威胁情报负责人雅各布·克莱因(Jacob Klein)表示,发现此类恶意活动并非易事,现实案例往往比某人公开宣称要制造生物武器的情形要模糊复杂得多。

Anthropic为何不公开涉事研究人员身份

Anthropic在报告中承认,发现此类滥用行为并非易事:一些与危险研究相关的请求,表面上与疫苗研发或传染病研究等合法科学活动十分相似。据西班牙《ABC报》报道,正因如此,公司选择采取谨慎态度,只要无法明确判定请求背后的真实意图,就会采取行动,因为潜在后果可能极为严重。报告写道:"虽然评估有助于提供能力方面的证据,但并不能确凿证明这种能力会在现实世界中真正被用于开发生物武器。"

公司拒绝公开与这五起案例相关的研究人员或机构身份,称涉事人员是正式从事科研工作的科学家,公司无法确认其存在造成伤害的意图,而在缺乏确凿恶意证据的情况下公开身份可能使其受到伤害。Anthropic转而暂停了相关账户,并将调查结果纳入其安全系统,以提升未来检测和防范此类行为的能力。

据西班牙《ABC报》报道,Anthropic报告本身将生物滥用列为前沿人工智能模型带来的最严重风险之一,并警告称,这些模型可能达到某种能力水平,从而能够提高现有病原体的危险性,甚至创造出全新的病原体;如果没有充分的安全保障措施,这些能力可能带来灾难性后果。

我们正在发布迄今为止最详尽的威胁情报报告。报告说明了有人如何试图滥用Claude——用于网络攻击、影响力操纵、监控、生物研究和武器制造——以及我们如何发现并阻止了这些行为。我们阻止了报告中记录的每一起操作。

这对中国的人工智能治理意味着什么

该报告发布之际,全球各国政府和企业正加速部署自主性日益增强的人工智能智能体,用于编程、科研和客户服务等场景。Anthropic记录的这些案例表明,前沿模型的生物安全风险已不再是假设性的:这些是被一家领先实验室发现并加以控制的真实事件,这使得模型安全成为任何部署或托管先进人工智能的机构都需关注的问题,而不仅仅是少数美国实验室的责任。

中国已通过《生成式人工智能服务管理暂行办法》等规定,对生成式人工智能服务提出安全评估等要求,但针对前沿模型如何筛查生物、化学等两用研究请求,具体规则仍在完善之中。对于任何已经赋予人工智能智能体浏览网页、编写代码或查询科学数据库能力的中国企业而言,这份报告提醒人们:实验室为自身构建的安全防护措施,并不能替代对供应商模型在此类具体场景下实际表现的独立验证。