Anthropic表示已阻止利用Claude從事生物武器研究的企圖

2026年9月10日,Anthropic發布了迄今為止最詳盡的威脅情報報告,揭露公司偵測到有使用者試圖利用其Claude模型從事可能導致生物武器的研究,同時還涉及網路攻擊、影響力操作、監控與武器系統開發等其他濫用行為。公司表示,已在報告所述的每一起行動造成實際危害之前將其阻止。

五起已記錄案例:從禽流感到毒素肽

報告記錄了五起獨立案例,其中Claude模型被用於與敏感生物研究相關的活動。其中一起案例中,一名研究人員花費數週時間,藉助Claude規劃旨在使禽流感病毒適應哺乳類動物的「功能增益」實驗。另一起案例中,一名使用者利用Claude建立了完整的毒素肽圖譜,隨後建立一套生成式系統,用於更精確地優化針對麻痺性與鎮痛性毒素的分子。

在第三起案例中,Anthropic自行研發的生物安全分類器標記出一項請求,該請求試圖利用Claude從事屈公病毒的功能增益研究,其中包括旨在提高病毒傳播能力及免疫逃脫能力的改造方案。據阿拉伯語媒體aitnews率先披露,Anthropic威脅情報團隊表示,由於該擬議計畫與一所軍事研究機構有所關聯,這項請求引發了額外關注。

Anthropic記錄的濫用案例並不僅限於生物領域:根據Anthropic自身的報告,報告還記錄了利用其模型從事其他活動的企圖,包括監控、撰寫利用安全漏洞的攻擊程式碼、製作宣傳材料,以及協助開發傳統武器系統。

據aitnews報導,Anthropic威脅情報負責人雅各布·克萊恩(Jacob Klein)表示,發現此類惡意活動並非易事,現實案例往往比某人公開宣稱要製造生物武器的情形要模糊複雜得多。

Anthropic為何不公開涉案研究人員身分

Anthropic在報告中坦承,偵測此類濫用行為並非易事:部分與危險研究相關的請求,表面上與疫苗研發或傳染病研究等合法科學活動十分相似。據西班牙《ABC報》報導,正因如此,公司選擇採取謹慎態度,只要無法明確判定請求背後的真實意圖,就會採取行動,因為潛在後果可能極為嚴重。報告寫道:「雖然評估有助於提供能力方面的證據,但並不能確切證明這種能力會在現實世界中真正被用於開發生物武器。」

公司拒絕公開與這五起案例相關的研究人員或機構身分,稱涉案人員是正式從事科學研究工作的科學家,公司無法確認其存在造成傷害的意圖,而在缺乏確切惡意證據的情況下公開身分可能使其受到傷害。Anthropic轉而暫停了相關帳戶,並將調查結果納入其安全系統,以提升未來偵測與防範此類行為的能力。

據西班牙《ABC報》報導,Anthropic報告本身將生物濫用列為前沿人工智慧模型帶來的最嚴重風險之一,並警告稱,這些模型可能達到某種能力水準,從而能夠提高現有病原體的危險性,甚至創造出全新的病原體;若缺乏充分的安全保障措施,這些能力可能帶來災難性後果。

我們正在發布迄今為止最詳盡的威脅情報報告。報告說明了有人如何試圖濫用Claude——用於網路攻擊、影響力操作、監控、生物研究與武器製造——以及我們如何發現並阻止了這些行為。我們阻止了報告中記錄的每一起行動。

這對台灣的人工智慧治理意味著什麼

該報告發布之際,全球各國政府與企業正加速部署自主性日益增強的人工智慧代理,用於程式撰寫、科學研究與客戶服務等場景。Anthropic記錄的這些案例顯示,前沿模型的生物安全風險已不再只是假設:這些是被一家領先實驗室偵測並加以控制的真實事件,這使得模型安全成為任何部署或代管先進人工智慧的機構都必須關注的問題,而不僅僅是少數美國實驗室的責任。

台灣目前仍在推動專屬的人工智慧基本法草案,對前沿模型應如何篩查生物、化學等兩用研究請求,尚未有具體明確的規範。對於已經賦予人工智慧代理瀏覽網頁、撰寫程式碼或查詢科學資料庫能力的台灣企業而言,這份報告提醒:實驗室為自身建立的安全防護措施,並不能取代對供應商模型在此類具體情境下實際表現的獨立驗證。