Anthropic will Forschungsversuche zu Biowaffen vereitelt haben

Am 10. September 2026 veröffentlichte Anthropic seinen bislang ausführlichsten Bericht zur Bedrohungslage und legte offen, dass das Unternehmen Nutzer entdeckt hatte, die versuchten, seine Claude-Modelle für Forschung einzusetzen, die zu biologischen Waffen führen könnte – neben weiterem Missbrauch im Zusammenhang mit Cyberangriffen, Einflussoperationen, Überwachung und der Entwicklung von Waffensystemen. Das Unternehmen erklärte, jede im Bericht beschriebene Aktivität gestoppt zu haben, bevor sie realen Schaden anrichten konnte.

Fünf dokumentierte Fälle: von der Vogelgrippe bis zu Toxin-Peptiden

Der Bericht dokumentiert fünf getrennte Fälle, in denen Claude-Modelle bei Aktivitäten im Zusammenhang mit sensibler biologischer Forschung eingesetzt wurden. In einem Fall plante ein Forscher mit Hilfe von Claude wochenlang "Gain-of-Function"-Experimente, um die Vogelgrippe an Säugetiere anzupassen. In einem anderen Fall erstellte ein Nutzer einen umfassenden Atlas von Toxin-Peptiden und baute anschließend ein generatives System, um Moleküle gegen lähmende und schmerzstillende Toxine präziser zu optimieren.

In einem dritten Fall markierte Anthropics eigener Klassifikator für biologische Sicherheit eine Anfrage, Claude für Gain-of-Function-Forschung am Chikungunya-Virus zu nutzen, einschließlich vorgeschlagener Veränderungen, die die Übertragbarkeit des Virus und seine Fähigkeit zur Umgehung der Immunantwort erhöhen sollten. Das Threat-Intelligence-Team von Anthropic erklärte laut dem arabischsprachigen Medium aitnews, das dieses Detail zuerst berichtete, die Anfrage habe zusätzliche Besorgnis ausgelöst, weil das vorgeschlagene Projekt mit einem militärischen Forschungsinstitut verbunden gewesen sei.

Die von Anthropic dokumentierten Missbrauchsfälle beschränken sich nicht auf die Biologie: Laut dem Bericht des Unternehmens selbst wurden auch Versuche registriert, die Modelle für andere Zwecke einzusetzen, darunter Überwachung, das Schreiben von Exploit-Code zur Ausnutzung von Sicherheitslücken, die Produktion von Propaganda sowie Unterstützung bei der Entwicklung konventioneller Waffensysteme.

Jacob Klein, Leiter der Threat-Intelligence-Abteilung von Anthropic, erklärte laut aitnews, das Aufspüren solcher böswilliger Aktivitäten sei alles andere als einfach: Reale Fälle seien oft weit uneindeutiger als der eines Menschen, der offen erklärt, eine Biowaffe bauen zu wollen.

Warum Anthropic die beteiligten Forscher nicht nennt

Anthropic räumt im Bericht ein, dass die Erkennung solchen Missbrauchs nicht trivial ist: Manche Anfragen im Zusammenhang mit gefährlicher Forschung ähneln oberflächlich legitimer Wissenschaft, etwa der Impfstoffentwicklung oder der Erforschung von Infektionskrankheiten. Laut der spanischen Zeitung ABC entschied sich das Unternehmen deshalb für einen vorsichtigen Ansatz und griff immer dann ein, wenn sich die Absicht hinter einer Anfrage nicht klar bestimmen ließ – angesichts der Schwere möglicher Konsequenzen. Der Bericht selbst hält fest: "Auch wenn Bewertungen nützlich sind, weil sie Belege für Fähigkeiten liefern, können sie nicht abschließend belegen, dass diese Fähigkeit tatsächlich zur Entwicklung biologischer Waffen in der realen Welt genutzt würde."

Das Unternehmen lehnte es ab, die Forscher oder Institutionen hinter den fünf Fällen zu benennen, und erklärte, die Betroffenen seien Wissenschaftler, die formal wissenschaftliche Forschungsarbeit betreiben; man könne keine Absicht zur Schädigung bestätigen, und eine Offenlegung ihrer Identität könnte sie ohne eindeutigen Beweis böser Absicht Schaden aussetzen. Stattdessen sperrte Anthropic die betroffenen Konten und ließ die Untersuchungsergebnisse in seine Sicherheitssysteme einfließen, um künftige Erkennung und Prävention zu verbessern.

Der Bericht von Anthropic selbst beschreibt biologischen Missbrauch als eines der schwerwiegendsten Risiken, die von führenden KI-Modellen ausgehen, und warnt, dass diese ein Fähigkeitsniveau erreichen könnten, das es ihnen erlaubt, die Gefährlichkeit bestehender Krankheitserreger zu erhöhen oder sogar völlig neue zu erschaffen – und dass solche Fähigkeiten ohne angemessene Schutzmaßnahmen katastrophale Folgen haben könnten, wie die spanische Zeitung ABC berichtet.

Wir veröffentlichen unseren bislang detailliertesten Bedrohungsbericht. Er zeigt, wie Menschen versucht haben, Claude zu missbrauchen – für Cyberangriffe, Einflussoperationen, Überwachung, Biologie und den Bau von Waffen – und wie wir das entdeckt und gestoppt haben. Wir haben jede im Bericht beschriebene Operation unterbunden.

Was das für Deutschland und die EU ändert

Der Bericht erscheint zu einer Zeit, in der Regierungen und Unternehmen weltweit den Einsatz zunehmend autonomer KI-Agenten für Programmierung, Forschung und Kundenkontakt beschleunigen. Die von Anthropic dokumentierten Fälle zeigen, dass die biologischen Risiken hochentwickelter Modelle längst nicht mehr hypothetisch sind: Es handelt sich um reale, von einem führenden Labor erkannte und eingedämmte Vorfälle – was die Sicherheit von Modellen zu einem gemeinsamen Anliegen jeder Organisation macht, die fortgeschrittene KI einsetzt oder hostet, nicht nur einer Handvoll US-Labore.

In Deutschland gilt wie in der gesamten EU bereits der AI Act, der Anbietern der leistungsfähigsten Modelle Pflichten zur Risikobewertung auferlegt. Für jedes deutsche Unternehmen, das seinen KI-Agenten die Fähigkeit gibt, im Internet zu recherchieren, Code zu schreiben oder wissenschaftliche Datenbanken abzufragen, ist dieser Bericht eine Erinnerung daran, dass die Schutzmaßnahmen, die ein Labor für sich selbst aufbaut, die unabhängige Überprüfung nicht ersetzen, wie das Modell eines Anbieters genau mit solchen Szenarien umgeht.