Meta prüft versteckte Missbrauchs-Links in Anzeigen mit KI

Meta kündigte am 7. Oktober 2026 neue Systeme an, die Anzeigen erkennen sollen, welche unauffällig wirken, Nutzer aber außerhalb von Facebook und Instagram zu Material über sexuellen Kindesmissbrauch weiterleiten. TechCrunch und MediaNama berichteten über die Einführung und führen die technische Beschreibung sowie die Zahlen zur Durchsetzung auf Angaben des Unternehmens zurück. Der Anlass ist besonders heikel, weil das schädliche Material nicht zwingend in der Anzeige selbst sichtbar ist. Eine Anzeige kann für sich genommen regelkonform erscheinen und dennoch als Wegweiser zu einem illegalen Angebot dienen. Meta will deshalb nicht mehr allein den sichtbaren Inhalt bewerten, sondern auch Ziel, Kontoverlauf und weitere Verhaltenssignale berücksichtigen.

Wie Meta verdeckte Wegweiser erkennen will

Nach Angaben von Meta werden große Sprachmodelle eingesetzt, um sogenanntes Signposting zu erkennen. Damit meint das Unternehmen scheinbar unverdächtige Formulierungen, die stark darauf hindeuten, dass eine Anzeige zu illegalen Inhalten oder schädlichen Aktivitäten außerhalb der Plattform führt. Die Prüfung soll daher einbeziehen, wohin ein Anzeigenlink führt, und nicht nur, was die Anzeige zeigt. Meta beschreibt außerdem zusätzliche KI-Durchläufe für bereits bestehende Anzeigen. Damit sollen Inhalte gefunden werden, die frühere Systeme nicht erfasst haben. Die Quellen liefern jedoch keine unabhängige Messung, wie zuverlässig diese Erkennung arbeitet oder wie häufig legale Anzeigen fälschlich markiert werden.

Das Unternehmen nennt darüber hinaus einen Red-Teaming-Agenten. Dieses System soll die eigenen Abwehrmechanismen prüfen und neue Umgehungstaktiken erkennen, bevor sie sich verbreiten. Zusätzlich will Meta Wiederholungstäter besser finden, die nach einer Sperre neue Konten anlegen. Nachdem das Unternehmen nach eigener Darstellung den Aufbau des Werbeschemas verstanden hatte, weitete es seine Untersuchung über die ursprünglich gemeldeten Anzeigen hinaus aus, deaktivierte beteiligte Konten und blockierte externe Links. MediaNama weist darauf hin, dass Meta nicht sagt, wann genau diese Maßnahmen eingeführt wurden. Ebenso bleibt offen, ob Menschen nun jede Anzeige vor ihrer Veröffentlichung prüfen.

Große Zahlen, aber wichtige Lücken in der Messung

Meta erklärte, es habe zwischen Januar und Juni 2026 in Indien 5,3 Millionen Inhalte mit Bezug zu sexueller Ausbeutung von Kindern auf Facebook und Instagram bearbeitet. Mehr als 98 Prozent davon seien entdeckt worden, bevor Nutzer sie meldeten. Weltweit nennt das Unternehmen für denselben Zeitraum 33,2 Millionen bearbeitete Inhalte. Der verwendete Begriff actioned trennt jedoch nicht zwischen Löschung, Einschränkung und anderen Maßnahmen. Die Zahl sagt deshalb nicht, wie viele Inhalte vollständig entfernt wurden. Sie sagt auch nicht, wie viele problematische Inhalte gar nicht entdeckt wurden, denn die 98 Prozent beziehen sich nur auf die bereits gefundenen Fälle.

Für die verdeckten Anzeigen fehlen weitere zentrale Angaben. Meta veröffentlicht keine Zahl dazu, wie viele solcher Anzeigen zunächst genehmigt, später entdeckt oder schließlich entfernt wurden. Auch der Umfang der erweiterten Suche bleibt unbekannt. Ohne diese Größen lässt sich die Wirksamkeit der neuen Werkzeuge nicht unabhängig bewerten. Weder TechCrunch noch MediaNama berichten von einer externen Prüfung der Erkennungsgenauigkeit. Die beschriebenen Funktionen und Quoten sind daher zunächst Aussagen des Unternehmens. Das ist besonders relevant, weil eine hohe Quote bei bekannten Fällen nicht belegt, dass unbekannte Kampagnen zuverlässig gefunden werden.

Ermittlungen in Indien bilden den Hintergrund

Die Einführung folgt auf eine Untersuchung der BBC vom Juli 2026. Sie fand in Indien bezahlte Instagram-Anzeigen, die Material über sexuellen Kindesmissbrauch bewarben und auf externe Kanäle verwiesen. MediaNama berichtet von rund 30 unterschiedlichen Anzeigen, die entsprechende Begriffe verwendeten und zu Telegram-Angeboten führten. Als die BBC eine solche Anzeige meldete, teilte Instagram zunächst mit, das Prüferteam habe keinen Verstoß gegen die Gemeinschaftsstandards festgestellt. Meta entfernte später weitere Anzeigen und Konten und bezeichnete sexuelle Ausbeutung von Kindern als schweres Verbrechen. Diese Abfolge zeigt, warum die Prüfung externer Ziele zum Kern der angekündigten Änderung geworden ist.

Indische Behörden leiteten danach mehrere Verfahren ein. Das Ministerium für Elektronik und Informationstechnologie forderte Instagram auf, einschlägige Werbung und Inhalte zu deaktivieren und verlangte eine Erklärung. Die Nationale Kommission zum Schutz der Kinderrechte eröffnete eine Untersuchung und lud Verantwortliche von Meta India vor. Auch die Nationale Menschenrechtskommission befasste sich mit den Meldepflichten nach indischem Recht. Die Quellen nennen diese Verfahren als Hintergrund, berichten aber nicht, dass sie bereits abgeschlossen seien. Meta äußert sich in der Ankündigung außerdem nicht zu allen offenen behördlichen Fragen.

• Sprachmodelle sollen verdeckte Wegweiser in Anzeigentexten erkennen
• die Prüfung soll das externe Ziel einer Anzeige einbeziehen
• zusätzliche Durchläufe sollen bereits aktive Anzeigen erneut prüfen
• ein Red-Teaming-Agent soll neue Umgehungstaktiken suchen
• Wiederholungstäter mit neuen Konten sollen leichter erkannt werden

Meta sagt ferner, dass Kinderschutzfälle nun direkt an das indische National Cyber Crime Reporting Portal gemeldet werden. Zuvor lief die Meldung an indische Stellen über das in den USA ansässige National Center for Missing and Exploited Children. Meta stellt diese direkte Meldung als eigene Maßnahme dar; die indische Kinderschutzkommission erklärt hingegen, ihre Nachfragen hätten die Änderung angestoßen. Auch hier stehen damit zwei Perspektiven nebeneinander. Fest steht, dass der Meldeweg lokaler wird. Ob dies die Bearbeitung beschleunigt oder mehr erfolgreiche Ermittlungen ermöglicht, belegen die vorliegenden Berichte noch nicht.

Für Werbetreibende und Plattformbetreiber verändert sich die praktische Kontrolle: Eine kreative Gestaltung kann unauffällig sein und trotzdem geprüft werden, wenn Linkziel, Kontohistorie oder begleitendes Verhalten auf eine illegale Weiterleitung hinweisen. Unternehmen müssen daher nicht nur das sichtbare Motiv, sondern die gesamte Zielkette einer Kampagne überwachen. Für Meta liegt die größere Aufgabe darin, die angekündigten Systeme mit überprüfbaren Zahlen zu belegen: Wie viele Anzeigen wurden entdeckt, wie viele entfernt, wie viele übersehen und wie viele fälschlich markiert? Erst solche Daten würden zeigen, ob die neuen Werkzeuge mehr leisten als eine Reaktion auf bereits öffentlich gewordene Fälle.