Apate setzt verdeckte KI-Agenten ein, um Erkenntnisse über Betrugsmaschen zu sammeln

Das australische Start-up Apate erklärt, es setze Tausende von KI-Agenten ein, die sich als glaubwürdige Betrugsopfer ausgeben, um Informationen über Betrug zu sammeln. Laut TechCrunch wurde das Unternehmen 2024 auf Grundlage von Forschungsarbeiten gegründet, die an der Macquarie University in Sydney durchgeführt wurden. Die Agenten können Betrugsanrufe entgegennehmen, auf verdächtige Nachrichten und E-Mails antworten, Phishing-Links folgen und in Social-Media- oder Investment-Gruppen eintreten, in denen sich Betrugsaktivitäten anbahnen könnten. Das erklärte Ziel besteht nicht nur darin, Betrügern Zeit zu stehlen, sondern auch darin, Details zu gewinnen, die Organisationen nutzen können, um Betrug früher in der Angriffskette zu verhindern.

Der Kern des Angebots besteht nach Darstellung des Unternehmens darin, dass ein Großteil der Betrugsabwehr zu spät ansetzt. In der Darstellung von TechCrunch stellte Apate-Mitgründer und Chief Commercial Officer Brad Joffe das Modell dem Vorgehen von Telekommunikationsanbietern gegenüber, die Nummern erst im Nachhinein blockieren, oder von Banken, die Transaktionen erst überwachen, wenn bereits Kontakt mit einem Kunden stattgefunden hat. Apate sagt dagegen, es gehe direkt auf den Betrüger zu. Die Agenten werden als erfundene Identitäten mit unterschiedlichen Altersprofilen, Geschlechtern, Akzenten und Sprachen dargestellt, die so gestaltet sind, dass Gespräche lange genug fortgesetzt werden, um nützliche Informationen sichtbar zu machen.

Wie das System funktionieren soll

Über Anrufe, SMS, E-Mails und das Web hinweg treten die Bots von Apate nach Angaben des Unternehmens in Echtzeit mit Betrügern in Kontakt und bereiten das Gelernte anschließend für Kunden strukturiert auf. TechCrunch berichtet, dass zu den gesuchten Informationen Bankkonten, Krypto-Wallet-Adressen, Telefonnummern, schädliche Websites und die Marken gehören können, als die sich Betrüger ausgeben. Auf der eigenen Website beschreibt Apate denselben Vorgang als Möglichkeit, Konten, Infrastruktur und Taktiken offenzulegen, von denen Betrüger abhängig sind. Das Unternehmen sagt, dies könne Betrugsteams helfen, Abläufe zu stören, bevor sie Kunden erreichen.

Apate erklärt außerdem, Kunden könnten den Agenten konkrete Aufträge erteilen. TechCrunch berichtet, dass Auftraggeber sie etwa anweisen können, eine Bankkontonummer oder eine Krypto-Wallet-Adresse zu beschaffen. Die Unternehmenswebsite erweitert diese Logik auf mehrere Anwendungsfälle: die Identifizierung und Verfolgung von Mule-Netzwerken, die Erkennung von Phishing- und Identitätsmissbrauchskampagnen, die Unterstützung von Betrugsabwehr in Echtzeit sowie die Bereitstellung von Belegen für Meldungen und Compliance. In diesen Beschreibungen stellt Apate seine Ergebnisse als strukturierte, mit Zeitstempeln versehene und exportierbare Erkenntnisse dar, die sich in bestehende Betrugs- oder Sicherheitsabläufe einfügen lassen.

• Ansprache mutmaßlicher Betrüger über Telefon, SMS, E-Mail, Web- und Social-Kanäle
• Einsatz erfundener Identitäten, um Gespräche zu verlängern und operative Details zu sammeln
• Umwandlung dieser Kontakte in Erkenntnisse über Zahlungswege, Skripte, Telefonnummern und Websites
• Einspeisung dieser Erkenntnisse in Untersuchungen, Abschaltungen und Meldeprozesse der Kunden

Nach Angaben des Unternehmens ist Skalierung ein zentraler Teil des Angebots. Auf seiner Website argumentiert Apate, dass manuelles Scam-Baiting und von Menschen geführte Informationsgewinnung teuer, uneinheitlich und schwer auszuweiten seien, wenn das Betrugsvolumen steigt. Die Behauptung lautet, KI könne Aktivitäten, die sonst vielleicht in einigen Dutzend manuellen Kontakten stattfinden würden, in Tausende gleichzeitige Interaktionen über Sprachen, Kanäle und Zeitzonen hinweg verwandeln.

Was Apate nach eigenen Angaben bislang beobachtet hat

TechCrunch berichtet, Apate sage, seine Agenten hätten bislang insgesamt 17 Jahre der Zeit von Betrügern verbraucht – verteilt auf 2,5 Millionen Gespräche. Diese Zahlen beruhen auf Angaben des Unternehmens selbst. Im selben Artikel heißt es, der Telekommunikationskunde TPG habe fast 590.000 Anrufe an die Agenten von Apate umgeleitet, die Commonwealth Bank of Australia habe einen Rückgang der öffentlich gemeldeten Betrugsverluste um 76 Prozent verzeichnet, und eine ungenannte australische Bank habe die ausgehenden Agenten von Apate genutzt, um 22 Betrugskampagnen zu stören. Die Quelle schreibt diese Aussagen Joffe zu.

Einige dieser Leistungsangaben sollten mit Vorsicht gelesen werden. TechCrunch gibt sie als Aussagen von Apate wieder und nicht als unabhängig überprüfte Ergebnisse, und das verfügbare Quellenmaterial liefert keine Methodik, die alle Resultate unmittelbar mit dem System von Apate verknüpft. Insbesondere bezieht sich die Aussage zur Commonwealth Bank of Australia auf einen Rückgang öffentlich gemeldeter Betrugsverluste, doch der Quellentext erläutert die Kausalität nicht. Eine vorsichtige Lesart wäre daher, dass Apate sagt, seine Kunden nutzten die gewonnenen Erkenntnisse zur Gestaltung von Maßnahmen gegen Betrug und dass das Unternehmen diese Maßnahmen mit konkreten Ergebnissen in Verbindung bringt.

TechCrunch ordnet das Start-up außerdem in einen breiteren Kontext ein: Betrüger selbst nutzen zunehmend KI. Der Artikel verweist auf Zahlen des FBI, wonach die Behörde im Jahr 2025 mehr als 22.000 Beschwerden über KI-bezogene Straftaten erhalten habe, bei Schäden von rund 893 Millionen US-Dollar, darunter mehr als 632 Millionen US-Dollar aus Anlagebetrug. In diesem Rahmen wirkt das Modell von Apate wie der Versuch, Automatisierung nicht nur zur Erkennung, sondern zur aktiven Gewinnung von Erkenntnissen innerhalb von Betrugsgesprächen einzusetzen.

Kunden, Produktumfang und genannte Schutzmechanismen

Bei den Kunden sind die klarsten Namen in den Quellen die Commonwealth Bank of Australia und TPG Telecom. TechCrunch schreibt außerdem, Apate arbeite auch für weitere Versorger, Telekommunikationsunternehmen und Behörden. Auf der Unternehmenswebsite wird das Angebot wiederholt für Betrugs- und Intelligence-Teams innerhalb von Finanzinstituten und Telekommunikationsanbietern positioniert, mit Vorteilen, die sich auch auf regulatorische Meldungen, die Zusammenarbeit mit Partnern und laufende Ermittlungen erstrecken sollen. Zudem wird angedeutet, dass umgeleiteter Betrugsverkehr zu einer Quelle von Erkenntnissen werden kann, anstatt lediglich blockiert zu werden.

Was Schutzmechanismen betrifft, beschreiben die Quellen diese überwiegend eher operativ als ethisch. Apate erklärt, Betrugsanrufe könnten „sicher“ in „kontrollierte“ oder „isolierte“ Umgebungen umgeleitet werden, damit Kunden geschützt seien, während Betrüger in Gespräche verwickelt würden. Die Website sagt außerdem, dies könne geschehen, ohne legitime Anrufe, die Netzwerkleistung oder die Kundenerfahrung zu beeinträchtigen. Zusätzlich beschreibt sie die entstehenden Erkenntnisse als strukturiert und mit Zeitstempeln versehen, wodurch eine Prüfspur entstehe, die Institute nutzen könnten, um Regulierungsbehörden proaktives Handeln nachzuweisen.

Gleichzeitig legen die verfügbaren Texte keine detaillierten Leitplanken zu Themen wie Schwellenwerten für menschliche Aufsicht, Eskalationsregeln, dem Umgang mit Modellfehlern oder Grenzen der von den Bots eingesetzten Vortäuschung offen. Die in den Quellen genannten Schutzvorkehrungen sind daher vergleichsweise eng umrissen: die Isolation verdächtigen Verkehrs, der Schutz von Endnutzern vor direkter Exposition sowie revisionsfähige Aufzeichnungen für Compliance und Aufsicht. Alles, was darüber hinausginge, würde über das bereitgestellte Material hinausgehen.

Forschungsursprung und Finanzierung

Laut TechCrunch begann die Entstehungsgeschichte des Unternehmens damit, dass Gründer und Chief Executive Dali Kaafar bei einem Familienpicknick einen Betrugsanruf 44 Minuten lang am Laufen hielt und sich dann fragte, ob sich dieser Prozess sinnvoll automatisieren ließe. Die Publikation schreibt, diese Idee sei später zu Forschung an der Macquarie University geworden, bei der maschinelles Lernen und natürliche Sprachverarbeitung eingesetzt wurden, um Inhalte von Betrugsanrufen offenzulegen und Erkennung sowie Prävention zu verbessern. Apate erklärt, heute sowohl Frontier-Modelle als auch eigene feinabgestimmte Modelle zu nutzen, die auf Gesprächen trainiert wurden, die seine Agenten mit Betrügern geführt haben, ebenso wie auf Kaafars früherer Forschung.

Investoren haben diese These unterstützt. TechCrunch berichtet, Apate habe im August 8,15 Millionen US-Dollar in einer Seed-Finanzierungsrunde von Lobby Capital, OIF Ventures, Investible, Concept Ventures und Baobab Ventures eingesammelt. Joffe sagte der Publikation, das 20-köpfige Unternehmen habe insgesamt knapp 10 Millionen US-Dollar aufgenommen. Laut derselben Quelle ist die jüngste Finanzierung für die Produktentwicklung und die internationale Expansion vorgesehen, darunter ein Büro in London und eine stärkere Präsenz in den Vereinigten Staaten.

Für Unternehmen im englischsprachigen Raum besteht die in diesen Quellen beschriebene praktische Veränderung in einer Verschiebung weg vom vorwiegenden Blockieren und Reagieren auf Betrugsversuche hin dazu, Betrugsabwehr mit Echtzeit-Erkenntnissen auf Gesprächsebene zu versorgen. Banken, Telekommunikationsanbieter, Versorger und öffentliche Stellen könnten diese Informationen nutzen, um Identitätsmissbrauchskampagnen früher zu erkennen, Ermittlungen anzureichern, Abschaltungen zu unterstützen und Compliance-Unterlagen zu erstellen. Auf Grundlage des verfügbaren Materials lautet das Versprechen von Apate nicht, dass Betrugsmaschen verschwinden, sondern dass Organisationen früher Einblick darin erhalten, wie Betrugsnetzwerke arbeiten, und verwertbarere Belege bekommen, bevor Kunden oder Beschäftigte geschädigt werden.