Android erweitert KI-gestützte Betrugsprüfungen in Messages und bei Anrufen

Android führt ein erweitertes Bündel an Schutzfunktionen gegen Betrug ein, das sich auf Google Messages und anrufbezogene Sicherheitsmaßnahmen konzentriert, wobei künstliche Intelligenz eine größere Rolle spielt. Laut Google, wie von The Verge berichtet, soll ein neuer optionaler Modus „erweiterter Schutz“ in Google Messages Gemini nutzen, um Unterhaltungen mit unbekannten Absendern zu bewerten und betrügerische Absichten früher zu erkennen. Zu den weiteren angekündigten Maßnahmen gehören Link-Prüfungen, Schutzmechanismen während der Bildschirmfreigabe sowie Einschränkungen bei Änderungen der Rufumleitung, die von Betrügern missbraucht werden könnten.

Die Grundidee ist klar: Mobiler Betrug stützt sich zunehmend auf längere Gespräche, dringlich formulierte Aufforderungen und Social Engineering statt nur auf offensichtlich schädliche Links. Der neue Ansatz soll ältere, auf dem Gerät laufende Betrugserkennung mit zusätzlicher Analyse für unbekannte Nachrichten und verdächtige URLs kombinieren. Allerdings unterscheiden sich die Details je nach Bericht etwas, und einige Elemente, die in Sekundärquellen erwähnt werden, tauchen in der Darstellung der Google-Ankündigung durch The Verge nicht auf.

So soll die Nachrichtenanalyse laut Google funktionieren

Die wichtigste Änderung ist der neue Modus für erweiterten Schutz in Google Messages. The Verge berichtet, dass er optional ist und in den kommenden Wochen eingeführt werden soll. Nach der Aktivierung nutzt er cloudbasierte Gemini-Modelle, um die Absichten eines unbekannten Absenders innerhalb einer laufenden Unterhaltung schnell einzuschätzen. Googles Begründung, zitiert von The Verge, lautet, dass Betrüger ihre wahren Motive häufig in langsam aufgebauten Konversationen verbergen, in denen zunächst Vertrauen geschaffen wird, bevor der Betrugsversuch offensichtlich wird.

Hipertextual beschreibt die Funktion ähnlich und erklärt, das System werde Gespräche mit unbekannten Absendern überwachen und den Chat-Kontext an Gemini senden, damit die KI versuchen könne, die tatsächliche Absicht der anderen Person zu erschließen. Pplware schreibt ebenfalls, dass die Funktion den vollständigen Kontext einer Unterhaltung analysiert, wenn Nachrichten von unbekannten Nummern eintreffen. In allen drei Berichten ist der gemeinsame Kernpunkt, dass das Werkzeug nicht nur auf einzelne Schlüsselwörter achten soll, sondern auf Muster innerhalb eines umfassenderen Gesprächsverlaufs.

Google erweitert zudem eine weitere Schutzlinie, die bereits auf einigen Geräten zu sehen war. The Verge berichtet, dass die Erkennung von Betrug in Chat-Benachrichtigungen, die im vergangenen Jahr auf Pixel-Smartphones eingeführt wurde, auf Geräte von Honor, Motorola, Oppo, OnePlus, Realme, Tecno, Vivo, Xiaomi und anderen ausgeweitet wird. Google erklärt, man plane, dies „später in diesem Jahr für Hunderte Millionen zusätzlicher Nutzer“ bereitzustellen. Auch Hipertextual und Pplware schreiben, dass warnungsbasierte Hinweise in Benachrichtigungen nicht länger auf Pixel-Geräte beschränkt sein werden, nennen jedoch teils leicht unterschiedliche Marken.

Cloud-KI, On-Device-KI und Link-Warnungen

Das angekündigte System scheint die Arbeit zwischen Cloud- und On-Device-Modellen aufzuteilen. The Verge zufolge übernimmt cloudbasiertes Gemini die übergeordnete Einschätzung der Absichten eines unbekannten Absenders, während das auf dem Gerät laufende Gemini Nano Echtzeit-Websignale in unbekannten URLs prüft, bevor der Nutzer sie öffnet, um besser zu bestimmen, ob ein Link schädlich ist. Hipertextual beschreibt dieselbe Struktur: Messages würde Links analysieren, bevor sie angetippt werden, weil Betrüger häufig neue Websites erstellen, die in herkömmlichen Sperrlisten womöglich noch nicht auftauchen.

Zwei der Sekundärberichte fügen noch eine weitere Kontrolle rund um Links von unbekannten Nummern hinzu. Hipertextual schreibt, Nutzer würden bei solchen Links eine zeitgesteuerte Warnung erhalten, die impulsive Klicks bremsen und dem für Betrugsversuche typischen Dringlichkeitsgefühl entgegenwirken solle. Pplware beschreibt ähnlich eine bewusste Verzögerung mit Timer für Links von unbekannten Kontakten. Diese zeitgesteuerte Warnung wird in dem Bericht von The Verge jedoch nicht erwähnt und sollte daher mit Vorsicht betrachtet werden, solange sie nicht direkt durch Googles eigene Ankündigung bestätigt ist.

• Cloudbasiertes Gemini wird als System beschrieben, das in Unterhaltungen die Absicht unbekannter Absender bewertet.
• Das auf dem Gerät laufende Gemini Nano wird als Lösung beschrieben, die Signale unbekannter URLs prüft, bevor diese geöffnet werden.
• Warnungen vor Betrug in Chat-Benachrichtigungen werden über Pixel hinaus auf weitere Android-Marken ausgeweitet.
• Bildschirmfreigaben in Chrome und Android WebView blenden sensible Eingabefelder automatisch aus.
• Android wird Apps daran hindern, Rufumleitungen zu aktivieren, und Nutzer warnen, wenn jemand dies versucht.

Schutz bei Anrufen und Kontrollen bei der Bildschirmfreigabe

Über das Messaging hinaus ergänzt Android auch Schutzmaßnahmen für Anrufe und Szenarien mit Fernunterstützung. The Verge berichtet, dass Android Apps daran hindern wird, Rufumleitungen zu aktivieren, und den Nutzer benachrichtigt, wenn jemand versucht, sie einzuschalten. Das ist relevant, weil Rufumleitungen missbraucht werden können, um Einmalcodes abzufangen oder Kommunikation im Rahmen einer Kontoübernahme umzuleiten.

Hipertextual und Pplware ergänzen eine spezifischere Aussage: Wenn ein Nutzer dazu gebracht wird, manuell einen MMI-Code zur Aktivierung der Rufumleitung einzugeben, soll Android den Nutzer vor der Anwendung der Änderung warnen. Beide Medien nennen auch Zeitangaben zu dieser und anderen Funktionen, darunter Verweise auf Ende Oktober und Anfang Dezember. Diese Daten erscheinen im Bericht von The Verge nicht und sollten daher als Angaben dieser Berichte gelesen werden, nicht als über alle Quellen hinweg vollständig bestätigte Tatsachen.

Google kündigte außerdem die automatische Verdeckung sensibler Informationen während der Bildschirmfreigabe in Chrome und Android WebView an. The Verge schreibt, dass sensible Informationen beim Teilen des Bildschirms in diesen Umgebungen verborgen werden. Hipertextual und Pplware liefern mehr Details und sagen, dass Anmeldefelder und Zahlungsseiten, einschließlich Passwörtern oder Sicherheitsangaben von Karten, für die Person auf der anderen Seite unkenntlich gemacht würden. Sie schreiben außerdem, die Maßnahme gelte für Android 15 und spätere Versionen, doch auch dieses Versionsdetail fehlt wiederum in der Darstellung von The Verge.

Datenschutzversprechen und ihre Grenzen

Weil diese Funktionen Nachrichteninhalte und Webaktivitäten betreffen, steht Datenschutz im Zentrum von Googles Darstellung. The Verge berichtet, Nutzerdaten würden während der KI-Analyse verschlüsselt und in einem „sicheren dedizierten Bereich“ verarbeitet, auf den weder Google noch irgendjemand sonst außer dem Nutzer zugreifen könne. Hipertextual greift diese Aussage auf und erklärt, die Analyse erfolge in einem privaten und sicheren Bereich, auf den nicht einmal Google-Mitarbeiter zugreifen könnten. Pplware verweist auf eine Verarbeitung über Private AI Compute und sagt, die Inhalte würden verschlüsselt und in einer streng abgeschotteten Umgebung verarbeitet.

Dennoch wirft das Design offensichtliche Abgrenzungen und Zielkonflikte auf. Die erweiterte Nachrichtenanalyse ist nicht standardmäßig überall aktiv: The Verge sagt ausdrücklich, dass sie optional ist. Das Cloud-Modell wird für Unterhaltungen mit unbekannten Absendern eingesetzt, was bedeutet, dass ein Teil kontextbezogener Nachrichtendaten außerhalb des Smartphones analysiert wird, auch wenn Google erklärt, die Umgebung sei isoliert und unzugänglich. Die Link-Analyse auf dem Gerät scheint enger gefasst zu sein und lässt sich aus Datenschutzsicht möglicherweise leichter rechtfertigen, weil sie der Beschreibung nach auf dem Smartphone bleibt.

Es gibt außerdem Grenzen dessen, was sich aus den vorliegenden Berichten ableiten lässt. Keine der Quellen liefert quantifizierte Nachweise zur Erkennungsgenauigkeit, zu Fehlalarmen oder zu nicht erkannten Betrugsfällen. Ebenso wird nicht im Detail erklärt, wie Nutzer Warnungen anfechten oder übersteuern können, abgesehen davon, dass der erweiterte Modus selbst optional ist. Wie bei vielen Systemen zur Betrugsabwehr könnten stärkere Eingriffe zwar gegen neue Betrugsmuster helfen, doch Nutzer und Organisationen müssen weiterhin beurteilen, ob der Datenschutzkompromiss und das Risiko gelegentlicher Fehler akzeptabel sind.

Wo die Berichte voneinander abweichen

Eine Quelle geht weiter als die anderen. Pplware schreibt, Google habe außerdem die Zusammenarbeit mit internationalen Bankinstituten vertieft, um Call-Spoofing einzudämmen, und Android könne prüfen, ob ein Anruf tatsächlich von einer Bank stamme, wobei der Anruf abgewiesen würde, falls die Verifizierung scheitere. Diese Behauptung erscheint weder bei The Verge noch bei Hipertextual. Auf Grundlage der vorliegenden Quellen sollte sie daher als nicht unabhängig bestätigter Bericht und nicht als gesicherter Bestandteil der Ankündigung behandelt werden.

Für deutschsprachige Unternehmen ist die praktische Veränderung einfach: Kundinnen, Kunden und Beschäftigte mit Android könnten mehr Warnungen zu Gesprächen mit unbekannten Nummern, verdächtigen Links, Bildschirmfreigaben und Anfragen zur Rufumleitung sehen. Das könnte manche Social-Engineering-Angriffe verringern, kann aber auch legitime Kontaktaufnahmen von unbekannten Nummern oder Support-Abläufe mit Bildschirmfreigabe erschweren. Unternehmen müssen ihre Kommunikation daher womöglich klarer gestalten und Nutzer auf zusätzliche Prüf- und Bestätigungshinweise vorbereiten.