Android breidt AI-controles tegen oplichting uit in Berichten en telefoongesprekken

Android rolt een bredere reeks functies tegen oplichting uit, met Google Messages en bescherming rond telefoongesprekken als belangrijkste onderdelen, waarbij kunstmatige intelligentie een grotere rol krijgt. Volgens Google, zoals aangehaald door The Verge, gebruikt een nieuwe opt-inmodus voor ‘verbeterde bescherming’ in Google Messages Gemini om gesprekken met onbekende afzenders te beoordelen en frauduleuze bedoelingen eerder te proberen herkennen. Andere aangekondigde maatregelen zijn controles van links, bescherming tijdens schermdelen en beperkingen op wijzigingen aan oproepdoorschakeling waar oplichters misbruik van kunnen maken.

De algemene boodschap is duidelijk: mobiele fraude steunt steeds vaker op langdurige gesprekken, dringende aansporingen en social engineering, en niet alleen op overduidelijk kwaadaardige links. De nieuwe aanpak is bedoeld om oudere scamdetectie op het toestel te combineren met extra analyse voor onbekende berichten en verdachte URL’s. Toch lopen de details in de berichtgeving enigszins uiteen, en sommige elementen die door secundaire media worden genoemd, staan niet in het verslag van The Verge over Google’s aankondiging.

Hoe Google zegt dat de berichtanalyse zal werken

De opvallendste verandering is de nieuwe modus voor verbeterde bescherming in Google Messages. The Verge meldt dat die opt-in is en in de komende weken wordt uitgerold. Zodra de functie is ingeschakeld, gebruikt zij cloudgebaseerde Gemini-modellen om in een lopend gesprek snel de bedoelingen van een onbekende afzender te evalueren. De redenering van Google, zoals geciteerd door The Verge, is dat oplichters hun werkelijke doel vaak verbergen in langzaam opgebouwde gesprekken waarin eerst vertrouwen wordt gewonnen voordat de fraude duidelijk wordt.

Hipertextual beschrijft de functie in vergelijkbare bewoordingen en zegt dat het systeem gesprekken met onbekende afzenders zal volgen en de context van de chat naar Gemini zal sturen, zodat de AI kan proberen de echte bedoeling van de andere partij af te leiden. Pplware schrijft eveneens dat de functie de volledige context van een gesprek analyseert wanneer berichten binnenkomen van onbekende nummers. In alle drie de berichten is het gemeenschappelijke punt dat het hulpmiddel verder moet kijken dan losse sleutelwoorden en in plaats daarvan patronen in een bredere uitwisseling probeert te beoordelen.

Google breidt ook een andere verdedigingslijn uit die al op sommige apparaten te zien was. The Verge meldt dat scamdetectie voor chatmeldingen, vorig jaar geïntroduceerd op Pixel-telefoons, wordt uitgebreid naar toestellen van Honor, Motorola, Oppo, OnePlus, Realme, Tecno, Vivo, Xiaomi en andere merken. Volgens Google wil het bedrijf dit later dit jaar beschikbaar maken voor ‘honderden miljoenen extra gebruikers’. Hipertextual en Pplware zeggen ook dat waarschuwingen op basis van meldingen niet langer beperkt blijven tot Pixel-apparaten, al noemen zij licht verschillende merken.

Cloud-AI, AI op het toestel en linkwaarschuwingen

Het aangekondigde systeem lijkt het werk te verdelen tussen cloudmodellen en modellen op het toestel. The Verge schrijft dat cloudgebaseerde Gemini de beoordeling op hoger niveau uitvoert van de bedoelingen van een onbekende afzender, terwijl Gemini Nano op het toestel realtime websignalen in onbekende URL’s inspecteert voordat de gebruiker ze opent, om te helpen bepalen of een link kwaadaardig is. Hipertextual beschrijft dezelfde opzet: Messages zou links analyseren voordat erop wordt getikt, omdat oplichters vaak nieuwe websites maken die mogelijk nog niet op traditionele blokkeerlijsten staan.

Twee van de secundaire berichten voegen nog een extra controle toe rond links van onbekende nummers. Hipertextual zegt dat gebruikers voor zulke links een waarschuwing met tijdvertraging krijgen, bedoeld om impulsieve klikken af te remmen en het gevoel van urgentie tegen te gaan dat bij oplichting vaak wordt gebruikt. Pplware beschrijft op vergelijkbare wijze een opzettelijke vertraging met een timer voor links van onbekende contacten. Deze getimede waarschuwing wordt echter niet genoemd in het bericht van The Verge en moet daarom voorzichtig worden benaderd zolang zij niet rechtstreeks door Google’s eigen aankondiging is bevestigd.

• Cloudgebaseerde Gemini wordt beschreven als een systeem dat de intentie van onbekende afzenders in gesprekken beoordeelt.
• Gemini Nano op het toestel wordt beschreven als een systeem dat signalen van onbekende URL’s controleert voordat ze worden geopend.
• Scamwaarschuwingen in chatmeldingen worden uitgebreid van Pixel naar meer Android-merken.
• Schermdeelsessies in Chrome en Android WebView zullen gevoelige velden automatisch verbergen.
• Android blokkeert apps die oproepdoorschakeling willen inschakelen en waarschuwt gebruikers als iemand dat probeert te doen.

Beveiliging bij gesprekken en controles tijdens schermdelen

Naast berichten voegt Android ook beveiligingen toe die verband houden met telefoongesprekken en scenario’s rond hulp op afstand. The Verge zegt dat Android apps zal blokkeren wanneer die oproepdoorschakeling proberen in te schakelen, terwijl de gebruiker een melding krijgt als iemand probeert die functie aan te zetten. Dat is relevant omdat oproepdoorschakeling kan worden misbruikt om eenmalige codes te onderscheppen of communicatie om te leiden als onderdeel van accountovername.

Hipertextual en Pplware voegen een specifiekere bewering toe: als een gebruiker ertoe wordt overgehaald om handmatig een MMI-code in te voeren om oproepdoorschakeling te activeren, zal Android de gebruiker waarschuwen voordat de wijziging wordt toegepast. Beide media geven ook timingdetails voor deze en andere functies, waaronder verwijzingen naar eind oktober en begin december. Die data komen niet voor in het bericht van The Verge en moeten daarom worden gelezen als beweringen uit die publicaties, niet als volledig bevestigde feiten binnen het geheel van de bronnen.

Google kondigde ook automatische afscherming van gevoelige informatie aan tijdens schermdelen in Chrome en Android WebView. The Verge zegt dat gevoelige informatie verborgen zal worden tijdens het delen van het scherm in die omgevingen. Hipertextual en Pplware geven meer detail en stellen dat inlogvelden en betaalschermen, waaronder wachtwoorden of kaartbeveiligingsinformatie, onzichtbaar worden gemaakt voor de persoon aan de andere kant. Zij zeggen ook dat deze maatregel geldt voor Android 15 en later, maar ook dat versiedetail ontbreekt opnieuw in het verslag van The Verge.

Privacybeloften en hun grenzen

Omdat deze functies betrekking hebben op berichtinhoud en webactiviteit, staat privacy centraal in de presentatie van Google. The Verge meldt dat gebruikersgegevens tijdens de AI-analyse worden versleuteld en worden verwerkt in een ‘veilige, toegewezen omgeving’ waartoe Google, of wie dan ook behalve de gebruiker, geen toegang heeft. Hipertextual herhaalt die claim en zegt dat de analyse plaatsvindt in een privé en veilige omgeving die zelfs voor Google-medewerkers ontoegankelijk is. Pplware verwijst naar verwerking via Private AI Compute en zegt dat de inhoud wordt versleuteld en in een strikt afgeschermde omgeving wordt behandeld.

Toch roept het ontwerp nog altijd duidelijke grenzen en afwegingen op. De verbeterde berichtanalyse geldt niet standaard voor iedereen: The Verge zegt expliciet dat het een opt-infunctie is. Het cloudmodel wordt ingeschakeld voor gesprekken met onbekende afzenders, wat betekent dat een deel van de contextuele berichtgegevens buiten de telefoon wordt geanalyseerd, ook al zegt Google dat die omgeving geïsoleerd en ontoegankelijk is. De analyse van links op het toestel lijkt beperkter van opzet en is vanuit privacyoogpunt mogelijk eenvoudiger te verdedigen, omdat die volgens de beschrijving op de telefoon zelf blijft.

Er zijn ook grenzen aan wat op basis van de beschikbare berichtgeving kan worden geconcludeerd. Geen van de bronnen levert gekwantificeerd bewijs over detectienauwkeurigheid, fout-positieven of fout-negatieven. Ook leggen ze niet in detail uit hoe gebruikers waarschuwingen kunnen betwisten of negeren, behalve het feit dat de verbeterde modus zelf optioneel is. Zoals bij veel systemen tegen oplichting kan sterkere tussenkomst helpen tegen opkomende fraudepatronen, maar gebruikers en organisaties zullen nog steeds moeten beoordelen of de privacyafweging en het risico op incidentele fouten aanvaardbaar zijn.

Waar de berichten uiteenlopen

Eén bron gaat verder dan de andere. Pplware schrijft dat Google ook zijn samenwerkingen met internationale bankinstellingen heeft verdiept om caller ID-spoofing te beperken, en dat Android mogelijk zou kunnen valideren of een oproep werkelijk van een bank afkomstig is, en de oproep weigeren als die verificatie mislukt. Die bewering komt niet voor bij The Verge of Hipertextual. Op basis van alleen de verstrekte bronnen moet dit daarom worden behandeld als een niet-bevestigd bericht, en niet als een bevestigd onderdeel van de aankondiging.

Voor Nederlandstalige bedrijven is de praktische verandering vrij eenvoudig: klanten en medewerkers die Android gebruiken, kunnen meer waarschuwingen te zien krijgen rond gesprekken met onbekende afzenders, verdachte links, schermdelen en verzoeken om oproepdoorschakeling. Dat kan sommige aanvallen via social engineering verminderen, maar het kan ook extra frictie veroorzaken bij legitiem contact vanaf onbekende nummers of bij ondersteuningsprocessen die schermdelen gebruiken. Organisaties doen er daarom mogelijk goed aan hun communicatie duidelijker te maken en gebruikers voor te bereiden op extra verificatiemeldingen.