Android étend ses contrôles anti-arnaque par IA dans Messages et lors des appels

Android déploie un ensemble plus large de fonctions anti-arnaque centrées sur Google Messages et sur des protections liées aux appels, avec un rôle accru de l’intelligence artificielle. D’après Google, tel que relayé par The Verge, un nouveau mode de « protection renforcée », activable sur demande dans Google Messages, utilisera Gemini pour évaluer les conversations avec des expéditeurs non reconnus et tenter de détecter plus tôt une intention frauduleuse. Parmi les autres mesures annoncées figurent des vérifications de liens, des protections pendant le partage d’écran et des restrictions sur les changements de renvoi d’appel que des escrocs peuvent détourner.

L’idée générale est claire : la fraude sur mobile repose de plus en plus sur de longues conversations, des sollicitations urgentes et de l’ingénierie sociale, et pas seulement sur des liens manifestement malveillants. Cette nouvelle approche vise à combiner l’ancienne détection des arnaques sur l’appareil avec une analyse supplémentaire pour les messages inhabituels et les URL suspectes. Cela dit, les détails varient quelque peu selon les articles, et certains éléments mentionnés par des médias secondaires ne figurent pas dans le récit de l’annonce de Google rapporté par The Verge.

Comment Google dit que l’analyse des messages fonctionnera

Le changement le plus important est ce nouveau mode de protection renforcée dans Google Messages. The Verge indique qu’il s’agit d’une fonction sur adhésion volontaire et qu’elle sera déployée dans les prochaines semaines. Une fois activée, elle s’appuie sur des modèles Gemini hébergés dans le cloud pour évaluer rapidement les intentions d’un expéditeur non reconnu au sein d’une conversation en cours. La logique avancée par Google, citée par The Verge, est que les escrocs dissimulent souvent leurs véritables objectifs dans des échanges progressifs, destinés à instaurer la confiance avant que la tentative de fraude ne devienne évidente.

Hipertextual décrit la fonction en des termes proches, en expliquant que le système surveillera les conversations avec des expéditeurs inconnus et enverra le contexte du chat à Gemini afin que l’IA tente d’inférer l’intention réelle de l’autre partie. Pplware indique lui aussi que la fonction analyse le contexte complet d’une conversation lorsque des messages arrivent depuis des numéros inconnus. Dans ces trois récits, le point commun est que l’outil doit aller au-delà de mots-clés isolés pour juger des schémas présents dans un échange plus large et plus nuancé.

Google étend également une autre ligne de défense déjà vue sur certains appareils. The Verge rapporte que la détection d’arnaques dans les notifications de chat, introduite l’an dernier sur les téléphones Pixel, s’étend aux appareils de Honor, Motorola, Oppo, OnePlus, Realme, Tecno, Vivo, Xiaomi et d’autres marques. Google affirme prévoir d’apporter cette protection à « des centaines de millions d’utilisateurs supplémentaires plus tard dans l’année ». Hipertextual et Pplware disent eux aussi que les avertissements fondés sur les notifications ne seront plus limités aux appareils Pixel, même si les marques citées diffèrent légèrement d’un article à l’autre.

IA dans le cloud, IA sur l’appareil et avertissements sur les liens

Le système annoncé semble répartir le travail entre des modèles dans le cloud et des modèles exécutés sur l’appareil. The Verge explique que Gemini dans le cloud se charge de l’évaluation de plus haut niveau des intentions d’un expéditeur non reconnu, tandis que Gemini Nano, sur l’appareil, inspecte en temps réel les signaux web associés à des URL inhabituelles avant que l’utilisateur ne les ouvre, afin d’aider à déterminer si un lien est malveillant. Hipertextual décrit la même architecture : Messages analyserait les liens avant qu’ils ne soient touchés, car les escrocs créent souvent de nouveaux sites qui n’apparaissent pas encore dans les listes de blocage traditionnelles.

Deux des articles secondaires ajoutent un contrôle supplémentaire autour des liens envoyés depuis des numéros inconnus. Hipertextual affirme que les utilisateurs recevront une alerte temporisée pour ce type de lien, afin de ralentir les clics impulsifs et de contrer le sentiment d’urgence souvent exploité dans les arnaques. Pplware décrit de façon similaire un délai volontaire accompagné d’un minuteur pour les liens provenant de contacts inconnus. Toutefois, cet avertissement temporisé n’est pas mentionné dans l’article de The Verge ; il convient donc de le considérer avec prudence tant qu’il n’est pas confirmé directement par l’annonce de Google elle-même.

• Gemini dans le cloud est présenté comme évaluant l’intention d’expéditeurs inconnus au fil des conversations.
• Gemini Nano sur l’appareil est présenté comme vérifiant les signaux associés à des URL inhabituelles avant leur ouverture.
• Les alertes de détection d’arnaques dans les notifications de chat s’étendent au-delà des Pixel à davantage de marques Android.
• Les sessions de partage d’écran dans Chrome et Android WebView masqueront automatiquement les champs sensibles.
• Android empêchera les applications d’activer le renvoi d’appel et alertera l’utilisateur si quelqu’un tente de le faire.

Protections liées aux appels et contrôles du partage d’écran

Au-delà de la messagerie, Android ajoute aussi des garde-fous liés aux appels et aux scénarios d’assistance à distance. The Verge indique qu’Android empêchera les applications d’activer le renvoi d’appel, tout en avertissant l’utilisateur lorsqu’une tentative d’activation est détectée. C’est important, car le renvoi d’appel peut être détourné pour intercepter des codes à usage unique ou rediriger des communications dans le cadre d’une prise de contrôle de compte.

Hipertextual et Pplware ajoutent une affirmation plus précise : si un utilisateur est convaincu de saisir manuellement un code MMI pour activer le renvoi d’appel, Android l’avertira avant que la modification ne soit appliquée. Les deux médias donnent également des précisions calendaires sur ce point et sur d’autres fonctions, avec des références à la fin octobre et au début décembre. Ces dates n’apparaissent pas dans l’article de The Verge ; il faut donc les lire comme des affirmations propres à ces publications, et non comme des faits pleinement corroborés par l’ensemble des sources fournies.

Google a aussi annoncé le masquage automatique des informations sensibles pendant le partage d’écran dans Chrome et Android WebView. The Verge indique que les informations sensibles seront cachées lors du partage d’écran dans ces environnements. Hipertextual et Pplware donnent davantage de détails, en expliquant que les champs de connexion et les écrans de paiement, y compris les mots de passe ou les informations de sécurité de carte, seraient dissimulés à la personne située à l’autre extrémité. Ils ajoutent également que la mesure s’appliquerait à Android 15 et aux versions ultérieures, mais ce détail de version est, là encore, absent du compte rendu de The Verge.

Promesses de confidentialité et leurs limites

Comme ces fonctions touchent au contenu des messages et à l’activité web, la confidentialité est au cœur de la présentation de Google. The Verge indique que les données des utilisateurs sont chiffrées pendant l’analyse par IA et traitées dans un « espace dédié sécurisé » auquel ni Google ni quiconque d’autre, hormis l’utilisateur, ne peut accéder. Hipertextual reprend cette affirmation en disant que l’analyse a lieu dans un espace privé et sécurisé, inaccessible même aux employés de Google. Pplware évoque un traitement via Private AI Compute et indique que le contenu est chiffré et géré dans un environnement strict.

Malgré cela, la conception soulève des limites et des arbitrages évidents. L’analyse renforcée des messages n’est pas activée universellement par défaut : The Verge précise explicitement qu’elle fonctionne sur la base du volontariat. Le modèle dans le cloud est invoqué pour les conversations avec des expéditeurs non reconnus, ce qui signifie qu’une partie des données contextuelles des messages est analysée hors du téléphone, même si Google affirme que l’environnement est isolé et inaccessible. L’analyse des liens sur l’appareil semble plus circonscrite et peut paraître plus facile à justifier du point de vue de la vie privée, puisque, telle qu’elle est décrite, elle reste sur le téléphone.

Il existe aussi des limites à ce qu’il est possible de conclure à partir des articles disponibles. Aucune des sources ne fournit d’éléments chiffrés sur la précision de détection, les faux positifs ou les faux négatifs. Elles n’expliquent pas non plus en détail comment les utilisateurs pourront contester ou contourner les avertissements, au-delà du fait que le mode renforcé lui-même est facultatif. Comme souvent avec les systèmes anti-arnaque, une intervention plus forte peut aider face à des schémas de fraude émergents, mais les utilisateurs comme les organisations devront encore déterminer si le compromis en matière de confidentialité et le risque d’erreurs occasionnelles leur paraissent acceptables.

Là où les récits divergent

Une source va plus loin que les autres. Pplware affirme que Google a également renforcé ses partenariats avec des entités bancaires internationales pour atténuer l’usurpation d’appel, et qu’Android pourrait vérifier si un appel provient réellement d’une banque, en rejetant l’appel si la vérification échoue. Cette affirmation n’apparaît ni dans The Verge ni dans Hipertextual. Sur la seule base des sources fournies ici, elle doit donc être traitée comme une information non corroborée, et non comme une partie confirmée de l’annonce.

Pour les entreprises francophones, le changement pratique est assez simple : les clients et les salariés qui utilisent Android pourraient voir apparaître davantage d’avertissements autour des conversations avec des numéros inconnus, des liens suspects, du partage d’écran et des demandes de renvoi d’appel. Cela pourrait réduire certaines attaques d’ingénierie sociale, mais aussi introduire plus de friction dans des prises de contact légitimes depuis des numéros non connus ou dans des parcours d’assistance reposant sur le partage d’écran. Les entreprises pourraient donc devoir rendre leurs communications plus claires et préparer leurs utilisateurs à des demandes de vérification supplémentaires.