Meta ajoute des vérifications par IA pour détecter les publicités qui dirigent vers du matériel d'abus sexuel d'enfants

L'entreprise a révélé qu'à partir de maintenant, elle utilise des modèles de langage à grande échelle pour analyser non seulement le contenu visuel des publicités, mais aussi le texte qui peut servir de « signposting », c’est‑à‑dire des messages apparemment bénins qui orientent vers des activités illégales ou nocives sur des sites externes. Selon Meta, cette approche permet d'identifier des campagnes qui, bien qu'elles respectent les politiques en apparence, fonctionnent comme des portes d'entrée vers du matériel d'exploitation sexuelle de mineurs.

Comment fonctionne la détection basée sur l'IA

Les nouveaux algorithmes analysent le texte de la publicité et le croisent avec des bases de données de mots‑clés et de modèles de langage associés à l'exploitation infantile. Lorsqu'un modèle détecte un indice de signposting, la révision prend alors en compte la destination du lien inclus dans la publicité, au lieu de se limiter à l'aspect visuel présenté. Si l'URL mène à un site hébergeant du matériel d'abus, la publicité est immédiatement bloquée et le compte responsable est soumis à des mesures de sécurité supplémentaires.

Mesures de renforcement et audit interne

En plus de la détection en temps réel, Meta a lancé des analyses rétroactives qui revisitent les publicités déjà publiées afin d'identifier les contenus que les systèmes précédents n'avaient pas capturés. L'entreprise décrit également l'existence d'un agent de « red‑teaming », qui simule des tentatives d'évasion pour découvrir de nouvelles techniques utilisées par les contrevenants avant qu'elles ne se répandent. Ce processus vise à maintenir les filtres à jour face à des stratégies de plus en plus sophistiquées.

Meta a également renforcé la surveillance des comptes qui créent de nouveaux profils après avoir été bannis. Lorsqu'un modèle de comportement suspect est reconnu, la plateforme désactive le compte et bloque les liens externes associés au schéma publicitaire. Ces actions sont complétées par un blocage automatique des URL déjà identifiées comme sources de matériel d'abus sexuel d'enfants.

Résultats déclarés et limites

Selon les chiffres publiés par Meta, entre janvier et juin 2026, 5,3 millions de pièces de contenu d'exploitation sexuelle infantile ont été « actionnées » sur Facebook et Instagram en Inde, avec plus de 98 % détectés avant d'être signalés par les utilisateurs. Au niveau mondial, le total « actionné » s'est élevé à 33,2 millions d'éléments sur la même période, bien que l'entreprise ne détaille pas combien ont été effectivement retirés versus d'autres mesures de confinement.

Meta elle‑même reconnaît que l'indicateur de 98 % se réfère uniquement au contenu trouvé avant une plainte, ne révélant pas la quantité de matériel qui est resté indétecté. De plus, l'entreprise n'a pas divulgué combien de publicités dissimulées ont été approuvées, identifiées ou éliminées lors de l'analyse rétroactive, laissant une lacune importante pour l'évaluation de l'efficacité globale des nouveaux outils.

L'initiative fait suite à une enquête de la BBC qui a mis en évidence des publicités payantes sur Instagram, en Inde, promouvant du matériel d'abus sexuel d'enfants et dirigeant les utilisateurs vers des canaux externes. En réponse, les autorités indiennes ont ouvert plusieurs procédures, impliquant le Ministère de l'Électronique et des Technologies de l'Information (MeitY), la Commission Nationale pour la Protection des Droits de l'Enfant et la Commission Nationale des Droits de l'Homme.

Meta a indiqué qu'à partir de maintenant, elle signale les cas de sécurité infantile directement au Portail National de Signalement des Crimes Cybernétiques de l'Inde, au lieu de les acheminer vers le NCMEC, organisme nord‑américain. Ce changement vise à améliorer la coopération avec les autorités locales et à accélérer la réponse aux incidents d'exploitation infantile.

Bien que l'entreprise ait détaillé les nouvelles fonctionnalités et les chiffres globaux d'action, aucun auditeur indépendant n'a vérifié la précision des algorithmes ni le taux de faux positifs ou de faux négatifs. Ainsi, les allégations restent des affirmations d'entreprise, sans validation externe confirmant l'efficacité réelle des mesures mises en œuvre.

Pour les annonceurs et les plateformes, le changement pratique consiste à ce que des créations apparemment innocentes puissent être soumises à révision chaque fois que la destination du lien, l'historique du compte ou le comportement environnant suggèrent une tentative de diriger les utilisateurs vers du contenu illégal. Cela implique une surveillance plus stricte et la possibilité d'une intervention humaine avant la publication, renforçant la responsabilité des annonceurs à garantir que leurs publicités ne servent pas de façade à l'exploitation infantile.