Action contre xAI : une nouvelle plainte relance le débat sur Grok

Une nouvelle plainte a été jointe à la procédure que trois adolescents du Tennessee ont engagée contre xAI, l'entreprise d'intelligence artificielle fondée par Elon Musk et aujourd'hui liée à SpaceX. Selon l'action en justice, une femme identifiée comme Jane Doe 4 affirme que son beau-père a utilisé le générateur d'images Grok pour manipuler une photo prise quand elle avait 11 ans, produisant plus de 7 000 images à caractère sexuel explicite. L'affaire a été découverte lors d'une opération de perquisition policière ; selon un article du Washington Post cité dans le dossier, le suspect a été retrouvé mort par suicide deux jours plus tard.

L'article original rapporte la déclaration de la victime sur ce que produit, au quotidien, la facilité d'accès à ces outils. C'est ce passage, plus que tout autre détail de l'affaire, qui définit l'objet de la procédure.

L'accès illimité à ces outils se répand très vite. Cela transforme la vie quotidienne en abus sexuel sur mineur.

Ce qui est exactement jugé

Cette distinction compte pour toute entreprise qui exploite des modèles génératifs. Les plaignants ne demandent pas que la plateforme soit tenue responsable du crime d'un utilisateur : ils accusent xAI de ne pas avoir mis en place les garde-fous élémentaires empêchant la manipulation de photos de personnes réelles, en particulier de mineurs. En termes de produit, il s'agit de la différence entre un système qui n'a pas anticipé un usage et un système qui n'a pas installé la vérification qui aurait rendu cet usage plus difficile.

Les plaignants recherchent le statut d'action collective (class action), ce qui élargirait considérablement la portée du litige. Cette plainte s'ajoute à une série de critiques concernant la circulation massive d'images générées par intelligence artificielle sans le consentement des personnes représentées — la plateforme X a été inondée de millions d'images à caractère sexuel générées par Grok au début de l'année. TechCrunch indique avoir sollicité xAI pour un commentaire.

• Qui porte plainte : trois adolescents du Tennessee, désormais rejoints par Jane Doe 4.
• Ce qui est reproché : l'absence de garde-fous contre la manipulation de photos de personnes réelles, y compris de mineurs.
• Ce qui est demandé : la reconnaissance du statut d'action collective (class action).
• Contexte : la circulation massive d'images à caractère sexuel générées par Grok sur la plateforme X cette année.

Modération réactive et contrôle préventif ne sont pas la même chose

L'épisode survenu sur X en début d'année aide à comprendre pourquoi cette distinction pèse devant le tribunal. Lorsque des millions d'images à caractère sexuel générées par Grok ont circulé sur la plateforme, la seule réponse disponible a été de retirer le contenu déjà publié — c'est-à-dire agir après que le dommage existait et était déjà diffusé. Ce que la procédure interroge, c'est l'étape antérieure : la génération d'une image explicite à partir de la photographie d'une personne réelle identifiable aurait-elle dû être empêchée au moment où elle a été demandée ? Ce sont deux régimes de responsabilité distincts, et seul le second est vérifiable avant les faits.

Cette différence explique aussi pourquoi la demande de statut collectif compte autant. Une procédure individuelle porte sur un cas ; une action collective porte sur la politique produit qui a rendu possible toute une classe de cas. Si ce statut est accordé, ce qui sera jugé n'est pas ce qui est arrivé à une personne, mais la décision d'ingénierie qui a rendu ce schéma possible pour toutes.

Pourquoi cela concerne aussi les équipes produit en France

Deux conséquences pratiques se dessinent pour les équipes produit, indépendamment de l'issue judiciaire aux États-Unis. La première est que le garde-fou pertinent ne se situe pas dans le texte de la requête, mais dans l'entrée image. Un filtre qui n'analyse que le prompt n'empêche pas la manipulation d'une photographie réelle envoyée par l'utilisateur ; le point de contrôle doit se situer là où l'image entre dans le système, avec vérification de contenu et, le cas échéant, détection de visage de personne identifiable.

La seconde est que l'absence de traçabilité est devenue, en soi, un risque juridique. Lorsqu'une entreprise doit démontrer que ses protections étaient actives, ce qui compte, c'est la preuve opérationnelle — quel classificateur a tourné, dans quelle version, sur quelle période, avec quel taux de blocage. Les équipes qui ne conservent pas cette trace ne peuvent pas prouver leur diligence, même lorsqu'elles ont agi correctement. C'est la même leçon que le secteur tire d'autres épisodes récents de sécurité des modèles : une règle dont personne ne mesure l'exécution n'est pas un contrôle, c'est une intention documentée.

Note de la rédaction : si vous traversez une passe difficile ou avez des pensées suicidaires, le 3114 répond gratuitement, 24h/24 et 7j/7, partout en France.