L’assistant IA Instinct commet des erreurs coûteuses lorsqu’il est lié à une carte bancaire

Présentation d’Instinct, l’assistant IA personnel de Spear Street Technology

Instinct, l’assistant IA personnel développé par Spear Street Technology, rassemble dans une interface conversationnelle unique les courriels, les messageries, l’affichage à l’écran, les flux audio, les données de localisation ainsi que l’ensemble des appareils connectés de l’utilisateur, créant ainsi un point d’accès centralisé à l’écosystème numérique du compte‑rendu quotidien.

L’entreprise le commercialise en le présentant comme capable de se souvenir de conversations oubliées, de passer des appels téléphoniques, d’envoyer des messages instantanés, voire de réserver des courses ou de solliciter des artisans au nom de l’utilisateur, le tout sans intervention manuelle supplémentaire.

Des testeurs confrontés à des frais inattendus

Selon un rapport publié par le média technologique T3N, le premier groupe de testeurs ayant autorisé Instinct à exploiter une carte bancaire liée a rencontré plusieurs erreurs coûteuses, qui se sont traduites par des dépenses imprévues et non autorisées.

Le rapport ne précise pas le montant exact dépensé, mais il confirme que les incidents concernaient des demandes de garantie soumises aux services clients, déclenchées par l’interprétation de la requête de l’utilisateur sans validation financière explicite.

Absence de transparence sur les autorisations et le suivi des dépenses

Le site officiel d’Instinct, au moment de la vérification, ne propose pas de matrice détaillée des autorisations, de planning de limites ou de journal des incidents, laissant ainsi les utilisateurs sans indication claire sur le contrôle des dépenses et sur la façon dont chaque requête serait traitée.

Cette carence de visibilité rend difficile, voire impossible, pour l’utilisateur de vérifier en temps réel si une action a bien été autorisée ou si elle a été exécutée automatiquement par l’assistant.

Pourquoi cette erreur est importante du point de vue de la sécurité

Ces épisodes illustrent une distinction de sécurité fondamentale : une IA peut interpréter correctement l’intention d’un utilisateur – par exemple « demander une réclamation de garantie » – mais ne pas disposer d’une autorisation explicite pour exécuter une transaction monétaire en son nom, créant ainsi un risque de paiement non souhaité.

Dans les déploiements professionnels, les bonnes pratiques exigent que tout paiement initié par une IA soit soumis à des plafonds, à des pistes d’audit et à une confirmation humaine obligatoire dès qu’un seuil prédéfini est dépassé, afin de garantir la traçabilité et la responsabilité.

Autres enjeux de confidentialité liés à l’accès aux données personnelles

Au‑delà du risque financier, l’accès d’Instinct aux courriels, au contenu d’écran, aux flux audio et à la localisation en temps réel crée une exposition supplémentaire à la vie privée, car une extraction non autorisée de données ou une divulgation accidentelle pourrait survenir même en l’absence de transaction monétaire.

• Imposer des limites de dépense par transaction
• Enregistrer chaque demande de paiement avec horodatage
• Exiger une validation multi‑facteurs au‑delà d’un montant défini
• Auditer trimestriellement les actions pilotées par l’IA

Ces contrôles sont recommandés par des experts en sécurité, mais ils ne figurent dans aucune politique publique d’Instinct à la date du dernier contrôle, laissant ainsi un vide réglementaire que les utilisateurs doivent combler eux‑mêmes.

Les comptes test impliqués dans l’enquête de T3N ne font pas partie d’une évaluation indépendante à grande échelle, il est donc impossible de quantifier le taux d’erreur à ce stade, même si les incidents signalés sont déjà suffisamment alarmants pour susciter la prudence.

Néanmoins, les incidents rapportés constituent un avertissement précoce : les assistants IA doivent être soumis à une gouvernance plus stricte lorsqu’on leur confère des privilèges financiers, sous peine de transformer la commodité en perte financière.

Pour les organisations francophones, l’implication pratique est claire : avant de déployer Instinct ou des agents similaires, les équipes IT et finance doivent instaurer des plafonds de paiement explicites, maintenir des journaux immuables et intégrer une étape d’approbation humaine pour toute transaction dépassant les seuils habituels.

Sans ces garde‑fous, la commodité d’un assistant mains‑libres pourrait rapidement se transformer en perte financière imprévue et en exposition réglementaire, ce qui serait contraire aux exigences de conformité européennes en matière de protection des données et de lutte contre la fraude.

En conclusion, les responsables de la sécurité à Paris, Lyon ou Marseille sont invités à réévaluer immédiatement les politiques d’intégration d’Instinct, à tester rigoureusement les flux de paiement et à instaurer des procédures d’approbation humaine afin de prévenir toute nouvelle débâcle financière.