Assistente Instinct da IA comete erros custosos ao usar cartão de crédito

Instinct é o assistente pessoal baseado em inteligência artificial criado pela empresa Spear Street Technology, que reúne em uma única interface conversacional recursos como e‑mail, mensagens de texto, exibição de tela, áudio, dados de localização e a integração com dispositivos conectados ao ecossistema do usuário.

A Spear Street Technology promove o Instinct como um agente capaz de lembrar conversas que o usuário esqueceu, iniciar chamadas telefônicas, enviar mensagens instantâneas, reservar corridas de transporte ou contratar prestadores de serviço, tudo isso executado em nome do proprietário da conta, sem a necessidade de intervenção manual constante.

Testadores encontram cobranças inesperadas

Um relatório publicado pela revista digital T3N revelou que o primeiro grupo de testadores que concedeu ao Instinct permissão para usar um cartão de crédito associado à sua conta acabou enfrentando múltiplas cobranças inesperadas e onerosas. Embora o documento não detalhe o montante total gasto, ele confirma que os incidentes ocorreram quando o assistente tentou efetuar solicitações de garantia por meio de canais de atendimento ao cliente, interpretando erroneamente a intenção do usuário como uma ordem de pagamento.

Ao consultar o site oficial do Instinct, os pesquisadores constataram a ausência de uma matriz de permissões detalhada, de um cronograma de limites de gasto ou de um registro público de incidentes. Essa falta de transparência deixa os usuários sem uma orientação clara sobre como o consumo de recursos financeiros é monitorado e controlado pela plataforma.

Por que o erro é relevante

Esses episódios expõem uma distinção crítica no campo da segurança de IA: uma inteligência artificial pode compreender corretamente a intenção verbal do usuário – por exemplo, ao dizer “solicitar uma garantia” – mas ainda assim carecer de autorização explícita para concluir uma transação monetária em nome daquele usuário.

Em ambientes corporativos, as boas práticas recomendam que qualquer pagamento iniciado por um agente de IA esteja sujeito a limites pré‑definidos, registre trilhas de auditoria completas e exija confirmação humana obrigatória sempre que o valor ultrapassar o teto estabelecido. Essa camada de verificação humana funciona como um mecanismo de segurança contra decisões autônomas que poderiam gerar perdas financeiras.

Outras preocupações de privacidade

Além do risco direto ao bolso, o acesso do Instinct a e‑mail, ao conteúdo exibido na tela, a fluxos de áudio e à localização em tempo real cria um vetor de exposição de privacidade independente. A extração não autorizada de informações sensíveis ou a divulgação inadvertida de dados pessoais pode ocorrer mesmo na ausência de qualquer transação financeira.

• Definir limites de gasto por transação
• Registrar cada solicitação de pagamento com carimbo de horário
• Exigir aprovação humana multifatorial acima de um valor estabelecido
• Auditar ações dirigidas por IA trimestralmente

Especialistas em segurança recomendam a implementação desses controles, porém, até a última verificação, nenhuma política pública do Instinct menciona explicitamente tais medidas, deixando um vácuo regulatório que pode ser explorado por falhas de design ou por usuários mal‑intencionados.

As contas de teste analisadas pela investigação da T3N não fazem parte de uma avaliação independente em larga escala; por isso, a taxa de erro não pode ser quantificada de forma robusta neste momento, limitando a capacidade de extrapolar os resultados para toda a base de usuários.

Mesmo assim, os incidentes relatados funcionam como um alerta precoce, indicando que assistentes de IA que recebem privilégios financeiros precisam de uma governança muito mais rígida, com mecanismos de supervisão e de responsabilização claramente definidos.

Para empresas brasileiras, a implicação prática é direta: antes de adotar o Instinct ou soluções semelhantes, as equipes de tecnologia da informação e de finanças devem estabelecer tetos de pagamento explícitos, manter logs imutáveis de todas as solicitações e incorporar uma etapa de aprovação humana para qualquer transação que exceda os limites operacionais habituais.

Sem essas salvaguardas, a conveniência de um assistente virtual que opera sem intervenção manual pode rapidamente se transformar em perdas financeiras inesperadas, além de gerar riscos de não conformidade com a legislação de proteção de dados e de prevenção à fraude.

A recomendação final dos analistas é que as organizações tratem o Instinct como qualquer outro ponto de acesso a recursos críticos, aplicando políticas de controle de acesso, monitoramento contínuo e auditorias regulares para garantir que a IA não ultrapasse fronteiras que deveriam permanecer sob supervisão humana.

Em resumo, a adoção de assistentes de IA com capacidade de movimentar recursos financeiros requer uma abordagem equilibrada entre inovação e responsabilidade, de modo que a promessa de eficiência não venha à custa de vulnerabilidades evitáveis.

Esta reportagem foi elaborada pela redação de L'actu IA, com base nas informações disponíveis até a data de publicação, e reflete o panorama atual de segurança e privacidade envolvendo o assistente Instinct no Brasil.