Assistente Instinct AI comete erros custosos ao ser ligado a cartão de crédito

Instinct, o assistente pessoal de inteligência artificial desenvolvido pela empresa tecnológica Spear Street Technology, reúne numa única interface conversacional uma variedade de fontes de informação, incluindo correio eletrónico, mensagens instantâneas, conteúdo exibido no ecrã, fluxos de áudio, dados de localização geográfica e dispositivos conectados ao ecossistema do utilizador.

A Spear Street Technology promove o Instinct como um agente capaz de recordar conversas que o utilizador tenha esquecido, efetuar chamadas telefónicas, enviar mensagens de texto ou de voz, e ainda reservar meios de transporte ou serviços de terceiros em nome da pessoa que o controla, tudo isto sem necessidade de intervenção manual directa.

Testadores encontram cobranças inesperadas

De acordo com um relatório publicado pela revista digital T3N, o primeiro grupo de utilizadores que concedeu ao Instinct a permissão para aceder a um cartão de crédito associado ao seu perfil registou uma série de erros dispendiosos, resultando em despesas não previstas.

O documento da T3N não revela o valor total gasto nos incidentes, mas indica que as falhas envolveram pedidos de garantia ou devolução que foram encaminhados a canais de apoio ao cliente, gerando custos adicionais para os testadores.

No momento da verificação, o site oficial do Instinct não disponibilizava uma matriz de permissões detalhada, um calendário de limites de gasto nem um registo público de incidentes, deixando os utilizadores sem informações claras sobre os mecanismos de controlo financeiro incorporados no assistente.

Por que o erro é importante

Estes episódios evidenciam uma distinção crucial no domínio da segurança: uma IA pode compreender perfeitamente a intenção verbal do utilizador – por exemplo, "solicitar uma reclamação de garantia" – e ainda assim carecer da autorização explícita para efetuar uma transação monetária em seu nome.

Em contextos empresariais, as boas práticas recomendam que qualquer pagamento iniciado por um agente de IA esteja sujeito a limites predefinidos, trilhas de auditoria completas e a uma confirmação humana obrigatória sempre que o valor ultrapasse um limiar estabelecido.

Preocupações adicionais de privacidade

Além do risco financeiro, o acesso do Instinct a correio eletrónico, conteúdo de ecrã, fluxos de áudio e localização em tempo real cria uma camada adicional de exposição à privacidade, permitindo a extração não autorizada de dados ou a divulgação inadvertida de informações sensíveis, mesmo na ausência de transações monetárias.

• Definir limites de gasto por transação
• Registar cada pedido de pagamento com carimbos temporais
• Exigir aprovação humana multifator acima de um montante definido
• Auditar acções impulsionadas por IA trimestralmente

Estes controlos são recomendados por especialistas em segurança da informação, mas não constam em nenhuma política pública oficial do Instinct até à data da última verificação realizada pelos investigadores.

As contas de teste utilizadas na investigação da T3N não fazem parte de uma avaliação independente de grande escala, pelo que a taxa de erro não pode ser quantificada de forma robusta nesta fase preliminar.

No entanto, os incidentes relatados funcionam como um alerta precoce de que os assistentes de IA necessitam de uma governação mais rigorosa quando recebem privilégios financeiros, sobretudo em ambientes onde a confiança no agente automatizado é elevada.

Para organizações portuguesas, a implicação prática é clara: antes de implantar o Instinct ou agentes semelhantes, as equipas de TI e finanças devem impor limites de pagamento explícitos, manter registos imutáveis de todas as transacções e integrar um passo de aprovação humana para qualquer operação que ultrapasse os limites de rotina.

Sem estas salvaguardas, a conveniência de um assistente mãos‑livres pode rapidamente transformar‑se em perdas financeiras inesperadas e em exposição a riscos regulatórios, especialmente à luz das normas da Autoridade Nacional de Segurança (ANS) e da Comissão de Proteção de Dados (CNPD).

Recomendações para implementação

Em síntese, recomendamos que as empresas que considerem adotar o Instinct criem políticas internas que definam claramente quem pode autorizar pagamentos, estabeleçam limites máximos por transação, implementem registos de auditoria assinados digitalmente e utilizem mecanismos de confirmação multifator antes de validar qualquer operação financeira.

Em Lisboa, por exemplo, várias startups já começaram a integrar estas boas práticas nos seus fluxos de trabalho, combinando a flexibilidade da IA com controlos de compliance rigorosos para evitar surpresas desagradáveis no futuro.