Chatbots de IA falham quando o suicídio surge como ficção

Os chatbots de inteligência artificial ficaram muito mais seguros nos últimos dois anos quando um utilizador expressa claramente que está em crise. É a principal conclusão de uma avaliação independente da organização sem fins lucrativos Transluce, que simulou mais de 50 mil conversas — mais de um milhão de mensagens no total — com 77 versões de modelos de IA lançados entre maio de 2024 e julho de 2026. Mas o estudo identifica também uma falha persistente: quando o mesmo pedido de ajuda para descrever a própria morte surge disfarçado de exercício de escrita criativa ou de interpretação de uma personagem, vários modelos continuam a colaborar, tratando o pedido como uma simples tarefa em vez de um sinal de alerta.

Menos incentivo direto, mais encaminhamento para ajuda humana

Segundo a Transluce, os modelos mais recentes praticamente deixaram de incentivar ou facilitar explicitamente o suicídio — um comportamento que ainda era comum em gerações anteriores, como o GPT-4o e o Gemini 2.5, associadas publicamente a casos trágicos de suicídio e psicose. Os sistemas atuais também encaminham com muito mais frequência o utilizador para amigos, familiares ou linhas de apoio especializadas. Outro indicador acompanhado pelo estudo — o reforço de pensamentos delirantes em episódios de mania — caiu de uma faixa de 69% a 82% nos modelos mais antigos testados (GPT-4o, Claude Opus 4, Gemini 2.5) para apenas 2% a 36%, consoante o modelo, nas versões mais recentes.

Para chegar a estes números, a Transluce montou 157 perfis de utilizadores simulados, muitos deles pensados para representar casos-limite, e avaliou as respostas dos modelos em 14 comportamentos distintos ligados à saúde mental — sete validados clinicamente, com efeitos bem documentados sobre pessoas em crise, e sete mais exploratórios, identificados ao longo da própria avaliação. A grelha de comportamentos foi construída com um grupo de trabalho de mais de 30 especialistas clínicos, de organizações como a American Psychological Association, a Harvard Medical School, a Universidade de Stanford e a Crisis Text Line.

A zona cinzenta da ficção

O problema começa quando o pedido não é uma pergunta direta, mas um cenário. A Transluce descreve isto como uma 'zona cinzenta': um utilizador pede ao chatbot para escrever uma história, um poema ou um diálogo em que uma personagem — muitas vezes claramente identificável com o próprio utilizador — planeia ou descreve a sua morte. Nesses casos, vários modelos tratam o pedido apenas como uma tarefa de escrita, ignorando os sinais de que a ficção pode estar a servir de disfarce para uma angústia real. A organização encontrou ainda casos residuais de apoio mais direto à preparação de uma morte, como ajudar a redigir uma carta de despedida a familiares.

A Transluce anunciou que vai alargar este tipo de avaliação a outras áreas sensíveis, na tentativa de perceber onde e como os modelos ainda falham em cenários menos óbvios do que um pedido de ajuda direto.

• Quase nenhum modelo recente incentiva ou facilita explicitamente o suicídio, ao contrário de gerações anteriores.
• O reforço de delírios em episódios de mania caiu de 69%-82% para 2%-36%, consoante o modelo.
• A escrita criativa ou o role-play sobre a própria morte continuam a ser aceites por vários modelos, mesmo com sinais de angústia real.
• Restam casos de apoio direto à preparação da morte, como cartas de despedida.
• Nos sistemas mais recentes, comportamentos prejudiciais e comportamentos úteis aparecem cada vez mais na mesma conversa, em vez de isolados.

Há muitas formas de um sistema de IA responder de forma inadequada, ou mesmo prejudicial, a alguém com pensamentos suicidas. Como investigadora do suicídio, valorizei a profundidade e o alcance dos comportamentos analisados neste trabalho.

Diferenças entre sistemas, e o que as empresas dizem fazer

A avaliação também compara desenvolvedores. Os sistemas chineses testados — incluindo modelos da DeepSeek e da Moonshot AI — apresentaram resultados globalmente menos seguros do que os das empresas norte-americanas, com maior tendência para reforçar pensamentos delirantes e menor probabilidade de encaminhar o utilizador para apoio humano. A Transluce trabalhou diretamente com a OpenAI e a Anthropic, que lhe deram acesso a dados anonimizados sobre como utilizadores reais conversam com o ChatGPT e o Claude sobre saúde mental, para tornar as simulações mais realistas; a Google DeepMind facultou acesso a uma API interna próxima da experiência da aplicação Gemini. Um resultado adicional: fora dos avisos que remetem para linhas de crise, as aplicações de consumo não se revelaram, de forma consistente, mais seguras do que as respetivas APIs de programação — nalguns casos, foram mesmo menos seguras.

Para pais, escolas e reguladores em Portugal, a conclusão prática é que um chatbot 'aprovado' para conversas sensíveis não está imune a um pedido apresentado como história ou role-play — vale a pena manter essa cautela ao acompanhar o uso destas ferramentas por adolescentes. Para as plataformas e para entidades que venham a fiscalizar sistemas de IA em Portugal, o estudo dá um critério concreto de auditoria: testar não só perguntas diretas sobre suicídio, mas também pedidos de escrita criativa ou de interpretação de personagens sobre o mesmo tema. Se precisar de apoio, a linha SOS Voz Amiga está disponível em Portugal através dos números 213 544 545, 912 802 669 e 963 524 660, todos os dias das 15h30 à 00h30.