Senado da Califórnia aprova por unanimidade proibição de chatbots anunciados como "terapia psicológica"

O Senado do estado americano da Califórnia aprovou, por votação bipartidária de 39 a 0, o projeto de lei SB 903, apresentado pelo senador Steve Padilla. O texto agora segue para a Assembleia estadual para continuar sua tramitação legislativa. Segundo comunicado oficial do gabinete do senador Padilla, o objetivo do projeto é garantir que os serviços de saúde mental continuem seguros, éticos e prestados por profissionais capacitados, e não por algoritmos de inteligência artificial.

O que o texto muda exatamente

O projeto de lei se apoia em três eixos principais. Primeiro, proíbe empresas de anunciar ou comercializar chatbots como "terapia psicológica" ou serviço de saúde mental sem supervisão de um profissional licenciado. Segundo, impede que sistemas de inteligência artificial tomem decisões terapêuticas sozinhos, sem revisão de um profissional de saúde mental ou de saúde licenciado. Terceiro, exige que os prestadores de cuidados de saúde obtenham o consentimento do paciente antes de usar inteligência artificial para gravar sessões de terapia ou para triar e encaminhar casos.

O senador Padilla resumiu a filosofia do texto nestes termos: «À medida que as capacidades técnicas continuam a crescer e novas ferramentas entram no campo da saúde mental, precisamos garantir salvaguardas suficientes para manter uma abordagem centrada no ser humano, colocando a segurança e as considerações éticas em primeiro lugar. O SB 903 traça uma linha clara: a inteligência artificial pode ser uma ferramenta nas mãos de profissionais licenciados, mas não pode ser o profissional em si.»

O projeto surge em um contexto de escassez real de profissionais de saúde mental no estado: cerca de um terço dos californianos vive em áreas onde a proporção de profissionais de saúde mental por habitante é insuficiente. Essa escassez tem levado um número crescente de pessoas a recorrer a chatbots em busca de apoio psicológico. Segundo um relatório da Harvard Business Review, terapia e companhia estão entre os usos mais comuns do ChatGPT este ano. O mercado viu surgir produtos comercializados explicitamente como "terapeutas de IA", entre eles Therabot, Wysa, TherapyAI, TherapistGPT e Abby.

Segundo o comunicado oficial, psiquiatras apontam diversas preocupações sobre essas ferramentas: questões de privacidade e proteção de dados, compreensão limitada do contexto de cada paciente, risco de dependência excessiva do usuário em relação ao chatbot, recomendações terapêuticas imprecisas, e incapacidade de captar sinais de comunicação precisos, como tom de voz ou contato visual. Em uma pesquisa da Associação Americana de Psiquiatria, 80% dos membros expressaram preocupação significativa ou moderada quanto à falta de treinamento em IA entre os profissionais de saúde mental. O projeto é copatrocinado pela Associação Psicológica da Califórnia, pela Associação de Terapeutas Conjugais e Familiares da Califórnia, pela Associação de Saúde Comportamental da Califórnia e pelo Sindicato Nacional dos Trabalhadores da Saúde (NUHW).

Um debate entre proteger pacientes e facilitar o acesso a cuidados

O projeto não tem consenso total fora do plenário do Senado. Segundo o jornal The Independent, críticos argumentam que o texto pode dificultar usos legítimos da inteligência artificial e limitar a capacidade dos prestadores de usar ferramentas inteligentes para encaminhar pacientes ao tratamento com mais rapidez. Robert Boykin, diretor executivo do grupo da indústria de tecnologia TechNet na Califórnia, declarou ao CalMatters: «Em um momento em que todos os condados da Califórnia sofrem com a escassez de trabalhadores de saúde comportamental, o SB 903 continua colocando um gargalo clínico diante das ferramentas de triagem que ajudam pacientes a acessar cuidados mais rapidamente.»

Em sentido contrário, o Sindicato Nacional dos Trabalhadores da Saúde, que apoia o projeto, apresentou uma queixa junto aos reguladores da Califórnia acusando o sistema de saúde Kaiser Permanente de usar um sistema automatizado de "consulta eletrônica", sem supervisão profissional, para dar recomendações de cuidado a pacientes com ansiedade ou depressão. A empresa respondeu que "não usa inteligência artificial para diagnosticar pacientes, tomar decisões clínicas ou determinar necessidade médica".

Dados recentes confirmam a dimensão do fenômeno em debate. Um estudo de 2025 conduzido pela RAND Corporation, em parceria com as universidades Brown e Harvard, constatou que cerca de um em cada oito adolescentes e jovens adultos recorre a chatbots para cuidados de saúde mental. Jonathan Cantor, pesquisador sênior de políticas públicas da RAND, afirmou: «Há poucos padrões unificados para avaliar os conselhos psicológicos dados por chatbots de inteligência artificial, e há transparência limitada sobre os conjuntos de dados usados para treinar esses grandes modelos de linguagem.» Um estudo da Associação Americana de Psicologia realizado este ano constatou que 77% dos psicólogos conversaram com pacientes que usaram IA para apoio, interação ou outros motivos, enquanto a OpenAI revelou em outubro que cerca de 1,2 milhão de pessoas enviam mensagens ao ChatGPT toda semana contendo indícios explícitos de possíveis pensamentos ou intenções suicidas.

Hamilton Morrin, pesquisador clínico em neuropsiquiatria no King's College London, declarou à Harvard Business Review: «Diante das longas filas de espera e da dificuldade de acesso a cuidados de saúde mental e terapia em muitos países, talvez não seja surpreendente que um número crescente de pessoas recorra à inteligência artificial generativa em busca de apoio para seu bem-estar emocional.»

O que isso significa para o Brasil

Embora o SB 903 seja um texto local, específico do estado da Califórnia, e ainda precise ser aprovado pela Assembleia antes de virar lei, ele levanta um debate que ultrapassa as fronteiras dos Estados Unidos. No Brasil, o acesso a profissionais de saúde mental também segue limitado pela escassez de mão de obra capacitada, pelo alto custo dos tratamentos e pelo estigma social que ainda cerca a saúde mental, fatores que têm levado um número crescente de usuários, incluindo jovens, a experimentar chatbots como primeira opção ou alternativa de apoio psicológico. Embora ainda não existam dados locais tão precisos quanto os estudos americanos citados acima, a dimensão do debate regulatório na Califórnia, polo mundial da indústria de tecnologia, torna provável que esse texto, se aprovado definitivamente, se torne referência para outros reguladores ou plataformas digitais mundo afora, inclusive as usadas no Brasil, na definição de regras semelhantes sobre a divulgação da natureza do chatbot, o consentimento do usuário e a supervisão humana de qualquer recomendação relacionada à saúde mental.