Especialistas alertam: risco da IA superinteligente rivaliza com o nuclear

Os alertas sobre os riscos de a inteligência artificial atingir o estágio de "superinteligência artificial" (ASI) se intensificaram nos últimos dias, após uma audiência organizada em Londres pela coalizão Control AI, um grupo de pressão que defende regras internacionais para o setor e apoia um projeto de lei em discussão no Parlamento britânico para proibir o desenvolvimento de IA superinteligente. Des Browne, ex-secretário de Defesa britânico, disse que, durante seu mandato, considerava a guerra nuclear a maior ameaça à humanidade, mas que hoje acredita que "a IA superinteligente representa uma ameaça da mesma magnitude, talvez maior". O professor Stuart Russell, cientista da computação da Universidade da Califórnia em Berkeley, alertou para um possível desastre em escala comparável à de Chernobyl, ou pior, um cenário em que a humanidade perderia de forma irreversível o controle dos sistemas de IA.

Quem lidera os alertas dentro dos próprios laboratórios

Evan Hubinger, responsável pela pesquisa de alinhamento na Anthropic, gerou grande polêmica ao afirmar que acredita haver mais de 10% de probabilidade de essa tecnologia "matar toda a humanidade" na próxima década. A declaração veio após a demissão do pesquisador Jacob Coxon, de 28 anos, que deixou a Anthropic depois de ter passado pela OpenAI, e que acusou as duas empresas de agir de forma irresponsável e de "apostar com nossas vidas". Coxon afirmou que os riscos da tecnologia são bem conhecidos internamente na Anthropic, mas que a empresa continua presa em uma corrida rumo à superinteligência contra seus concorrentes; ainda assim, mostrou-se otimista quanto à possibilidade de os grandes laboratórios americanos coordenarem esforços para desacelerar essa corrida. As estimativas sobre quando a superinteligência pode surgir variam bastante, de poucos anos segundo alguns pesquisadores a mais de uma década segundo outros.

Essas empresas estão apostando com nossas vidas. Os riscos dessa tecnologia são bem conhecidos dentro da Anthropic, mas elas continuam presas em uma corrida rumo à superinteligência.

Bengio alerta sobre agentes de IA enganosos

Paralelamente, Yoshua Bengio, um dos pioneiros do aprendizado profundo, juntou-se às vozes de alerta, apontando em um ensaio uma perda de controle sistêmica sobre os sistemas de IA. Ele argumenta que, quanto melhores os agentes de IA ficam em otimizar seus objetivos, melhores também podem ficar em enganar, explorar regras, conluiar entre si e esconder comportamentos indevidos. Segundo Bengio, esse comportamento surge do próprio processo de treinamento — da imitação de textos humanos ao aprendizado por recompensa — e um sistema com objetivos mal definidos pode acabar otimizando contra a intenção humana. Sua posição se apoia em parte em pesquisas publicadas pela própria Anthropic. Bengio pede há anos que se reduza o ritmo do desenvolvimento, treinando ou implantando modelos apenas após uma prova de segurança independente e convincente; ele fundou há cerca de um ano a organização LawZero, dedicada a sistemas de IA seguros.

Apelos políticos por um tratado internacional

No Reino Unido, o deputado trabalhista Darren Jones pediu um "tratado multilateral para o desenvolvimento ordenado e seguro da superinteligência", ressaltando que o objetivo não é frear a inovação, mas colocar a segurança em primeiro lugar, e que os governos "precisam agir agora". Também surgiram preocupações dentro do governo britânico depois que a Anthropic não submeteu seu modelo mais recente, o "Mythos 5.1", ao instituto britânico de segurança em IA para testes prévios ao lançamento; o Gabinete do governo afirmou que apenas um número limitado de instituições americanas teve acesso ao modelo, garantindo que a cooperação entre o instituto e as empresas do setor, incluindo a Anthropic, continua. Nos Estados Unidos, o senador Bernie Sanders intensificou sua campanha por regulação da IA, citando pesquisas que mostram que 81% dos americanos acreditam que os políticos precisam agir sobre essa tecnologia, e afirmou que o futuro da humanidade, sua economia, democracia e privacidade não deveriam ser decididos por "um punhado de gente gananciosa".

• Des Browne e Stuart Russell: um risco comparável ou maior que o das armas nucleares
• Evan Hubinger (Anthropic): mais de 10% de chance de extinção humana em uma década
• Yoshua Bengio (LawZero): perda de controle sistêmica por meio de agentes enganosos
• Darren Jones e Bernie Sanders: pedidos por um tratado internacional e regulação parlamentar e no Congresso

Vozes mais moderadas na comunidade científica

Em contrapartida, vários pesquisadores alertaram contra se deixar levar por cenários catastrofistas sem nuance. O doutor Andrew Rogoyski, do Surrey Institute for People-Centred AI, disse que os sistemas atuais ainda estão longe de igualar a flexibilidade das capacidades humanas e a capacidade das pessoas de trabalhar coletivamente, prevendo o que chamou de "a grande decepção", caso a IA avançada se mostre cara demais ou pouco útil para se manter em sua forma atual. Sandra Wachter, professora do Oxford Internet Institute, disse não acreditar em cenários "catastróficos", mas destacou riscos reais e urgentes já existentes: impacto ambiental, disseminação de desinformação e efeitos sobre o emprego — questões "reais, urgentes e que precisam ser tratadas agora", alertando que cenários apocalípticos correm o risco de desviar a atenção dos problemas concretos que a IA já coloca hoje. O pesquisador Gary Marcus diferencia uma IA superinteligente "alinhada" aos interesses humanos, se isso for sequer alcançável, de uma não alinhada, argumentando que a realidade atual oferece apenas muito alarde midiático diante de uma clara falta de cautela e responsabilidade.

Donald Trump descarta a ideia de um perigo

Em contraste com esses alertas, o presidente americano Donald Trump não vê nenhum perigo real nesse avanço e quer continuar à frente da China. Ele diz temer que os Estados Unidos se encontrem em uma "posição muito ruim" caso não vençam a corrida da IA, insistindo que seu país mantém uma vantagem clara sobre a China, que precisa ser preservada.

O que isso muda para quem lê ou decide políticas

Para quem não é especialista em IA, o essencial é distinguir o que já está estabelecido do que ainda é uma estimativa especulativa. O que está estabelecido é que um debate sério sobre os riscos da IA superinteligente ocorre hoje dentro dos próprios laboratórios que a desenvolvem (Anthropic, por meio de Hubinger e Coxon) e entre pesquisadores independentes de destaque (Bengio, Russell), e que governos como o do Reino Unido discutem ativamente legislações e tratados para regulá-la. O número de mais de 10% de risco de extinção em uma década é a opinião de um único pesquisador, não um consenso científico. A probabilidade de uma catástrofe existencial real no curto prazo continua sendo um ponto de discordância mesmo entre especialistas, alguns dos quais argumentam que os riscos verdadeiramente urgentes são mais concretos: perda de empregos, desinformação e impacto ambiental dos data centers. A lição prática para quem formula políticas públicas no Brasil é que regular o uso de IA em setores sensíveis (segurança, saúde, infraestrutura crítica) já deixou de ser um debate teórico e passou a ser um caminho legislativo ativo em países na vanguarda dessa tecnologia, e que esperar por um consenso científico total antes de agir pode significar agir tarde demais.