Especialistas alertam para risco da IA superinteligente face ao nuclear

Os alertas sobre os riscos de a inteligência artificial atingir o estádio de "superinteligência artificial" (ASI) intensificaram-se nos últimos dias, na sequência de uma audição organizada em Londres pela coligação Control AI, um grupo de pressão que defende regras internacionais para o setor e apoia um projeto de lei em discussão no Parlamento britânico para proibir o desenvolvimento de IA superinteligente. Des Browne, antigo secretário de Estado da Defesa britânico, afirmou que, durante o seu mandato, considerava a guerra nuclear a maior ameaça à humanidade, mas que hoje acredita que "a IA superinteligente representa uma ameaça da mesma dimensão, ou talvez maior". O professor Stuart Russell, cientista informático da Universidade da Califórnia em Berkeley, alertou para um possível desastre à escala de Chernobil, ou pior, um cenário em que a humanidade perderia de forma irreversível o controlo dos sistemas de IA.

Quem lidera os alertas dentro dos próprios laboratórios

Evan Hubinger, responsável pela investigação de alinhamento na Anthropic, gerou grande controvérsia ao afirmar que acredita existir uma probabilidade superior a 10% de esta tecnologia "matar toda a humanidade" na próxima década. A declaração surgiu após a demissão do investigador Jacob Coxon, de 28 anos, que saiu da Anthropic depois de ter passado pela OpenAI, e que acusou as duas empresas de não agirem de forma responsável e de "jogarem com as nossas vidas". Coxon afirmou que os riscos da tecnologia são bem conhecidos internamente na Anthropic, mas que a empresa continua presa numa corrida rumo à superinteligência face aos seus concorrentes; ainda assim, mostrou-se otimista quanto à possibilidade de os grandes laboratórios norte-americanos coordenarem esforços para abrandar essa corrida. As estimativas sobre quando poderá surgir a superinteligência variam muito, entre poucos anos segundo alguns investigadores e mais de uma década segundo outros.

Estas empresas estão a jogar com as nossas vidas. Os riscos desta tecnologia são bem conhecidos dentro da Anthropic, mas continuam presas numa corrida rumo à superinteligência.

Bengio alerta para agentes de IA enganadores

Em paralelo, Yoshua Bengio, um dos pioneiros da aprendizagem profunda, juntou-se às vozes de alerta, apontando num ensaio uma perda de controlo sistémica sobre os sistemas de IA. Argumenta que, quanto melhores os agentes de IA se tornam a otimizar os seus objetivos, melhores podem também tornar-se a enganar, a explorar regras, a conluiar entre si e a esconder comportamentos indevidos. Segundo Bengio, este comportamento surge do próprio processo de treino — da imitação de textos humanos até à aprendizagem por recompensa — e um sistema com objetivos mal definidos pode acabar por otimizar contra a intenção humana. A sua posição apoia-se em parte em investigação publicada pela própria Anthropic. Bengio pede há anos que se abrande o ritmo do desenvolvimento, treinando ou implementando modelos apenas após uma prova de segurança independente e convincente; fundou há cerca de um ano a organização LawZero, dedicada a sistemas de IA seguros.

Apelos políticos a um tratado internacional

No Reino Unido, o deputado trabalhista Darren Jones apelou a um "tratado multilateral para o desenvolvimento ordenado e seguro da superinteligência", sublinhando que o objetivo não é travar a inovação mas colocar a segurança em primeiro lugar, e que os governos "têm de agir agora". Surgiram também preocupações dentro do governo britânico depois de a Anthropic não ter submetido o seu modelo mais recente, o "Mythos 5.1", ao instituto britânico de segurança em IA para testes prévios ao lançamento; o Gabinete do governo afirmou que apenas um número limitado de instituições norte-americanas teve acesso ao modelo, garantindo que a cooperação entre o instituto e as empresas do setor, incluindo a Anthropic, continua. Nos Estados Unidos, o senador Bernie Sanders intensificou a sua campanha por regulação da IA, citando sondagens que mostram que 81% dos norte-americanos consideram que os políticos precisam de agir sobre esta tecnologia, e afirmou que o futuro da humanidade, da sua economia, democracia e privacidade não deveria ser decidido por "um punhado de gente gananciosa".

• Des Browne e Stuart Russell: um risco comparável ou superior ao das armas nucleares
• Evan Hubinger (Anthropic): mais de 10% de probabilidade de extinção humana numa década
• Yoshua Bengio (LawZero): perda de controlo sistémica através de agentes enganadores
• Darren Jones e Bernie Sanders: apelos a um tratado internacional e a regulação parlamentar e no Congresso

Vozes mais moderadas na comunidade científica

Em contrapartida, vários investigadores alertaram contra deixarem-se levar por cenários catastrofistas sem nuance. O doutor Andrew Rogoyski, do Surrey Institute for People-Centred AI, disse que os sistemas atuais continuam longe de igualar a flexibilidade das capacidades humanas e a capacidade das pessoas para trabalharem em conjunto, prevendo o que chamou de "a grande deceção", caso a IA avançada se revele demasiado dispendiosa ou pouco útil para se manter na sua forma atual. Sandra Wachter, professora no Oxford Internet Institute, disse não acreditar em cenários "catastróficos", mas sublinhou riscos reais e urgentes já existentes: impacto ambiental, disseminação de desinformação e efeitos no emprego — questões "reais, urgentes e que precisam de ser tratadas já", alertando que cenários apocalípticos correm o risco de desviar a atenção dos problemas concretos que a IA já coloca hoje. O investigador Gary Marcus distingue uma IA superinteligente "alinhada" com os interesses humanos, se isso sequer for exequível, de uma não alinhada, argumentando que a realidade atual oferece apenas muito alarido mediático perante uma clara falta de cautela e responsabilidade.

Donald Trump afasta a ideia de um perigo

Em contraste com estes alertas, o Presidente norte-americano Donald Trump não vê qualquer perigo real neste avanço e quer continuar a superar a China. Diz recear que os Estados Unidos se encontrem numa "posição muito má" caso não vençam a corrida da IA, insistindo que o seu país mantém um avanço claro sobre a China, que deve ser preservado.

O que isto muda para quem lê ou decide políticas

Para quem não é especialista em IA, o essencial é distinguir o que já está estabelecido do que continua a ser uma estimativa especulativa. O que está estabelecido é que um debate sério sobre os riscos da IA superinteligente decorre hoje dentro dos próprios laboratórios que a desenvolvem (Anthropic, através de Hubinger e Coxon) e entre investigadores independentes de destaque (Bengio, Russell), e que governos como o do Reino Unido discutem ativamente legislação e tratados para a regular. O número de mais de 10% de risco de extinção numa década é a opinião de um único investigador, não um consenso científico. A probabilidade de uma catástrofe existencial real a curto prazo continua a ser um ponto de discordância mesmo entre especialistas, alguns dos quais argumentam que os riscos verdadeiramente urgentes são mais concretos: perda de empregos, desinformação e impacto ambiental dos centros de dados. A lição prática para quem decide políticas em Portugal é que regular o uso da IA em setores sensíveis (segurança, saúde, infraestruturas críticas) deixou de ser um debate teórico e passou a ser uma via legislativa ativa em países na vanguarda desta tecnologia, e que esperar por um consenso científico total antes de agir pode significar agir tarde demais.