Conselho Municipal de Nova Iorque convoca gigantes da IA para depor sobre riscos de controlo

No dia 5 de outubro de 2026, o Conselho Municipal de Nova Iorque realizou uma audiência de alto nível e sob juramento, convocando executivos séniores de quatro dos maiores laboratórios de inteligência artificial do planeta para prestar esclarecimentos aos legisladores locais. O debate centrou‑se no perigo de sistemas de IA avançados operarem de forma desalinhada com os valores humanos e na incerteza jurídica que rodeia a responsabilidade por eventuais danos causados por tais sistemas.

Estiveram presentes Logan Graham, da Anthropic, Morgan Dwyer, da OpenAI, Alice Friend, do Google, e Shane Cahill, da Meta. A sua presença foi assegurada apenas após a ameaça de intimações judiciais; a Meta já tinha concordado em depor anteriormente, enquanto as restantes empresas só o fizeram depois de o conselho anunciar a possibilidade de ação legal.

Principais preocupações levantadas pelos peritos

Alex Turner, antigo investigador da DeepMind, alertou que os sistemas de IA podem perseguir objectivos que divergem da intenção humana, criando um risco de resultados catastróficos se não forem controlados. As observações de Turner ecoam avisos anteriores de académicos de segurança de IA acerca do "desalinhamento de metas" em modelos cada vez mais autónomos.

Dois ex‑funcionários, Jacob Coxon, da Anthropic, e Daniel Kokotajlo, da OpenAI, pediram maior transparência nos planos de desenvolvimento e instaram numa desaceleração deliberada do trabalho que empurra a fronteira de desempenho. As suas declarações sublinharam um debate interno crescente entre a velocidade da inovação e as salvaguardas de segurança.

Crítica do Conselho à quantificação dos riscos

A presidente do Conselho, Julie Menin, criticou o testemunho por não apresentar uma avaliação clara e quantitativa do risco catastrófico. Sublinhou que, sem métricas concretas, os legisladores não podem desenhar estratégias de mitigação eficazes nem alocar recursos de forma apropriada.

Menin também destacou a zona cinzenta jurídica que rodeia a responsabilidade. "Se um sistema de IA causar danos, quem é o responsável?" questionou, reforçando a necessidade de um quadro legislativo que defina a responsabilidade tanto para os desenvolvedores como para os utilizadores.

Posições da indústria sobre a regulamentação

Alice Friend, do Google, defendeu uma abordagem regulatória federal uniforme, argumentando que um mosaico de regras locais inibiria a inovação e criaria caos de conformidade para empresas multinacionais.

Em contraste, Logan Graham, da Anthropic, reconheceu as preocupações do Conselho, mas sugeriu que normas voluntárias da indústria poderiam complementar, em vez de substituir, qualquer futura legislação federal.

• Morgan Dwyer, da OpenAI, prometeu aumentar a transparência sobre as capacidades dos modelos
• Logan Graham, da Anthropic, comprometeu‑se a publicar uma estrutura de avaliação de risco
• Shane Cahill, da Meta, comprometeu‑se a integrar um grupo de trabalho intersetorial de segurança
• Alice Friend, do Google, instou o Congresso a aprovar um projeto de lei nacional de segurança de IA

A SpaceXAI, um entrante mais recente no campo da IA, não compareceu apesar de ter sido formalmente intimada. O Conselho anunciou que irá solicitar uma ordem judicial para obrigar a presença da empresa, sinalizando que a não‑conformidade será tratada com consequências legais.

Para as organizações de língua inglesa, a audiência representa um ponto de viragem. Indica que as autoridades a nível municipal estão dispostas a usar o poder de intimação para obrigar testemunhos e que a ausência de um regime regulatório unificado pode rapidamente dar lugar a legislação federal.

As empresas que operam nos Estados Unidos devem esperar obrigações de reporte mais rigorosas, possíveis auditorias de segurança obrigatórias e regras de responsabilidade mais claras, o que poderá influenciar os prazos de lançamento de produtos e os custos de seguros.

A comunidade académica local tem acompanhado de perto o desenrolar dos factos, alertando para a necessidade de colaboração internacional na definição de padrões de segurança que transcendam as fronteiras nacionais.

Especialistas em direito tecnológico sublinharam que a jurisprudência ainda está em fase embrionária, o que pode levar a litígios prolongados e a interpretações divergentes entre diferentes jurisdições.

A expectativa é que outras cidades americanas sigam o exemplo de Nova Iorque, organizando audiências semelhantes e pressionando por uma resposta legislativa coordenada a nível federal.

Em Lisboa, a Associação Portuguesa de Inteligência Artificial tem preparado um comunicado para partilhar as lições aprendidas com a audiência de Nova Iorque, destacando a importância de um enquadramento regulatório europeu que equilibre inovação e segurança.