Líderes da IA dividem-se entre ritmo, autocontrolo e regulação

Uma divisão visível na Dreamforce

O debate público mais recente sobre a segurança da inteligência artificial não colocou apenas a indústria contra o Estado. Colocou alguns dos dirigentes tecnológicos mais influentes em pontos diferentes da mesma linha de tensão: a que velocidade deve avançar a fronteira, quem decide quando fazer uma pausa e se a regulação deve surgir antes do dano ou responder sobretudo depois. Segundo a TechCrunch, Jensen Huang, presidente executivo da Nvidia, defendeu em 15 de setembro de 2026, na Dreamforce, que a segurança da IA é sobretudo um problema de engenharia. Na sua perspetiva, as leis existentes e as forças de mercado já criam pressão suficiente para evitar lançamentos inseguros. Huang disse também que uma empresa deve suspender uma saída se não tiver confiança na segurança do produto.

A posição de Huang é relevante porque a Nvidia está no centro da economia de infraestrutura da IA. O argumento relatado pela TechCrunch rejeita a ideia de que velocidade e segurança tenham necessariamente de ser escolhas opostas. Huang convida as empresas a avançarem tão depressa quanto puderem, mas a fazerem uma pausa quando um produto deixa de estar controlável. A nuance é importante. A decisão fica dentro da empresa, orientada por sinais de engenharia, responsabilidade de produto e risco comercial. Também pressupõe que a exposição jurídica, os danos reputacionais e a pressão dos clientes disciplinarão as empresas que lançarem sistemas capazes de causar prejuízo. Neste enquadramento, as autoridades públicas não precisariam de definir um travão geral antes de os mecanismos habituais mostrarem falhas.

Zuckerberg confia nos incentivos

A CNBC noticiou que Mark Zuckerberg, presidente executivo da Meta, se aproximou da posição de Huang. Para Zuckerberg, confiança e alinhamento estão a tornar-se capacidades de diferenciação, não apenas encargos de conformidade. Se clientes, parceiros e programadores recompensam sistemas que se comportam de forma fiável, o trabalho de segurança passa a fazer parte da competição de produto. Zuckerberg apontou ainda o risco de responsabilidade como incentivo já existente: as empresas sabem que podem sofrer consequências se os seus produtos causarem danos. Citou o adiamento do Muse pela Meta, por razões de segurança e proteção, como exemplo de uma decisão tomada sem esperar por um acordo coletivo do sector.

Esse exemplo é central para a defesa da autorregulação. O adiamento do Muse, tal como Zuckerberg o apresentou e a CNBC o relatou, pretende mostrar que uma empresa pode travar por iniciativa própria antes do lançamento quando questões de segurança ou proteção continuam por resolver. Mas o mesmo exemplo mostra os limites da visibilidade pública. Os observadores conseguem ver que houve um adiamento, mas não conseguem inspecionar automaticamente os testes internos, os limiares ou os desacordos que o produziram. Uma pausa voluntária pode ser responsável, mas continua a ser uma decisão tomada pela parte que beneficiará do lançamento futuro. Isso não a torna vazia; obriga antes a distinguir o anúncio de prudência de um processo verificável de forma independente.

Altman considera o medo justificado

Sam Altman adotou uma linha pública mais cautelosa. O brief indica que Altman disse que o público tinha razão em ter medo, que a segurança e a supervisão deviam preceder as funcionalidades e que as empresas deveriam abrandar ou parar se o alinhamento e a segurança não permanecessem à frente das capacidades. Isto não equivale a abandonar o desenvolvimento da IA, mas desloca o ónus da prova. Na sua lógica, a pergunta não é apenas se uma empresa consegue detetar perigo quando um produto está quase pronto. É também se o programa de segurança avança de forma comprovável mais depressa do que os sistemas que pretende conter. Se esse equilíbrio se perde, abrandar torna-se um dever.

A posição de Altman contém também a tensão que está no centro do debate. Ele apoia a coordenação entre laboratórios, mas também pede ao público que confie nas empresas para agirem corretamente. A coordenação pode reduzir uma dinâmica de corrida se os grandes laboratórios acordarem que certos limiares de capacidade exigem mais análise. Porém, se esses mesmos laboratórios definem os limiares, interpretam as provas e decidem quando avançar, o problema de confiança permanece. O público é convidado a aceitar simultaneamente a seriedade do risco e a suficiência do julgamento empresarial. É uma combinação difícil, sobretudo quando as recompensas económicas de chegar primeiro são elevadas e alguns danos só se tornam visíveis depois da implantação.

O que cada posição implica

• A visão de Huang, segundo a TechCrunch, trata a segurança da IA sobretudo como um problema de engenharia e controlo de produto dentro das leis e mercados existentes.
• O argumento de Zuckerberg, relatado pela CNBC, diz que confiança, alinhamento e risco de responsabilidade já empurram as empresas para comportamentos mais seguros.
• O adiamento do Muse pela Meta é citado por Zuckerberg como decisão voluntária de segurança sem esperar por um pacto sectorial.
• Altman afirma que o medo público é justificado e que segurança, alinhamento e supervisão devem permanecer à frente das capacidades.
• Dario Amodei pediu um abrandamento da fronteira, avaliadores terceiros integrados nos laboratórios e coordenação internacional.

A questão política por baixo

A posição de Dario Amodei, tal como resumida no brief, leva a discussão além da disciplina voluntária. Amodei pediu um abrandamento da fronteira, avaliadores terceiros integrados nos laboratórios e coordenação internacional. Esta proposta responde a uma fragilidade do argumento assente no mercado: responsabilidade depois do dano, auditorias prévias e normas obrigatórias não produzem os mesmos incentivos. A responsabilidade pode punir uma empresa quando o dano já ocorreu, mas talvez não ajude a tempo as pessoas afetadas. Auditorias prévias podem obrigar à produção de provas antes do lançamento, mas o seu valor depende da independência do avaliador e do acesso técnico. Normas obrigatórias podem reduzir ambiguidades, mas também atrasar-se perante sistemas que mudam depressa.

O conflito de interesses é difícil de afastar. As empresas que constroem sistemas avançados de IA são também as que ganham com lançamentos rápidos, atração de utilizadores, venda de infraestrutura ou captura de ecossistemas de programadores. Isto não significa que todas as declarações sobre segurança sejam cínicas. Significa que a governação não pode assentar apenas em intenções declaradas. Uma empresa pode acreditar honestamente que o seu processo interno é forte e ainda assim subestimar riscos suportados por terceiros. No sentido inverso, uma regra pública mal desenhada pode congelar trabalho útil de segurança ou premiar conformidade superficial. O debate é, portanto, menos sobre a importância da segurança e mais sobre que prova conta, quem a pode inspecionar e o que acontece quando empresa e público discordam.

Para empresas e organizações em Portugal e noutros mercados lusófonos europeus, a lição prática é deixar de tratar as garantias de segurança dos fornecedores como uma simples caixa de verificação. Compras, jurídico, tecnologia e áreas operacionais devem perguntar se o fornecedor depende de revisão interna, avaliação externa, normas obrigatórias ou responsabilidade posterior ao dano, e registar a evidência de cada afirmação. A divisão vista na Dreamforce mostra que os principais líderes da IA não partilham um modelo único de governação. Qualquer organização que implemente IA deve criar os seus próprios critérios de aprovação, monitorização, resposta a incidentes e regras de escalamento.