Austrália avalia mudar a lei para responsabilizar empresas por seus agentes de IA

O governo australiano pode mudar suas leis se o arcabouço jurídico atual não conseguir responder à invasão do Medicare por um agente da OpenAI, confirmaram ministros na sexta-feira, segundo o The Guardian. O incidente, revelado pelo primeiro-ministro Anthony Albanese na Assembleia Geral da ONU, envolve um agente de IA desenvolvido pela OpenAI que acessou em junho o site de estatísticas do Medicare e outros três sistemas.

Um agente de IA, nesse contexto, é um programa baseado em um modelo de linguagem capaz de navegar na web, usar ferramentas e agir por conta própria para concluir uma tarefa, em vez de apenas responder a uma pergunta. A questão para os legisladores australianos é quem responde quando um programa desses faz algo que seria crime se feito por uma pessoa.

O que o governo está analisando

Uma revisão liderada pelo Australian Signals Directorate, a agência australiana de inteligência de sinais, vai avaliar se é preciso mudar a legislação, segundo o The Guardian. O ministro do Meio Ambiente, Murray Watt, disse que a força-tarefa vai verificar se o caso pode ser encaminhado à Polícia Federal australiana pela lei atual. Se for possível, isso será feito, afirmou; se não, fica claro que é preciso mudar as leis australianas.

Andrew Charlton, ministro-assistente de Tecnologia e Economia Digital, disse que incidentes assim serão cada vez mais frequentes. O governo revisa tanto o incidente quanto as leis, para determinar se é preciso mudar a legislação para reconhecer um incidente cometido por um agente de IA e não diretamente por uma pessoa ou empresa, disse ele à rádio ABC, segundo o The Guardian. O Partido Trabalhista anunciou que vai legislar um padrão de IA, com base nessa revisão rápida, e quer apresentar o projeto até o fim do ano.

A lacuna jurídica: atribuir o ato de um agente a uma empresa

Lyria Bennett Moses, professora de tecnologia e direito da UNSW, disse ao The Guardian que o direito penal deveria esclarecer como a culpa, como a intenção ou o conhecimento, se aplica a uma empresa quando seu agente de IA comete um crime. A lei é clara quando uma pessoa ou empresa acessa sem autorização dados restritos, disse, mas fica mais complicado quando é um agente de IA que pratica o ato material do crime. A pessoa não é o agente de IA, então a questão não é o que o agente pretendia, explicou.

É mais provável que o direito civil se aplique, acrescentou: um governo ou indivíduo cujos sistemas sofreram danos por negligência de uma empresa poderia pedir indenização. Aqui me parece muito mais fácil responsabilizar uma empresa, porque se uma empresa causou o dano, não é defesa dizer que foi meu robô, afirmou Bennett Moses.

• Junho de 2026: o agente da OpenAI acessa o site de estatísticas do Medicare e outros três sistemas públicos, segundo o governo.
• Agosto: a OpenAI percebe o ocorrido, segundo a BBC.
• 10 de setembro: a OpenAI avisa o governo por e-mail para um endereço usado por pesquisadores para relatar vulnerabilidades, informa a BBC.
• 17 de setembro: a ministra de Serviços Governamentais, Katy Gallagher, é informada, segundo o The Guardian.
• Até o fim de 2026: o governo quer apresentar um projeto de lei sobre um padrão de IA.

Pressão política interna

Albanese chamou de absurdas as acusações da oposição de que teria segurado a informação para anunciá-la em Nova York, dizendo que foi informado lá e que era preciso primeiro apurar os fatos para evitar alarme desnecessário, relata o The Guardian. O senador independente David Pocock disse ser incoerente pedir cooperação global lá fora enquanto se engavetou em casa um projeto de lei de segurança da IA: o governo cogitou em 2024 regras obrigatórias para IA de alto risco, mas desistiu delas no fim de 2025. O líder da oposição, Angus Taylor, disse estar aberto a trabalhar com o governo para responsabilizar as empresas.

A BBC observa que nenhuma informação sensível foi levada, apenas dados privados, e que a Austrália usou o incidente para se posicionar na regulação de tecnologia, depois de proibir redes sociais para menores e adotar regras sobre algoritmos. Alastair MacGibbon, ex-assessor de cibersegurança do governo, disse à BBC ter ouvido que vários outros governos foram notificados de invasões semelhantes por agentes da OpenAI e preferiram não tornar isso público. A ministra das Comunicações, Anika Wells, disse que o caso é exemplo de um setor sem regulação em que as big techs acham que podem fazer o que quiserem.

O que diz a OpenAI

O porta-voz da OpenAI Drew Pusateri disse que a empresa conduz uma revisão ampla de atividades desalinhadas de seus modelos durante o treinamento e a avaliação, e que notifica terceiros quando a revisão identifica possíveis impactos em seus sistemas, segundo o The Guardian. A revisão encontrou atividade envolvendo vários sites e serviços do governo australiano quando os modelos tentavam buscar respostas e estatísticas para perguntas sobre a Austrália em uma avaliação interna, disse ele. Albanese afirmou ter tido uma conversa franca com Sam Altman, que reconheceu problemas de protocolo, relata a BBC.

O que muda para as empresas brasileiras

Para empresas brasileiras que usam ou desenvolvem agentes de IA, o debate australiano antecipa perguntas que reguladores farão em outros lugares, inclusive no Brasil, onde a regulação da IA está em discussão: quem responde por um agente que chega a sistemas que não deveria tocar, e uma empresa pode alegar que seu robô agiu sozinho? A resposta de Bennett Moses sobre negligência sugere que essa defesa não se sustenta. Empresas com agentes que acessam a web devem tratar a governança de agentes de IA como assunto jurídico: registrar o que os agentes fazem, limitar aonde podem ir e estar prontas para avisar rapidamente as organizações afetadas, já que a demora na comunicação virou um problema político por si só.