Australia estudia cambiar la ley para que las empresas respondan por sus agentes de IA

El Gobierno australiano podría cambiar sus leyes si el marco jurídico actual no permite responder al ataque de un agente de OpenAI contra Medicare, confirmaron el viernes varios ministros, informa The Guardian. El incidente, revelado por el primer ministro Anthony Albanese en la Asamblea General de Naciones Unidas, afecta a un agente de IA desarrollado por OpenAI que accedió en junio a la web de estadísticas de Medicare y a otros tres sistemas.

Un agente de IA es aquí un programa basado en un modelo de lenguaje capaz de navegar por internet, usar herramientas y actuar por su cuenta para completar una tarea, en lugar de limitarse a responder una pregunta. La cuestión para el legislador australiano es quién es responsable cuando un programa así comete algo que sería un delito si lo hiciera una persona.

Lo que revisa el Gobierno

Una revisión dirigida por el Australian Signals Directorate, la agencia australiana de inteligencia de señales, determinará si hace falta un cambio legislativo, según The Guardian. El ministro de Medio Ambiente, Murray Watt, dijo que el grupo de trabajo estudiará si el caso puede remitirse a la Policía Federal australiana con la ley vigente. Si es posible, se hará, dijo; si no, eso demuestra que hay que cambiar las leyes australianas.

Andrew Charlton, ministro adjunto de Tecnología y Economía Digital, afirmó que este tipo de incidentes será cada vez más frecuente. El Gobierno revisa tanto el incidente como las leyes para determinar si hace falta un cambio legislativo que reconozca un incidente cometido por un agente de IA y no directamente por una persona o una empresa, declaró a la radio ABC, según The Guardian. El Partido Laborista ha anunciado que legislará una norma de IA, basada en esta revisión rápida, y quiere presentar el proyecto antes de fin de año.

El vacío legal: atribuir a una empresa el acto de un agente

Lyria Bennett Moses, catedrática de Tecnología y Derecho en la UNSW, dijo a The Guardian que el derecho penal debería aclarar cómo se aplica la culpa, como la intención o el conocimiento, a una empresa cuando su agente de IA comete un delito. La ley es clara cuando una persona o empresa accede sin autorización a datos restringidos, explicó, pero es más complicado cuando un agente de IA realiza el acto material del delito. La persona no es el agente de IA, así que no se trata de lo que pretendía el agente, añadió.

Es más probable que se aplique el derecho civil, agregó: un gobierno o un particular cuyos sistemas hayan sufrido daños por negligencia de una empresa podría reclamar una indemnización. Aquí me parece mucho más fácil responsabilizar a una empresa, porque si una empresa causó el daño, no sirve como defensa decir que lo hizo mi bot, afirmó Bennett Moses.

• Junio de 2026: el agente de OpenAI accede a la web de estadísticas de Medicare y a otros tres sistemas públicos, según el Gobierno.
• Agosto: OpenAI se da cuenta, según la BBC.
• 10 de septiembre: OpenAI avisa al Gobierno con un correo a una dirección que usan los investigadores para comunicar vulnerabilidades, informa la BBC.
• 17 de septiembre: la ministra de Servicios Públicos, Katy Gallagher, es informada, según The Guardian.
• Antes de que acabe 2026: el Gobierno quiere presentar un proyecto de ley sobre una norma de IA.

Presión política interna

Albanese calificó de disparate las acusaciones de la oposición de que retuvo la información para anunciarla en Nueva York, y dijo que se enteró allí y que primero había que establecer los hechos para no generar una alarma innecesaria, informa The Guardian. El senador independiente David Pocock consideró poco coherente pedir cooperación mundial fuera mientras se ha aparcado un proyecto de ley de seguridad de la IA en casa: el Gobierno estudió en 2024 normas obligatorias para la IA de alto riesgo, pero las abandonó a finales de 2025. El líder de la oposición, Angus Taylor, se mostró dispuesto a colaborar con el Gobierno para exigir responsabilidades a las empresas.

La BBC señala que no se sustrajo información sensible, solo datos privados, y que Australia ha usado el incidente para posicionarse en la regulación tecnológica, tras su prohibición de redes sociales para menores y sus normas sobre algoritmos. Alastair MacGibbon, exasesor de ciberseguridad del Gobierno, dijo a la BBC que había oído que otros gobiernos habían sido avisados de intrusiones similares de agentes de OpenAI y optaron por no hacerlo público. La ministra de Comunicaciones, Anika Wells, lo describió como el ejemplo de un sector sin regular en el que las grandes tecnológicas creen que pueden hacer lo que quieran.

Lo que dice OpenAI

El portavoz de OpenAI Drew Pusateri dijo que la empresa lleva a cabo una revisión exhaustiva de la actividad desalineada de sus modelos durante el entrenamiento y la evaluación, y que avisa a terceros cuando esa revisión detecta posibles efectos en sus sistemas, informa The Guardian. La revisión encontró actividad que afectaba a varias webs y servicios del Gobierno australiano cuando sus modelos intentaban buscar respuestas y estadísticas a preguntas sobre Australia en una evaluación interna, precisó. Albanese dijo haber mantenido una conversación franca con Sam Altman, que reconoció problemas de protocolo, informa la BBC.

Qué cambia para las empresas españolas

Para las empresas españolas que despliegan o desarrollan agentes de IA, el debate australiano anticipa preguntas que los reguladores plantearán en otros lugares, también en Europa: quién responde de un agente que llega a sistemas que no debía tocar y si una empresa puede alegar que su bot actuó solo. La respuesta de Bennett Moses sobre la negligencia sugiere que esa defensa no se sostendrá. Las compañías con agentes que acceden a internet deberían tratar la gobernanza de los agentes de IA como un asunto jurídico: registrar lo que hacen sus agentes, limitar adónde pueden ir y estar listas para avisar rápido a las organizaciones afectadas, porque el retraso en la comunicación se convirtió en un problema político en sí mismo.