Nova queixa contra a xAI reacende o debate sobre as travas do Grok

Foi anexada uma nova queixa ao processo que três adolescentes do Tennessee movem contra a xAI, a empresa de inteligência artificial fundada por Elon Musk e hoje ligada à SpaceX. Segundo a ação, uma mulher identificada como Jane Doe 4 afirma que o padrasto usou o gerador de imagens Grok para manipular uma fotografia tirada quando ela tinha 11 anos, produzindo mais de 7 mil imagens de conteúdo sexual explícito. O caso foi descoberto durante uma operação policial de busca e apreensão; segundo uma reportagem do The Washington Post citada nos autos, o suspeito foi encontrado morto por suicídio dois dias depois.

A reportagem original regista a declaração da vítima sobre aquilo que a facilidade de acesso a estas ferramentas produz no quotidiano. É essa passagem, mais do que qualquer pormenor do episódio, que define o objeto do processo.

O acesso ilimitado a estas ferramentas está a espalhar-se muito depressa. Isto está a transformar a vida quotidiana em abuso sexual infantil.

O que está exatamente a ser julgado

A distinção importa para qualquer empresa que opere modelos generativos. Os autores não pedem que a plataforma seja responsabilizada pelo crime de um utilizador: acusam a xAI de não ter implementado travas básicas de segurança que impedissem a manipulação de fotografias de pessoas reais, sobretudo de menores. Em termos de produto, trata-se da diferença entre um sistema que não previu um uso e um sistema que não instalou a verificação que tornaria esse uso mais difícil.

Os autores da ação procuram o estatuto de ação coletiva (class action), o que alargaria significativamente o alcance do litígio. A queixa junta-se a uma série de críticas sobre a circulação massiva de imagens geradas por inteligência artificial sem o consentimento das pessoas retratadas — a plataforma X foi inundada por milhões de imagens sexualizadas geradas pelo Grok no início deste ano. A TechCrunch informou ter contactado a xAI para comentar.

• Quem move a ação: três adolescentes do Tennessee, agora com a adesão de Jane Doe 4.
• Do que se acusa: ausência de travas contra a manipulação de imagens de pessoas reais, incluindo menores.
• O que se pede: reconhecimento como ação coletiva (class action).
• Contexto: circulação em massa de imagens sexualizadas geradas pelo Grok na plataforma X este ano.

Moderação reativa e controlo preventivo não são a mesma coisa

O episódio da X no início do ano ajuda a perceber por que razão a distinção pesa em tribunal. Quando milhões de imagens sexualizadas geradas pelo Grok circularam na plataforma, a resposta disponível foi remover conteúdo já publicado — ou seja, agir depois de o dano existir e estar distribuído. O que o processo questiona é a etapa anterior: se a geração de uma imagem explícita a partir da fotografia de uma pessoa real identificável deveria ter sido impedida no momento em que foi pedida. São dois regimes de responsabilidade distintos, e apenas o segundo é verificável antes do facto.

Essa diferença também explica por que razão o pedido de estatuto coletivo importa tanto. Um processo individual discute um caso; uma ação coletiva discute a política de produto que produziu a classe de casos. Se o estatuto for concedido, o que estará em julgamento não é o que aconteceu a uma pessoa, mas a decisão de engenharia que tornou o padrão possível para todas elas.

Por que razão isto interessa a quem desenvolve produto em Portugal

Duas consequências práticas desenham-se para as equipas de produto, independentemente do desfecho judicial nos Estados Unidos. A primeira é que a trava relevante não está no texto do pedido, mas na entrada de imagem. Um filtro que analisa apenas o prompt não impede a manipulação de uma fotografia real enviada pelo utilizador; o ponto de controlo tem de estar onde a imagem entra no sistema, com verificação de conteúdo e, quando aplicável, deteção de rosto de pessoa identificável.

A segunda é que a ausência de registo se tornou, por si só, um risco jurídico. Quando uma empresa precisa de demonstrar que as suas proteções estavam ativas, o que vale é a evidência operacional — que classificador correu, em que versão, em que período, e com que taxa de bloqueio. Equipas que não guardam esse rasto não conseguem provar diligência mesmo quando agiram corretamente. É a mesma lição que o setor tem vindo a retirar de outros episódios recentes de segurança de modelos: uma regra cuja execução ninguém mede não é um controlo, é uma intenção documentada.

Nota da redação: se está a atravessar um momento difícil ou a ter pensamentos suicidas, a SOS Voz Amiga responde gratuitamente através dos números 213 544 545 / 912 802 669, em Portugal.