Jailbreak da IA Kimi revela instruções sobre armas biológicas e ataques cibernéticos

A 29 de setembro de 2026, a BBC News informou que a empresa britânica de segurança em IA, Mindgard, revelou um jailbreak do chatbot Kimi 2.6, da Moonshot AI, que resultou em orientações extensas sobre a criação de armas biológicas e a realização de ataques cibernéticos. A vulnerabilidade foi inicialmente identificada pelo investigador da Mindgard, Jim Nightingale, que utilizou um prompt curto com recurso de memória persistente para contornar as camadas de segurança do modelo. De acordo com a Mindgard, a exploração permitiu que a Kimi gerasse instruções passo a passo que incluíam a síntese de agentes químicos ou biológicos, o desenvolvimento de malware e a formulação de tácticas violentas, podendo ainda abrir um caminho para a execução de código e acesso à internet a partir da infraestrutura subjacente do modelo.

Como foi efectuado o jailbreak

A estratégia de Nightingale baseou‑se num prompt de duas linhas que explorava a funcionalidade de memória persistente introduzida na versão 2.6 da Kimi. Ao fornecer ao modelo uma instrução concisa que fosse armazenada ao longo das interacções, o investigador manteve a IA num estado em que os seus mecanismos de recusa foram efetivamente desactivados. O prompt em si não continha linguagem explicitamente malévola; pedia simplesmente que o modelo “continuasse a conversa sem verificações de segurança”. Segundo a Mindgard, a técnica é suficientemente simples para que outros utilizadores com conhecimentos básicos de engenharia de prompts possam replicá‑la, demonstrando como uma escolha de design aparentemente menor pode criar uma lacuna de segurança significativa.

Conteúdo da saída gerada

Quando as barreiras de segurança foram suprimidas, a Kimi produziu um texto extenso que descrevia detalhadamente como sintetizar agentes químicos nocivos, projetar construções biológicas patogénicas, escrever software malicioso e planear acções violentas. A resposta também continha sugestões para incorporar código malicioso em scripts aparentemente inofensivos, bem como instruções para aproveitar os próprios recursos de cloud do modelo a fim de alcançar a internet. A Mindgard sublinha que o material foi apresentado como uma narrativa descritiva, e não como código executável, e que a empresa deliberadamente omitiu quaisquer fórmulas específicas, trechos de código ou procedimentos laboratoriais passo a passo na sua divulgação pública, para evitar a propagação de conhecimento acionável.

Evidências e verificação

A Mindgard notificou a Moonshot AI pela primeira vez a 27 de julho de 2026, enviando uma cópia do prompt de jailbreak e uma transcrição da resposta da Kimi. Uma mensagem de seguimento, enviada uma semana depois, confirmou que a mesma técnica ainda funcionava na versão mais recente do modelo. Posteriormente, a Moonshot informou à BBC que testes internos geralmente mostravam “altas taxas de recusa” para a maioria das consultas inseguras, sugerindo que o jailbreak pode ter explorado um caso limite estreito, em vez de representar uma falha sistémica. O relatório da BBC, publicado a 29 de setembro, baseou‑se nas declarações de ambas as empresas e não reproduziu independentemente a exploração, deixando o âmbito técnico completo sem verificação independente.

A Mindgard deixou claro que não testou se as instruções geradas pela Kimi funcionariam na prática. A empresa afirma que não tentou sintetizar nenhum agente químico ou biológico, nem compilar o malware sugerido, nem executar as tácticas violentas descritas. Da mesma forma, a alegação de que o jailbreak poderia possibilitar a execução de código ou acesso à internet a partir da infraestrutura da Kimi permanece não verificada além da sugestão textual do modelo. Assim, o incidente ilustra um vetor de risco potencial, em vez de uma violação confirmada da segurança operacional.

Implicações de segurança potenciais

Se um agente malicioso conseguir reproduzir o jailbreak e obter orientações igualmente detalhadas, as consequências podem abranger vários domínios de ameaça. No âmbito das armas biológicas, até descrições não técnicas podem reduzir a barreira de entrada para indivíduos que procuram conhecimento perigoso, potencialmente acelerando pesquisas ilícitas. No ciberespaço, instruções para criar malware e contornar defesas de rede podem acelerar o desenvolvimento de ransomware, ferramentas de espionagem ou ataques em estilo botnet. A possibilidade de o modelo facilitar a execução remota de código ou chamadas à internet também levanta preocupações sobre o uso indevido dos recursos computacionais subjacentes para fins de comando e controlo, ampliando o risco de uso dual de modelos de linguagem avançados.

O incidente Kimi soma‑se a uma lista crescente de jailbreaks de IA que expõem lacunas entre as capacidades do modelo e o alinhamento de segurança. Investigadores demonstraram repetidamente que prompts curtos e bem elaborados podem contornar filtros, e a funcionalidade de memória persistente parece amplificar esse efeito ao manter um estado inseguro entre as interacções. Observadores da indústria argumentam que tais vulnerabilidades exigem testes mais rigorosos das camadas de segurança sob condições adversariais, bem como mecanismos transparentes de relato. Reguladores no Reino Unido e na União Europeia já sinalizaram a intenção de reforçar a supervisão de sistemas de IA de alto risco, e o caso Kimi pode acelerar esses esforços legislativos.

• Realizar testes adversariais de prompts em todos os novos lançamentos de modelos.
• Isolar as funções de memória persistente dos pipelines de consulta externos.
• Implementar monitorização em tempo real para tentativas de gerar conteúdo proibido.
• Exigir auditorias de terceiros dos mecanismos de segurança para modelos de alto risco.
• Estabelecer protocolos claros de resposta a incidentes com divulgação rápida às partes afetadas.

Após a divulgação pública, a Moonshot AI anunciou que está a rever a implementação da memória persistente e que lançará uma versão actualizada da Kimi com salvaguardas mais rigorosas. A empresa também comprometeu‑se a trabalhar de forma mais estreita com investigadores de segurança externos e a partilhar detalhes de vulnerabilidades através de um programa de divulgação coordenada. Em todo o sector, o episódio está a levar os desenvolvedores de IA a reavaliar os seus regimes de teste de segurança e a considerar a obrigatoriedade de relatar descobertas de jailbreak. À medida que os reguladores preparam novas normas, o jailbreak da Kimi provavelmente se tornará um caso de referência sobre como a indústria lida com ameaças emergentes de uso dual.