NTT especializa um LLM com poucos dados: 83,1% de acerto

A japonesa NTT anunciou a 12 de novembro de 2026 uma nova técnica de ajuste («tuning») para que um grande modelo de linguagem (LLM) assimile o conhecimento dos manuais de trabalho de uma empresa. Segundo o comunicado da NTT, o método faz com que o próprio LLM gere, por vários ângulos, os dados com que vai aprender, pelo que não é preciso reunir enormes volumes de documentos. Segundo o AI Watch, nos testes com o modelo próprio tsuzumi 2 a taxa de respostas corretas chegou aos 83,1%.

Porque é que o ajuste tradicional falha com os dados de uma empresa?

Tuning é adaptar um LLM existente a uma utilização ou tarefa específica. Segundo o INTERNET Watch, levar o modelo a reter conhecimentos de um negócio exigia até agora quantidades extremamente grandes de dados, muito acima dos documentos que uma empresa possui. O comunicado da NTT refere que uma página A4 de texto ocupa alguns quilobytes, ao passo que o método habitual, que volta a treinar o modelo inteiro, requer dados de dezenas de gigabytes.

O AI Watch indica que uma empresa tem, na prática, cerca de 1000 ficheiros PDF, de até aproximadamente 100 páginas cada. Repetir simplesmente esses textos no treino leva, segundo o órgão, ao sobreajuste: o modelo memoriza redações ou números de artigos concretos, mas não responde quando a pergunta muda de contexto. A NTT acrescenta que complementar com informação semelhante da internet introduz ruído alheio ao negócio e dificulta a constituição de um conjunto de dados de qualidade.

Como cria o LLM o seu próprio material de estudo?

A NTT inspirou-se na forma como se aprende na escola. Segundo o comunicado, numa aula de língua não basta ler um texto: respondem-se a perguntas sobre a intenção do autor e trocam-se impressões com os colegas. A técnica aplica essa ideia: o LLM atua como criador de material didático e produz, a partir do manual, dados de aprendizagem variados, que depois usa para aprender.

O AI Watch cita três formas de dados gerados:

• o formato FAQ, que reformula o conteúdo do manual em perguntas e respostas baseadas em consultas reais;
• o formato tabela, que organiza e estrutura várias condições ou prazos;
• o formato diálogo, em que um aluno e um professor aprofundam o contexto e a intenção de uma regra.

Ainda segundo o AI Watch, o próprio motor de geração recorre ao tsuzumi: a partir de um pequeno lote de dados de origem, produz dados de treino na ordem dos milhares de milhões a dez mil milhões de tokens (um token é a unidade de texto que um LLM processa). A NTT afirma que a técnica serve para o tsuzumi e também para outros LLM.

Que confiança merece a cifra de 83,1%?

A NTT mediu a retenção com manuais reais: colocam-se ao modelo perguntas sobre o conteúdo do manual e compara-se a taxa de acertos. Segundo o comunicado, o tsuzumi 2 obtinha 65,3% antes da aprendizagem; trabalhos anteriores, que reescrevem os textos por outros ângulos, chegavam no máximo a 73,3%; a nova técnica atinge 83,1%, quase dez pontos acima.

Testou-se também um modelo mais leve. Segundo o AI Watch, o Llama 3 (3B) passou de cerca de 25% para quase 60% e superou de forma consistente os métodos anteriores. O mesmo órgão afirma que, em testes de domínio geral, as capacidades básicas do modelo não diminuíram após a inclusão do conhecimento. Há uma ressalva: as perguntas de escolha múltipla foram concebidas pela própria NTT, porque, explica o AI Watch, não existe um teste comum para medir o conhecimento específico de cada empresa. São números da NTT, e nos artigos lidos não há indicação de reprodução por terceiros.

RAG ou modelo especializado?

Para aproveitar os documentos internos, a geração aumentada por recuperação (RAG), que procura os excertos relevantes antes de responder, é muito utilizada. O AI Watch regista a opinião de um responsável da NTT: quando a exatidão absoluta é prioritária, recomenda-se o RAG; mas em tarefas que exigem resposta muito rápida, como analisar em tempo real grande volume de chamadas num centro de contacto, a pesquisa externa aumenta a latência e o custo, porque é preciso pôr mais modelos e GPU em paralelo. Um modelo que já tem o conhecimento responde mais depressa e precisa de menos GPU.

Segundo a mesma fonte, a técnica não exclui o RAG: os dois podem ser combinados, e um modelo que conhece o contexto do setor também melhora a precisão da pesquisa. As áreas visadas são a saúde e as finanças, onde as regras e os procedimentos próprios do Japão são rígidos, e a indústria transformadora, cheia de termos internos.

Qual o calendário e o que muda para uma empresa portuguesa?

Segundo o comunicado, a técnica será introduzida nas empresas do grupo NTT. O AI Watch diz que a NTT estuda, entre outras opções, um serviço gerido na nuvem: o treino, que exige muitas GPU, far-se-ia nos centros de dados do grupo e o modelo ajustado seria devolvido ao cliente. Os artigos lidos não trazem preço nem data de lançamento. Os resultados serão apresentados no NTT R&D FORUM 2026, de 18 a 25 de novembro, no centro de I&D de Musashino, em Tóquio, onde, segundo o AI Watch, será também revelado o conceito de um «tsuzumi autoevolutivo».

Para uma empresa portuguesa, a lição é sobretudo de método. Se os seus procedimentos cabem em cerca de mil documentos, levar o próprio modelo a redigir pares de pergunta e resposta, tabelas e diálogos pode tornar viável um modelo especializado onde a falta de dados desencorajava. Os artigos lidos não mencionam disponibilidade fora do Japão e os resultados continuam a ser da NTT: o prudente é medir primeiro o acerto com os próprios documentos e perguntas, e só depois decidir a divisão entre RAG e um modelo ajustado.