NTT ajusta um LLM com poucos dados: acerto de 83,1% em testes

A japonesa NTT anunciou em 12 de novembro de 2026 uma nova técnica de ajuste ("tuning") para que um grande modelo de linguagem (LLM) absorva o conhecimento dos manuais de trabalho de uma empresa. Segundo o comunicado da NTT, o método faz o próprio LLM gerar, por vários ângulos, os dados com os quais vai aprender, de modo que não é preciso reunir enormes volumes de documentos. Segundo o AI Watch, nos testes com o modelo próprio tsuzumi 2 a taxa de respostas corretas chegou a 83,1%.

Por que o ajuste tradicional falha com os dados de uma empresa?

Tuning é adaptar um LLM existente a um uso ou tarefa específica. Segundo o INTERNET Watch, fazer o modelo reter conhecimentos de um negócio exigia até agora quantidades extremamente grandes de dados, muito acima dos documentos que uma empresa possui. O comunicado da NTT observa que uma página A4 de texto tem alguns quilobytes, enquanto o método usual, que retreina o modelo inteiro, demanda dados de dezenas de gigabytes.

O AI Watch informa que uma empresa tem, na prática, cerca de 1.000 arquivos PDF, de até aproximadamente 100 páginas cada. Repetir simplesmente esses textos no treinamento leva, segundo o veículo, ao sobreajuste: o modelo memoriza redações ou números de artigos específicos, mas não responde quando a pergunta muda de contexto. A NTT acrescenta que complementar com informações parecidas da internet traz ruído alheio ao negócio e dificulta montar um conjunto de dados de qualidade.

Como o LLM cria o próprio material de estudo?

A NTT se inspirou no modo como se aprende na escola. Segundo o comunicado, numa aula de língua não basta ler um texto: respondem-se perguntas sobre a intenção do autor e trocam-se impressões com os colegas. A técnica aplica essa ideia: o LLM atua como criador de material didático e produz, a partir do manual, dados de aprendizado variados, que depois usa para aprender.

O AI Watch cita três formas de dados gerados:

• o formato FAQ, que reformula o conteúdo do manual em perguntas e respostas baseadas em consultas reais;
• o formato tabela, que organiza e estrutura várias condições ou prazos;
• o formato diálogo, em que um aluno e um professor aprofundam o contexto e a intenção de uma regra.

Ainda segundo o AI Watch, o próprio motor de geração usa o tsuzumi: a partir de um pequeno lote de dados de origem, produz dados de treinamento na casa de bilhões a dez bilhões de tokens (um token é a unidade de texto que um LLM processa). A NTT afirma que a técnica vale para o tsuzumi e também para outros LLMs.

Quanto se pode confiar nos 83,1%?

A NTT mediu a retenção com manuais reais: perguntas sobre o conteúdo do manual são feitas ao modelo e compara-se a taxa de acertos. Segundo o comunicado, o tsuzumi 2 marcava 65,3% antes do aprendizado; pesquisas anteriores, que reescrevem os textos por outros ângulos, chegavam no máximo a 73,3%; a nova técnica alcança 83,1%, quase dez pontos acima.

Um modelo mais leve também foi testado. Segundo o AI Watch, o Llama 3 (3B) subiu de cerca de 25% para quase 60% e superou de forma consistente os métodos anteriores. O mesmo veículo diz que, em testes de domínio geral, as capacidades básicas do modelo não caíram após a inclusão do conhecimento. Há uma ressalva: as perguntas de múltipla escolha foram elaboradas pela própria NTT, porque, explica o AI Watch, não existe um teste comum para medir o conhecimento específico de cada empresa. São números da NTT, e nos artigos lidos não há indicação de reprodução por terceiros.

RAG ou modelo especializado?

Para aproveitar documentos internos, a geração aumentada por recuperação (RAG), que busca os trechos relevantes antes de responder, é muito usada. O AI Watch registra a opinião de um responsável da NTT: quando a exatidão absoluta é prioridade, recomenda-se o RAG; mas em tarefas que exigem resposta muito rápida, como analisar em tempo real grande volume de ligações num centro de contato, a busca externa aumenta a latência e o custo, pois é preciso colocar mais modelos e GPUs em paralelo. Um modelo que já tem o conhecimento responde mais rápido e precisa de menos GPUs.

Segundo a mesma fonte, a técnica não exclui o RAG: os dois podem ser combinados, e um modelo que conhece o contexto do setor também melhora a precisão da busca. As áreas-alvo são saúde e finanças, onde regras e procedimentos próprios do Japão são rígidos, e a indústria de transformação, cheia de termos internos.

Qual o calendário e o que muda para uma empresa brasileira?

Segundo o comunicado, a técnica será introduzida nas empresas do grupo NTT. O AI Watch diz que a NTT estuda, entre outras opções, um serviço gerenciado na nuvem: o treinamento, que exige muitas GPUs, seria feito nos data centers do grupo e o modelo ajustado seria devolvido ao cliente. Os artigos lidos não trazem preço nem data de lançamento. Os resultados serão exibidos no NTT R&D FORUM 2026, de 18 a 25 de novembro, no centro de P&D de Musashino, em Tóquio, onde, segundo o AI Watch, também será apresentado o conceito de um "tsuzumi autoevolutivo".

Para uma empresa brasileira, a lição é sobretudo de método. Se os seus procedimentos cabem em cerca de mil documentos, fazer o próprio modelo redigir pares de pergunta e resposta, tabelas e diálogos pode tornar viável um modelo especializado onde a falta de dados desanimava. Os artigos lidos não mencionam disponibilidade fora do Japão e os resultados continuam sendo da NTT: o prudente é medir primeiro o acerto com os próprios documentos e perguntas, e só então decidir a divisão entre RAG e um modelo ajustado.