NTT spécialise un LLM avec peu de données : 83,1 % de réussite

L'opérateur japonais NTT a annoncé le 12 novembre 2026 une nouvelle technique de réglage (« tuning ») destinée à faire entrer dans un grand modèle de langage (LLM) les connaissances contenues dans les manuels métier d'une entreprise. Selon le communiqué de NTT, la méthode repose sur un principe simple : le LLM génère lui-même, sous plusieurs angles, les données avec lesquelles il va apprendre, ce qui évite de rassembler des volumes énormes de documents. Selon AI Watch, le test sur le modèle maison tsuzumi 2 a donné un taux de bonnes réponses de 83,1 %.

Pourquoi le réglage classique bute-t-il sur les données d'entreprise ?

Le tuning consiste à ajuster un LLM existant à un usage ou à une tâche précise. D'après INTERNET Watch, faire retenir au modèle les connaissances d'un métier demandait jusqu'ici des données extrêmement nombreuses, alors que les documents détenus par une entreprise sont très loin du compte. Le communiqué de NTT précise qu'une page A4 de texte pèse quelques kilo-octets, tandis que la méthode courante, qui réentraîne le modèle entier, exige plusieurs dizaines de giga-octets.

Selon AI Watch, une entreprise dispose en pratique d'environ 1 000 fichiers PDF, soit au plus une centaine de pages par document. Répéter simplement ces textes pendant l'entraînement conduit, toujours selon ce média, à un sur-ajustement : le modèle retient des formulations ou des numéros d'articles précis, mais n'arrive plus à répondre quand la question change de contexte. NTT ajoute que compléter avec des informations similaires trouvées sur Internet fait entrer du bruit sans rapport avec le métier, et qu'un jeu de données de qualité est difficile à constituer.

Comment le LLM fabrique-t-il ses propres supports d'étude ?

NTT s'est inspiré de la manière dont on apprend à l'école. Selon le communiqué, en cours de langue, on ne se contente pas de lire un texte : on répond à des questions sur l'intention de l'auteur et on échange ses impressions avec d'autres élèves. La technique applique cette idée : le LLM joue le rôle de concepteur de supports et produit, à partir du manuel, des données d'apprentissage variées, qu'il utilise ensuite pour apprendre.

AI Watch cite trois formes de données générées :

• le format FAQ, qui reformule le contenu du manuel en questions et réponses imaginées à partir de vraies demandes du terrain ;
• le format tableau, qui organise et structure plusieurs conditions ou périodes ;
• le format dialogue, où un élève et un professeur creusent le contexte et l'intention d'une règle.

Toujours selon AI Watch, le moteur de génération s'appuie lui aussi sur tsuzumi : à partir d'un petit lot de données d'origine, il produit des données d'entraînement de plusieurs milliards à une dizaine de milliards de jetons (un jeton est l'unité de texte qu'un LLM traite). NTT précise que la technique s'applique à tsuzumi mais aussi à d'autres LLM.

Que valent les 83,1 % annoncés ?

NTT a mesuré la mémorisation avec de vrais manuels : des questions portant sur le contenu du manuel sont posées au modèle et le taux de bonnes réponses est comparé. Selon le communiqué, tsuzumi 2 obtenait 65,3 % avant l'apprentissage ; les travaux antérieurs, qui reformulent les textes selon d'autres angles, montaient au mieux à 73,3 % ; la nouvelle technique atteint 83,1 %, soit près de dix points de plus que les travaux antérieurs.

Un modèle plus léger a aussi été testé. D'après AI Watch, Llama 3 (3 milliards de paramètres) passe d'environ 25 % à la fin des 50 % et dépasse systématiquement les méthodes antérieures. Le même média indique que, sur des tests généraux, les capacités de base du modèle ne se sont pas dégradées après l'ajout de connaissances. Une réserve s'impose : les questions à choix multiples ont été conçues par NTT lui-même, faute de test commun pour mesurer les connaissances propres à une entreprise, comme l'explique AI Watch. Ces chiffres sont donc ceux de NTT ; dans les articles lus, rien n'indique qu'un tiers les ait reproduits.

RAG ou modèle spécialisé : lequel choisir ?

Pour exploiter les documents internes, la génération augmentée par récupération (RAG), qui va chercher les passages pertinents avant de répondre, est très répandue. AI Watch rapporte l'avis d'un responsable de NTT : quand l'exactitude absolue prime, le RAG reste recommandé ; en revanche, pour un besoin de réponse très rapide, comme l'analyse en temps réel d'un grand nombre d'appels dans un centre de contact, la recherche externe ajoute du délai et fait grimper les coûts, parce qu'il faut multiplier modèles et GPU. Un modèle qui a déjà intégré la connaissance répond plus vite et demande moins de GPU.

Selon la même source, la technique n'exclut pas le RAG : les deux peuvent être combinés, et un modèle qui connaît le contexte du secteur améliore aussi la qualité de la recherche. Les domaines visés sont la santé et la finance, où les règles et procédures propres au Japon sont strictes, ainsi que l'industrie manufacturière, riche en termes maison.

Quel calendrier et qu'est-ce que cela change pour une entreprise française ?

Selon le communiqué, la technique doit être introduite dans les sociétés du groupe NTT. D'après AI Watch, NTT étudie notamment un service géré dans le cloud : l'entraînement, gourmand en GPU, serait réalisé dans les centres de données du groupe, puis le modèle réglé serait rendu au client. Les articles lus ne donnent ni tarif ni date de commercialisation. Les résultats seront présentés au NTT R&D FORUM 2026, du 18 au 25 novembre au centre de R&D de Musashino, à Tokyo, avec, selon AI Watch, le concept d'un « tsuzumi auto-évolutif ».

Pour une entreprise française, l'enseignement est surtout de méthode. Si ses procédures tiennent dans environ un millier de documents, l'idée de faire produire par le modèle lui-même des questions-réponses, des tableaux et des dialogues peut rendre envisageable un modèle spécialisé là où le manque de données décourageait. Les articles lus ne mentionnent aucune disponibilité hors du Japon, et les résultats restent ceux de NTT : le réalisme consiste à mesurer d'abord le taux de bonnes réponses sur ses propres documents et ses propres questions, puis à décider de la répartition entre RAG et modèle ajusté.