NTT、少量の業務文書から専門LLMを育てる新技術を発表

NTT株式会社は2026年11月12日、企業が持つ業務マニュアルの知識を大規模言語モデル（LLM）に定着させるための新しいチューニング技術を開発したと発表した。NTTのプレスリリースによると、LLM自身が多様な観点から学習データを自動生成する方法を用いることで、膨大なデータを集めなくても、業務固有の知識を持つ専用LLMを作れるようになるという。AI Watchは、この技術をNTT独自のLLM「tsuzumi 2」の検証で83.1％の正答率を記録した成果として伝えている。

なぜ従来のチューニングは企業の少量データでは難しかったのか

ここでいうチューニングとは、既存のLLMを特定の用途やタスクに合わせて調整する作業のことだ。INTERNET Watchによると、従来は業務全般にかかわる知識をLLMに覚え込ませるために極めて膨大なデータが必要で、企業が持つ文書量は学習データとして圧倒的に不足していた。NTTのプレスリリースは、モデル全体に知識を与える一般的な方法では、A4用紙1ページ分のテキストが数キロバイトであるのに対し、数十ギガバイトを超えるデータを使うと説明している。

AI Watchは、個々の企業が実務で持つ資料はPDFで約1,000件、ページ数では最大100ページ程度にとどまると伝えている。こうした少量の文書を単純に繰り返し学習させると、条文番号や固有の言い回しといった表現にだけ過剰に適合し、文脈を変えた質問に答えられなくなるという。インターネット上から似た情報を集めて補う方法も、業務と無関係なノイズが混ざりやすく、高品質なデータセットを整えるのは難しいとNTTは述べている。

LLM自身は業務マニュアルからどのように教材を作るのか

NTTが着目したのは、人間が学校教育で多様な教材を通じて理解を深める過程だ。プレスリリースによれば、国語の授業では文章を読むだけでなく、著者の意図を問う設問を解いたり、生徒同士で感想を述べ合ったりして学びを深める。この技術は同じ発想で、LLM自身に業務マニュアルを学ぶための教材、つまり学習データを多角的に作らせ、それを自らの学習に使わせる。

AI Watchは、具体的な生成形式として次の三つを挙げている。

• FAQ形式：マニュアルの記載事項を、実務上の問い合わせを想定した質問と回答に組み替える。
• 表形式：複数の条件や期間を整理し、構造化する。
• 対話形式：生徒と教師のやり取りを通じて、業務の背景や意図を掘り下げる。

AI Watchによると、データ生成の仕組みにもtsuzumiが使われ、少量の元データから数十億から百億トークン規模の学習データを作る。NTTは、この技術がtsuzumiだけでなく他のLLMにも適用できると説明している。なお、トークンとはLLMが文章を処理する際の最小単位のことだ。

83.1％という正答率はどこまで信頼できる数字なのか

NTTは実際の業務マニュアルを使い、知識がどれだけ定着したかを測った。マニュアルの記載範囲から問題を作ってLLMに解かせ、正答率を比較している。NTTのプレスリリースによると、tsuzumi 2の学習前の正答率は65.3％で、先行研究の手法では最大73.3％まで上がり、今回の技術では83.1％になった。先行研究より10ポイント近く高い計算になる。比較対象の先行研究には、文章を別の形式や読者像に言い換える手法が含まれる。

軽量なモデルでも評価が行われた。AI Watchによると、Llama 3（3B）では学習前の約25％が50％台後半まで伸び、先行手法を一貫して上回った。また、専門知識を入れたことで一般的な能力が落ちていないことも、一般ドメインのベンチマークで確認したという。ただし、評価に使ったのはNTTが自社で用意した多肢選択式の問題で、AI Watchは、個社の固有知識を測る共通のベンチマークが存在しないためだと説明している。数字はNTT自身による検証結果であり、第三者による再現は、今回読んだ記事の範囲では確認できない。

RAGとどう使い分けるのか

社内文書の活用では、検索して回答を作る検索拡張生成（RAG）が広く使われている。AI Watchは、NTTの担当者の見解として、絶対的な正確さが最優先の場面ではRAGを勧める一方、コンタクトセンターで大量の通話音声をリアルタイムに分析するような高速処理が必要な業務では、外部検索を挟むRAGは遅延が大きく、運用費用も増えやすいと伝えている。モデル自体に知識を定着させておけば、外部検索なしで素早く推論でき、必要なGPUの台数も減らせるという。

同記事によれば、この技術はRAGを排除するものではなく併用できる。モデルが業界や社内の前提知識を持っていれば、RAGの検索精度そのものも高まるとされる。主な対象分野として、日本特有の規則や手続きが細かく決まっている医療と金融、社内用語の多い製造業が挙がっている。

今後の提供形態と、日本企業にとって何が変わるのか

NTTのプレスリリースによれば、この技術はNTTグループ各社に導入される予定だ。AI Watchは、GPUが必要な学習処理をNTTグループのデータセンター側で行い、調整済みのモデルを顧客に返すクラウド型のサービスを視野に、検証を進めていると伝えている。価格や提供開始時期は、読んだ記事には書かれていない。成果は2026年11月18日から25日まで東京都武蔵野市のNTT武蔵野研究開発センタで開かれるNTT R&D FORUM 2026で展示される。AI Watchによれば、そこでは「自己進化型tsuzumi」の構想も公開される。

日本の企業にとっての意味は、手持ちの文書が少なくても、専用モデルを育てる道が開けるかもしれない点にある。業務資料が約1,000件程度でも、LLM自身に教材を作らせて学習させる発想は、データ不足を理由に専用モデルを諦めていた部署にとって検討の材料になる。ただし、現時点ではNTT内部の評価結果であるため、導入を考える企業は、自社の文書と自社の問い合わせで正答率を測る試験を先に行い、RAGとの役割分担を決めるのが現実的だ。