NTT發表少量資料訓練專用大型語言模型技術，正確率83.1%

日本NTT公司於2026年11月12日宣布，開發出一項新的調校（tuning）技術，可讓大型語言模型（LLM）掌握企業業務手冊中的知識。根據NTT的新聞稿，這個方法讓LLM自己從多個角度產生學習資料，因此不必蒐集海量文件，就能做出具備特定業務知識的專用LLM。據AI Watch報導，在NTT自行開發的模型tsuzumi 2上驗證，正確率達到83.1%。

為什麼傳統調校難以用於企業的少量資料？

調校是指讓既有的LLM配合特定用途或任務進行調整的工作。據INTERNET Watch報導，要讓模型記住與業務相關的知識，過去需要極其龐大的資料，而企業手上的文件量遠遠不足。NTT的新聞稿指出，一頁A4文字只有幾千位元組，而讓整個模型重新訓練的常見方法，需要超過數十GB的資料。

據AI Watch介紹，企業在實務上持有的資料約為1000份PDF，每份最多約100頁。該媒體表示，把這樣少量的文字單純重複訓練，會造成過度擬合：模型只記住條文編號或固定措辭，一旦換個情境提問就答不出來。NTT也表示，用網路上的類似資訊來補充，容易混入與業務無關的雜訊，也很難整理出高品質的資料集。

LLM如何自己製作學習教材？

NTT從人類在學校的學習方式得到靈感。據新聞稿說明，上國語課時，人們不只是讀文章，還要回答關於作者意圖的問題，並與同學交流心得。這項技術沿用同樣的想法：讓LLM擔任學習教材的編寫者，依據業務手冊產生多樣的學習資料，再用這些資料來學習。

AI Watch列出三種產生的資料形式：

• FAQ形式：把手冊內容改寫成以實際詢問為設想的問答；
• 表格形式：整理並結構化多個條件或期間；
• 對話形式：透過學生與老師的對話，深入挖掘業務的背景與意圖。

同樣據AI Watch，資料產生引擎本身也使用tsuzumi，能從少量原始資料產生數十億到百億token規模的訓練資料（token是LLM處理文字的基本單位）。NTT表示，這項技術不僅適用於tsuzumi，也能用於其他LLM。

83.1%這個數字有多可信？

NTT以真實的業務手冊測量知識掌握程度：針對手冊記載範圍出題讓模型作答，再比較正確率。據新聞稿，tsuzumi 2學習前的正確率為65.3%；以其他角度改寫文字的先行研究最高只到73.3%；新技術則達到83.1%，比先行研究高出將近10個百分點。

NTT也測試了更輕量的模型。據AI Watch報導，Llama 3（3B）的正確率從約25%提升到50%後段（接近60%），並持續優於既有方法。該媒體還表示，在通用領域基準測試中，注入專業知識後模型的基礎能力並未下降。需要保留的是：選擇題由NTT自行設計，AI Watch解釋，這是因為並不存在衡量單一企業專有知識的通用基準。因此這些是NTT自己的數據，在已讀文章中沒有看到第三方重現的說明。

該選RAG還是專用模型？

在運用企業內部文件時，先檢索相關段落再作答的檢索增強生成（RAG）應用廣泛。AI Watch轉述NTT負責人的看法：在絕對準確性優先的場合，建議使用RAG；而在客服中心即時分析大量通話這類需要極快回應的業務中，外部檢索會造成延遲，還得並行準備多個模型與GPU，營運成本隨之升高。把知識直接固化在模型裡，回應較快，所需GPU也較少。

據同一來源，這項技術並不排斥RAG，兩者可以併用；模型本身具備產業與企業內部的背景知識，也能提高RAG的檢索精準度。目標領域包括日本規則與手續嚴格的醫療與金融，以及專業術語眾多的製造業。

何時提供？對臺灣企業意味著什麼？

據新聞稿，這項技術將導入NTT集團各公司。AI Watch表示，NTT正在驗證的方案之一是雲端託管服務：需要大量GPU的訓練在NTT集團的資料中心完成，再把調校後的模型交還給客戶。已讀文章中沒有提到價格與上市時間。成果將在11月18日至25日於東京都武藏野市的NTT武藏野研發中心舉行的NTT R&D FORUM 2026展出，據AI Watch，屆時還將公布「自我進化型tsuzumi」的構想。

對臺灣企業來說，啟示主要在方法上。如果企業的業務資料只有大約一千份文件，讓模型自己編寫問答、表格與對話作為教材，或許能讓過去因資料不足而放棄的專用模型變得可行。已讀文章沒有提到日本以外的提供情況，成果也仍是NTT自己的數據，穩妥的做法是先用自家文件與自家問題測一測正確率，再決定RAG與調校後模型之間如何分工。