NTTは2026年11月12日、少量の業務文書から多様な学習データを自動生成し、大規模言語モデル（LLM）に専門知識を習得させる技術を発表した。同社の実際の業務マニュアルを使った評価では、「tsuzumi 2」の正答率が学習前の65.3%から83.1%に向上した。企業が十分な量の学習用文書を用意できないという課題に対し、LLMを使って既存の文書から教材を増やす手法だ。ただし、必要な元文書を減らせることが、学習に必要な計算資源や費用の削減にそのままつながるわけではない。
業務マニュアルから多様な学習データを自動生成
NTTが今回開発したのは、既存のLLMを特定の業務に適応させるためのチューニング技術だ。チューニングは、モデルの回答形式や特定のタスクに対する精度を調整する際にも用いられるが、今回の技術は社内文書に記載された専門知識をモデルに定着させることを目的としている。
背景には、企業が保有する業務文書の量と、LLMの学習に必要なデータ量の間に大きな隔たりがあることが挙げられる。NTTによると、モデル全体を再学習して新たな知識を与える場合、従来は数十GBを超えるデータが使われてきた。しかし、特定業務のマニュアルだけでそれほど大量のデータを用意するのは難しい。一方、外部から文章を収集すると、業務と関係のない情報が混入する可能性がある。そのため、限られた社内文書に含まれる知識を維持しながら、学習データを増やす方法が求められていた。
そこでNTTは、問い合わせ対応などに使われる業務マニュアルをLLMに読み込ませ、仕様書やFAQといった異なる形式の文章へ自動変換する技術を開発した。従来のように元の文章を繰り返し学習させるのではなく、LLM自身が複数の形式の教材を生成し、それらを使ってモデルを学習させる。
例えば、仕様書では機能や条件を体系的に記述するのに対し、FAQでは質問と回答の組み合わせによって知識を整理する。同じ内容でも表現形式を変えることで、異なる文脈や質問形式に対応した学習データを作成できる。NTTは、実際の業務で知識がどのように使われるかを想定しながら教材を生成するという。企業が大量の新しい文書を書き起こさなくても、既存のマニュアルから多様な学習データを作れる点が特徴だ。
少量の文書で学習できるが、計算量の削減とは別
今回の技術を評価するうえで重要なのは、企業が用意する元文書の量と、モデルが実際に学習するデータ量を区別することだ。
NTTが公開した評価結果のグラフ（図2）では、縦軸に正答率、横軸に「学習トークン数（Billion）」が使われている。トークンとはLLMが文章を処理する際の基本単位であり、Billionは10億を意味する。横軸の目盛りは0.5、5、50となっており、異なる学習データ量に対する正答率を比較している。つまり、このグラフが示すのは学習に使用したトークン数と正答率の関係であり、計算時間や費用そのものではない。
NTTの公式発表で説明されている処理の流れを整理すると、元文書の準備、教材の生成、モデルの学習という3段階に分けられる。それぞれで必要となるデータや資源は異なる。
| 段階 | 対象 | 今回確認できること |
|---|---|---|
| 元文書の準備 | 企業が保有する業務マニュアル | 少量の業務文書を学習データ生成の出発点として利用する |
| 教材の生成 | 仕様書やFAQなどの多様な形式の文章 | LLMが元文書をもとに学習用データを自動生成する |
| モデルの学習 | 生成した教材のトークン数 | 10億トークン単位の学習量と正答率を比較する |
この区別が重要なのは、元文書が少なくても、そこから大量の教材を生成して学習させる場合には、相応の計算資源が必要になるためだ。企業が用意する文書を減らせることと、モデルの学習を少ない計算量で完了できることは同じではない。今回の技術の主な利点は、学習に必要な元文書を大量に集めなくても、既存の資料から学習データを増やせる点にある。
また、学習トークン数だけではGPUの稼働時間や費用を判断できない。これらを評価するには、教材生成に使用するモデルや学習時のハードウェア構成、実際の処理時間などを調べる必要がある。NTTのグラフでは、tsuzumi 2とLlama 3について、学習前、今回の技術、先行研究などの結果を比較している。各手法の優劣を判断するには、学習に使用したトークン数と、同じ評価問題に対する正答率を併せて確認する必要がある。
tsuzumi 2の正答率は65.3%から83.1%に向上
NTTが発表した評価結果では、実際の業務マニュアルに記載された内容に関する問題に対し、tsuzumi 2の正答率が学習前の65.3%から83.1%に向上した。改善幅は17.8ポイントに達する。また、比較対象とした先行研究の最高値は73.3%であり、今回の技術はそれを9.8ポイント上回った。これは公表された数値から当編集部が算出したもので、学習前との比較だけでなく、既存の教材生成手法に対しても改善が確認されたことになる。
比較対象には、元の文書を数学問題やFAQへ変換する手法のほか、表や手順書などの形式に変換する手法が含まれる。NTTは、Nemotron-Personas-Japanなどからランダムに選んだ読者像に合わせて文章を書き換える方法も先行研究として挙げている。73.3%という数値は、これらの先行研究のうち最も高い正答率を示したものだ。NTTによると、Llama 3（3B）を使った実験でも今回の技術は先行研究を上回っており、tsuzumi以外のLLMにも適用できるとしている。
ただし、83.1%という正答率は、あくまでもNTTが使用した業務マニュアルに基づく問題で得られた結果だ。発表資料には設問数や学習用データと評価用データの分割方法、統計誤差などの詳細が記載されていない。そのため、異なる企業のマニュアルや業務内容でも同程度の改善が得られるかは、現時点では判断できない。
さらに、元となったマニュアルのページ数やデータ容量、教材生成に要した時間、生成時の指示やデータ選別の条件も明らかになっていない。先行研究を再現する際の実装条件に加え、学習に使用したGPUの構成、処理時間、費用なども公表されていない。公式発表には今回の手法に関する査読論文へのリンクがなく、独立した追試も確認できていないため、現段階ではNTT自身による研究開発の評価結果として捉える必要がある。
企業が導入を検討する際には、自社の業務で実際に発生する質問に対して、調整後のLLMがどの程度正確に回答できるかを確かめることが重要になる。今回の正答率はマニュアルの記載内容に関する問題を対象としたものであり、従業員の作業時間短縮や業務効率の改善を直接示すものではない。元文書と生成した教材、評価問題の関係を検証できる条件が明らかになれば、各社でも同様の改善が得られるかを評価しやすくなるだろう。
先行研究を発展させ、実際の業務への導入を目指す
LLMを使って既存の文章を異なる形式に変換し、学習データを増やすという考え方自体は新しいものではない。Joel Niklaus氏らがarXivで公開した「FinePhrase」は、Web上の文章を言い換えることで、事前学習用の合成データを生成する研究だ。この研究では、表や数学問題に加え、FAQやチュートリアルなど、さまざまな構造を持つ文章形式が比較されている。
ただし、FinePhraseが一般的なWeb文章を対象とした事前学習を扱っているのに対し、NTTの技術は企業の業務マニュアルに含まれる専門知識の定着を目的としている。対象となる文章も、評価する能力も異なる。今回の研究の特徴は、業務での知識の活用を想定して教材を生成し、実際のマニュアルに基づく問題でその効果を測定した点にある。さらに、複数の先行手法と正答率を比較することで、業務文書に適用した場合の改善幅を具体的に示した。
NTTは今回の技術を、複数のチューニング手法を組み合わせる際の一つとして位置付けており、今後はNTTグループ各社への導入を予定している。また、2026年11月18日から25日まで開催される「NTT R&D FORUM 2026」でも、tsuzumiの活用範囲を広げる取り組みの一環として展示する計画だ。同イベントでは、AIエージェントが能動的に業務知識を習得する技術開発についても紹介するという。
今後の実用化では、各社の業務文書を使ってどの程度の正答率が得られるかに加え、教材の生成とモデルの学習に必要な時間や計算資源が重要な判断材料となる。業務に必要な精度を確保しながら、データの準備から学習までの負担を抑えられれば、大量の専門文書を新たに用意することなく、自社業務に適したLLMを開発する選択肢が広がるだろう。
