tsuzumiの使い方
NTTの大規模言語モデル「tsuzumi」は、2024年3月から法人向けに商用サービスが開始されています。
NTT版大規模言語モデル「tsuzumi」 | NTT R&D Website
以下が主な使い方となります。
利用環境
オンプレミス環境でご利用可能。企業内データを外部に出すことなく安全に学習・運用できます。
NTTグループのデータセンターでのプライベートクラウド利用や、パブリッククラウド利用も可能です。
ソリューションメニュー
CXソリューション
コンタクトセンターのオペレータ支援など。
EXソリューション
業界別の知識が求められるマニュアル検索や議事録作成などに活用。
運用サポートソリューション
IT運用の自動化などに活用。
チューニング方法
- プロンプトエンジニアリング
- フルファインチューニング
- アダプタチューニング
以上3つの方法でチューニングが可能。特定業界や用途に合わせた知識の追加学習ができます。
マルチモーダル対応
言語だけでなく、画像や音声入力にも対応。ユーザの表情や状況を理解して、適切な対応ができます。
tsuzumiは軽量でありながら高い日本語処理能力を持つことが特長で、NTTの40年以上の自然言語処理研究の蓄積を活かしています。 企業のニーズに合わせて柔軟にカスタマイズが可能なLLMとなっています。
tsuzumiのメリットとデメリット
NTTの大規模言語モデル「tsuzumi」には以下のようなメリットとデメリットがあります。
軽量性による低コスト
パラメータサイズが小さいため、学習コストと推論コストが大幅に低減される
超軽量版(0.6B)はGPT-3の約1/300、軽量版(7B)は約1/25のサイズ感
学習コストはGPT-3比で超軽量版約1/300、軽量版約1/25
推論コストはGPT-3比で超軽量版約1/70、軽量版約1/20
関連 ChatGPTの使い方
高い日本語処理性能
40年以上の自然言語処理研究の蓄積を活かした日本語性能
日本語ベンチマーク「Rakuda」でGPT-3.5などを上回る性能
関連 LLMのベンチマーク
業界/組織データへの柔軟な適用
アダプタ技術で業界固有の言語や知識を低コストで学習可能
マルチアダプタで複数のアダプタを組み合わせて使い分け可能
マルチモーダル対応
将来的に文書画像や音声、表情などの理解が可能に
セキュリティ確保
オンプレミス環境でも利用可能なため機密情報の漏えいリスク低減
言語の制限
現時点では日本語と英語のみの対応
他言語への対応は今後の課題
大規模モデルに比べた能力の制限
GPT-3のような大規模モデルに比べ、知識の広がりに制限がある可能性
セキュリティリスク
機密データを学習させる際のセキュリティ確保が重要になる
倫理的課題
生成AIの倫理的課題(バイアス、誤情報生成など)への対応が必要
全体として、tsuzumiは軽量性による低コストと日本語処理の高性能、業界データへの適用力が大きなメリットとなっています。一方で、言語の制限や大規模モデルに比べた能力の違い、セキュリティやAI倫理への対応が課題となります。NTTはこれらの課題に取り組みながら、tsuzumiの商用サービスを2024年3月から開始する予定です。
tsuzumiの導入事例
tsuzumiは具体的にどういう用途で利用されているのでしょうか？
医療、コールセンター、製造業、ソフトウェア開発、デジタルイベント、分散データセンターなど、さまざまな分野での導入が進んでいます。
医療分野での活用
京都大学病院では、tsuzumiを用いてデジタル患者記録の構造化を行っています。これにより、医師が記録した医療データを適切な表現と統一フォーマットに整理し、分析に適したデータに変換することが可能となりました。京都大学の武藤学教授は、「tsuzumiを利用することで、個々の患者に最適な医療を提供することができる、いわゆる精密医療が実現可能になる」と述べています。これにより、医療費の最適化や薬剤開発の効率化が期待されています。
コールセンターの自動化
tsuzumiは、顧客体験の向上を目指してコールセンターの自動化にも利用されています。NTTの技術を活用することで、顧客からの問い合わせに対する自動応答が可能となり、オペレーターの負担を軽減し、応答時間の短縮が実現されています。これにより、顧客満足度の向上と運営コストの削減が期待されています。
製造業での価値チェーンの変革
製造業においては、tsuzumiを活用して価値チェーンの変革が進められています。具体的には、製造プロセスの自動化や効率化、品質管理の向上などが挙げられます。NTTの技術を導入することで、製造現場でのデータ収集と分析が容易になり、迅速な意思決定が可能となります。
ソフトウェア開発支援
tsuzumiは、ソフトウェア開発の支援にも利用されています。開発者は、tsuzumiを活用してコードの自動生成やバグの検出、コードレビューの自動化を行うことができます。これにより、開発効率の向上と品質の確保が実現されます。
デジタルイベントの実施
NTTは、デジタルイベントの実施にもtsuzumiを活用しています。例えば、金沢市と東京を結ぶデジタルイベントでは、5G通信とIoT技術を駆使して、観客が金沢の象徴的な「鼓門」の照明をタブレットで操作することができました。このような取り組みにより、地域の魅力をデジタル技術で発信し、地域活性化に貢献しています。
分散データセンターの構築
NTTは、分散データセンターの構築にもtsuzumiを活用しています。APN（All-Photonics Network）を利用して、日本国内外のデータセンターを接続し、エネルギー効率の向上とコスト削減を図っています。これにより、データセンターの運用コストが大幅に削減され、持続可能な運用が可能となります。
参考）NTT 独自の大規模言語モデル「tsuzumi」を用いた商用サービスを 2024 年 3 月提供開始
tsuzumiの料金
NTTの大規模言語モデル「tsuzumi」の具体的な料金は不明。
法人が利用検討のために見積もりを取った場合に、価格がわかるようで、ネット上には公開されていません。
- 料金は個別対応となり、ニーズに合わせてカスタマイズを行い提供される予定。
- 学習コストの試算例として、AWS GPUクラウド(A100-80GB 1ノード=8GPU)で約14万円/日と想定されている。
- 軽量化によりGPT-3と比べて学習・推論・チューニングコストを大幅に削減できる点がアピールされている。
- オンプレミス、プライベートクラウド、パブリッククラウドの3つの利用環境から選択可能。
「tsuzumi」の具体的な料金は未公開ですが、利用目的やカスタマイズ内容、利用環境によって個別に見積もられる形になると考えられます。軽量化による低コストが売りの一つとなっていますが、最終的な料金はユーザーの要件次第で変わってくるようです。
tsuzumiのまとめ
- tsuzumiは、NTTの大規模言語モデル。法人向けに販売されています。
- 料金は個別見積もり。
- NTTが開発・販売しているので、日本語対応やサポートは充実していると考えられます。
関連 日本企業のAI