PR

tsuzumiの使い方 メリット・デメリット 料金は?

tsuzumiの使い方

NTTの大規模言語モデル「tsuzumi」は、2024年3月から法人向けに商用サービスが開始されています。

NTT版大規模言語モデル「tsuzumi」 | NTT R&D Website

以下が主な使い方となります。

利用環境

オンプレミス環境でご利用可能。企業内データを外部に出すことなく安全に学習・運用できます。
NTTグループのデータセンターでのプライベートクラウド利用や、パブリッククラウド利用も可能です。

ソリューションメニュー

CXソリューション
コンタクトセンターのオペレータ支援など。

EXソリューション
業界別の知識が求められるマニュアル検索や議事録作成などに活用。

運用サポートソリューション
IT運用の自動化などに活用。

チューニング方法

  • プロンプトエンジニアリング
  • フルファインチューニング
  • アダプタチューニング

以上3つの方法でチューニングが可能。特定業界や用途に合わせた知識の追加学習ができます。

マルチモーダル対応

言語だけでなく、画像や音声入力にも対応。ユーザの表情や状況を理解して、適切な対応ができます。

tsuzumiは軽量でありながら高い日本語処理能力を持つことが特長で、NTTの40年以上の自然言語処理研究の蓄積を活かしています。 企業のニーズに合わせて柔軟にカスタマイズが可能なLLMとなっています。

tsuzumiのメリットとデメリット

NTTの大規模言語モデル「tsuzumi」には以下のようなメリットとデメリットがあります。

メリット
軽量性による低コスト
高い日本語処理性能
業界/組織データへの柔軟な適用
マルチモーダル対応
セキュリティ確保

軽量性による低コスト
パラメータサイズが小さいため、学習コストと推論コストが大幅に低減される
超軽量版(0.6B)はGPT-3の約1/300、軽量版(7B)は約1/25のサイズ感
学習コストはGPT-3比で超軽量版約1/300、軽量版約1/25
推論コストはGPT-3比で超軽量版約1/70、軽量版約1/20

関連 ChatGPTの使い方

高い日本語処理性能
40年以上の自然言語処理研究の蓄積を活かした日本語性能
日本語ベンチマーク「Rakuda」でGPT-3.5などを上回る性能

関連 LLMのベンチマーク

業界/組織データへの柔軟な適用
アダプタ技術で業界固有の言語や知識を低コストで学習可能
マルチアダプタで複数のアダプタを組み合わせて使い分け可能

マルチモーダル対応
将来的に文書画像や音声、表情などの理解が可能に

セキュリティ確保
オンプレミス環境でも利用可能なため機密情報の漏えいリスク低減

デメリット
言語の制限
大規模モデルに比べた能力の制限
セキュリティリスク
倫理的課題

言語の制限
現時点では日本語と英語のみの対応
他言語への対応は今後の課題

大規模モデルに比べた能力の制限
GPT-3のような大規模モデルに比べ、知識の広がりに制限がある可能性

セキュリティリスク
機密データを学習させる際のセキュリティ確保が重要になる

倫理的課題
生成AIの倫理的課題(バイアス、誤情報生成など)への対応が必要

全体として、tsuzumiは軽量性による低コストと日本語処理の高性能、業界データへの適用力が大きなメリットとなっています。一方で、言語の制限や大規模モデルに比べた能力の違い、セキュリティやAI倫理への対応が課題となります。NTTはこれらの課題に取り組みながら、tsuzumiの商用サービスを2024年3月から開始する予定です。

tsuzumiの料金

NTTの大規模言語モデル「tsuzumi」の具体的な料金は不明

法人が利用検討のために見積もりを取った場合に、価格がわかるようで、ネット上には公開されていません。

  • 料金は個別対応となり、ニーズに合わせてカスタマイズを行い提供される予定。
  • 学習コストの試算例として、AWS GPUクラウド(A100-80GB 1ノード=8GPU)で約14万円/日と想定されている。
  • 軽量化によりGPT-3と比べて学習・推論・チューニングコストを大幅に削減できる点がアピールされている。
  • オンプレミス、プライベートクラウド、パブリッククラウドの3つの利用環境から選択可能。

「tsuzumi」の具体的な料金は未公開ですが、利用目的やカスタマイズ内容、利用環境によって個別に見積もられる形になると考えられます。軽量化による低コストが売りの一つとなっていますが、最終的な料金はユーザーの要件次第で変わってくるようです。

tsuzumiのまとめ

  • tsuzumiは、NTTの大規模言語モデル。法人向けに販売されています。
  • 料金は個別見積もり。
  • NTTが開発・販売しているので、日本語対応やサポートは充実していると考えられます。

関連 日本企業のAI