[新製品・サービス]

NRI、Llama 2などのLLMをカスタマイズ提供する「プライベートLLM」を発表

2024年春以降に提供

2024年1月12日(金)日川 佳三(IT Leaders編集部)

野村総合研究所(NRI)とNRIデジタルは2024年1月11日、SIサービス「プライベートLLM(大規模言語モデル)」を発表した。2024年春以降に提供する。基盤モデルを公開しているMetaのLlama 2などのLLMをユーザーのニーズに合わせてカスタマイズし、NRIのデータセンターやユーザーのオンプレミス環境などで動作させる。金融機関など、特に高いレベルの情報セキュリティ統制を必要とする企業に向けて提供する。

 野村総合研究所(NRI)とNRIデジタルの「プライベートLLM(大規模言語モデル)」は、大規模言語モデル(LLM)をカスタマイズして提供するSIサービスである(図1)。

 基盤モデルを公開しているMetaのLlama 2などのLLMを、ユーザーのニーズに合わせてカスタマイズし、NRIのデータセンターやユーザーのオンプレミス環境などで動作させる。金融機関など、特に高いレベルの情報セキュリティ統制を必要とする企業に向けて提供する。

図1:「プライベートLLM」のメニュー体系。白抜き文字部分をNRIが提供(出典:野村総合研究所、NRIデジタル)
拡大画像表示

 Llama 2など基盤モデルを公開しているLLMの性能は、現時点では外部サービス型のLLM(OpenAIのGPT-4など)には及ばない。一方で、企業が持つデータを使ってカスタマイズ(プリトレーニングやファインチューニングなど)することで、タスク内容によっては業務に適用可能な水準の性能を発揮する。表1は、NRIとNRIデジタルによる、Llama 2をカスタマイズすることによる性能向上の見通しである。

表1:カスタマイズによるLlama 2の性能向上見通し(出典:野村総合研究所、NRIデジタル)
拡大画像表示

 カスタマイズしたLLMの性能を検証するため、NRIにおいて、社内の会計事務手続きサポート業務に適用した。カスタマイズ用の学習データ6万件を用いて、NRIのデータセンターに設置したGPU上で動作するLlama 2をファインチューニングした。この結果、業務に適用可能な水準まで性能が向上した。当該業務の一部をLLMで代替し、Q&A作成の作業時間が60%減ったとしている。

 音声認識などの周辺モジュールも組み合わせて提供可能である。例えば、LLMに音声認識を組み合わせることで、コンタクトセンターや対面での問い合わせ対応など、適用できる業務の幅が広がる。

関連キーワード

NRI / 大規模言語モデル / 生成AI

関連記事

トピックス

[Sponsored]

NRI、Llama 2などのLLMをカスタマイズ提供する「プライベートLLM」を発表野村総合研究所(NRI)とNRIデジタルは2024年1月11日、SIサービス「プライベートLLM(大規模言語モデル)」を発表した。2024年春以降に提供する。基盤モデルを公開しているMetaのLlama 2などのLLMをユーザーのニーズに合わせてカスタマイズし、NRIのデータセンターやユーザーのオンプレミス環境などで動作させる。金融機関など、特に高いレベルの情報セキュリティ統制を必要とする企業に向けて提供する。

PAGE TOP