[新製品・サービス]

2024年2月29日(木)日川 佳三（IT Leaders編集部）

リスト

　プライム・ストラテジーの「Magatama.AI（マガタマAI）」は、生成AI/大規模言語モデル（LLM）の利用環境をユーザー企業のローカル環境に構築するSIサービスである。コンサルティングから実装までをカバーするほか、他システムと連携したアプリケーションの開発も支援する（図1）。

図1：生成AIシステム構築サービス「Magatama.AI」の概要（出典：プライム・ストラテジー）
拡大画像表示

　社内文書をナレッジにする生成AIシステムの構築に対応する。ベクトルデータベース/検索エンジン「Qdrant」を用いたRAG（Retrieval-Augmented Generation：検索拡張生成）構成やファインチューニングによるLLMの追加学習を用いる（図2）。

図2：Magatama.AIで構築可能なシステム構成の例。社内文書を活用した回答が得られるシステムなどを構築可能（出典：プライム・ストラテジー）
拡大画像表示

　商用/マネージドサービスのLLMではなく、オープンソースソフトウェアのLLMをローカル環境に実装する。また、再学習時の計算精度を下げる（ビット数を粗くする）ことでLLMを軽量化している。これにより、構築したシステムは、GPUの処理能力が低いノートPCなどでも動作する。

　ユーザーの用途に応じて、適切なLLMを組み合わせて構築する。以下のような、用途に合わせたLLMの構成例を挙げている。

●Next：LLMを組み合わせてさまざまな用途の生成AIシステムを構築する例