大塚商会は2025年1月28日、生成AIアプライアンスサーバー「美琴 powered by cotomi」を同年4月23日から提供すると発表した。NECのLLM「cotomi」を搭載し、文書作成・要約、社内情報検索、ナレッジマネジメントなどにおいて機微情報を含む文書を安全なオンプレミス環境で運用できる。販売目標として300社を掲げる。
大塚商会の「美琴(みこと)powered by cotomi」(写真1)は、NECの大規模言語モデル(LLM)「cotomi」を搭載した生成AIアプライアンスサーバーである。生成AIシステムの開発・運用に必要なソフトウェア一式を、GPU搭載のタワー型PCサーバー「Express5800/T100k-M」にプリインストールして提供する。
文書作成・要約、社内情報検索、ナレッジマネジメントなどにおいて、機微情報を含む文書を扱う生成AIシステムを、クラウドなどの外部サービスに接続することなく、オンプレミス環境に閉じて運用できる。情報漏洩や脆弱性への対策に有効としている。
ソフトウェア/ハードウェアの提供と保守サポートに加えて、RAG(検索拡張生成)の検索精度を高めるためのチューニングサービスなどを提供する(表1)。大塚商会は今後、美琴 powered by cotomiをベースに、専門用語やガイドライン、知見などの業界・業種データを取り込んだ業種特化型の生成AIサービスの提供を予定している。