[新製品・サービス]

LLM/RAGをオンプレミスに構築可能なAIサーバー「ローカルRAGスターターBOX」─ジーデップ・アドバンスとRidge-i

2025年1月20日(月)日川 佳三(IT Leaders編集部)

ジーデップ・アドバンスとRidge-iは2025年1月20日、AIサーバーアプライアンス「ローカルRAGスターターBOX」の受注を開始した。GPU搭載のタワー型サーバーハードウェアに、AI開発ツールや複数のLLMをプリインストールしている。クラウドに接続することなくローカル環境でRAG構成の生成AIシステムを構築・運用可能である。価格(税別)はエントリーモデルが199万8000円、スタンダードモデルが278万8000円、ハイスペックモデルが467万8000円。

 ジーデップ・アドバンスとRidge-iが提供する「ローカルRAGスターターBOX」(写真1)は、RAG(検索拡張生成)構成の生成AIシステムをオンプレミス環境で構築・運用可能なAIサーバーアプライアンスである。GPU搭載のタワー型サーバーハードウェアに、AI開発ソフトウェアや複数の大規模言語モデル(LLM)をプリインストールしている。

写真1:AIサーバーアプライアンス「ローカルRAGスターターBOX」の外観(出典:ジーデップ・アドバンス、Ridge-i)
拡大画像表示

 システム資源をオンプレミス環境に設置するアプライアンスとして提供するため、クラウドと比べてデータの機密性や正確性、リアルタイム性を担保しやすいとしている。ローカルにユーザー固有の文書やデータを活用したRAGシステムを実装することで、自社の業務用途に即した処理結果が得られるという。

 ソフトウェアは、開発ツールには「Dify OpenWebUI」と「Ollama Xinference」を、LLMには2025年1月7日公開のMicrosoft Phi-4(14Bモデル)や2024年公開のLlama 3.1など複数のモデルをプリインストールしている。加えて、Ridge-iのQ&Aサポートを受けられるバウチャーチケットが付属する。

 ハードウェアは、GPUにNVIDIA RTX Adaシリーズ(GPUメモリー最大48GB)を最大3基搭載。ケースは幅290×奥行47×高さ471mmのミドルタワー型。スペックに応じて3モデルを用意する(表1)。価格(税別)は、エントリーモデルが199万8000円、スタンダードモデルが278万8000円、ハイスペックモデルが467万8000円。

 主なユースケースとして以下の3つを挙げている。

  • 社内の問い合わせ対応:社内FAQや技術マニュアルを参照して「製品Aの仕様は?」や「手続きBはどこに記載?」といった質問に回答する。
  • 製品開発・設計支援:過去の設計書、トラブルシューティング事例、技術文書を参照し、新規プロジェクト時に関連情報を自動で引き出す。
  • 営業・企画部門での提案資料作成補助:過去の提案書、顧客要望リスト、成功事例集から必要な情報を抽出し、提案資料を作成する。
表1:「ローカルRAGスターターBOX」のモデル構成(出典:ジーデップ・アドバンス、Ridge-i)
モデル エントリーモデル スタンダードモデル ハイスペックモデル
価格(税別) 199万8000円 278万8000円 467万8000円
CPU Intel Xeon w5-2555X 12C/24T 3.2GHz TDP210W Intel Xeon w5-3535X 20C/40T 2.9GHz TDP300W
CPUクーラー CPU水冷ユニット
GPU NVIDIA RTX 4500 Ada 24GB NVIDIA RTX 6000Ada 48GB NVIDIA RTX 6000Ada 48GB 3基
マザーボード Intel W790チップセット
メモリー 64GB(16GB×4) DDR5-4800 ECC Registered 128GB(32GB×4) DDR5-4800 ECC Registered
ストレージ1(ブートデバイス) M.2 NVMe SSD 1TB M.2 NVMe SSD 2TB
ストレージ2 SSD 3.8TB 耐久性能:MTBF200万時間
ネットワーク オンボード10GbE 2基、BMC
ケース DeepLearning BOXミドルタワーケース ブラック(幅290×奥行478×高さ471mm)
電源 1200W電源ユニット2基(最大2400W 非冗長) 100V入力
キーボード 日本語 Logicool スタンダードキーボード K120 ブラック
マウス Logicool オプティカル有線マウス
OS Ubuntu 24.04 LTS
RAG/LLM環境
モデル エントリーモデル スタンダードモデル ハイスペックモデル
UI/AI開発ツール Dify OpenWebUI
AIモデル実行ツール Ollama Xinference
生成AIモデル(パラメータ数)

Meta Llama 3(8B)
Microsoft Phi-3(3.8B)
Google Gemma 2(9B)
Meta Llama 3.1(8B)

Meta Llama 3(8B/70B)
Microsoft Phi-3(3.8B/14B)
Google Gemma 2(9B/27B)
Meta Llama 3.1(8B/70B)
Microsoft Phi-4(14B)

Embeddingモデル nomic-embed-text
Rerankingモデル bge-reranker-v2-m3
サポート サポートチケット3枚
保証体制 センドバック保証1年
関連キーワード

ジーデップ・アドバンス / Ridge-i / GPU / RAG / NVIDIA / 生成AI / 大規模言語モデル / オンプレミス / Xeon / Intel / Llama / Dify

関連記事

トピックス

[Sponsored]

LLM/RAGをオンプレミスに構築可能なAIサーバー「ローカルRAGスターターBOX」─ジーデップ・アドバンスとRidge-iジーデップ・アドバンスとRidge-iは2025年1月20日、AIサーバーアプライアンス「ローカルRAGスターターBOX」の受注を開始した。GPU搭載のタワー型サーバーハードウェアに、AI開発ツールや複数のLLMをプリインストールしている。クラウドに接続することなくローカル環境でRAG構成の生成AIシステムを構築・運用可能である。価格(税別)はエントリーモデルが199万8000円、スタンダードモデルが278万8000円、ハイスペックモデルが467万8000円。

PAGE TOP