[新製品・サービス]
LLM/RAGをオンプレミスに構築可能なAIサーバー「ローカルRAGスターターBOX」─ジーデップ・アドバンスとRidge-i
2025年1月20日(月)日川 佳三(IT Leaders編集部)
ジーデップ・アドバンスとRidge-iは2025年1月20日、AIサーバーアプライアンス「ローカルRAGスターターBOX」の受注を開始した。GPU搭載のタワー型サーバーハードウェアに、AI開発ツールや複数のLLMをプリインストールしている。クラウドに接続することなくローカル環境でRAG構成の生成AIシステムを構築・運用可能である。価格(税別)はエントリーモデルが199万8000円、スタンダードモデルが278万8000円、ハイスペックモデルが467万8000円。
ジーデップ・アドバンスとRidge-iが提供する「ローカルRAGスターターBOX」(写真1)は、RAG(検索拡張生成)構成の生成AIシステムをオンプレミス環境で構築・運用可能なAIサーバーアプライアンスである。GPU搭載のタワー型サーバーハードウェアに、AI開発ソフトウェアや複数の大規模言語モデル(LLM)をプリインストールしている。

拡大画像表示
システム資源をオンプレミス環境に設置するアプライアンスとして提供するため、クラウドと比べてデータの機密性や正確性、リアルタイム性を担保しやすいとしている。ローカルにユーザー固有の文書やデータを活用したRAGシステムを実装することで、自社の業務用途に即した処理結果が得られるという。
ソフトウェアは、開発ツールには「Dify OpenWebUI」と「Ollama Xinference」を、LLMには2025年1月7日公開のMicrosoft Phi-4(14Bモデル)や2024年公開のLlama 3.1など複数のモデルをプリインストールしている。加えて、Ridge-iのQ&Aサポートを受けられるバウチャーチケットが付属する。
ハードウェアは、GPUにNVIDIA RTX Adaシリーズ(GPUメモリー最大48GB)を最大3基搭載。ケースは幅290×奥行47×高さ471mmのミドルタワー型。スペックに応じて3モデルを用意する(表1)。価格(税別)は、エントリーモデルが199万8000円、スタンダードモデルが278万8000円、ハイスペックモデルが467万8000円。
主なユースケースとして以下の3つを挙げている。
- 社内の問い合わせ対応:社内FAQや技術マニュアルを参照して「製品Aの仕様は?」や「手続きBはどこに記載?」といった質問に回答する。
- 製品開発・設計支援:過去の設計書、トラブルシューティング事例、技術文書を参照し、新規プロジェクト時に関連情報を自動で引き出す。
- 営業・企画部門での提案資料作成補助:過去の提案書、顧客要望リスト、成功事例集から必要な情報を抽出し、提案資料を作成する。
モデル | エントリーモデル | スタンダードモデル | ハイスペックモデル |
---|---|---|---|
価格(税別) | 199万8000円 | 278万8000円 | 467万8000円 |
CPU | Intel Xeon w5-2555X 12C/24T 3.2GHz TDP210W | Intel Xeon w5-3535X 20C/40T 2.9GHz TDP300W | |
CPUクーラー | CPU水冷ユニット | ||
GPU | NVIDIA RTX 4500 Ada 24GB | NVIDIA RTX 6000Ada 48GB | NVIDIA RTX 6000Ada 48GB 3基 |
マザーボード | Intel W790チップセット | ||
メモリー | 64GB(16GB×4) DDR5-4800 ECC Registered | 128GB(32GB×4) DDR5-4800 ECC Registered | |
ストレージ1(ブートデバイス) | M.2 NVMe SSD 1TB | M.2 NVMe SSD 2TB | |
ストレージ2 | SSD 3.8TB 耐久性能:MTBF200万時間 | ||
ネットワーク | オンボード10GbE 2基、BMC | ||
ケース | DeepLearning BOXミドルタワーケース ブラック(幅290×奥行478×高さ471mm) | ||
電源 | 1200W電源ユニット2基(最大2400W 非冗長) 100V入力 | ||
キーボード | 日本語 Logicool スタンダードキーボード K120 ブラック | ||
マウス | Logicool オプティカル有線マウス | ||
OS | Ubuntu 24.04 LTS | ||
RAG/LLM環境 | |||
モデル | エントリーモデル | スタンダードモデル | ハイスペックモデル |
UI/AI開発ツール | Dify OpenWebUI | ||
AIモデル実行ツール | Ollama Xinference | ||
生成AIモデル(パラメータ数) |
Meta Llama 3(8B) |
Meta Llama 3(8B/70B) |
|
Embeddingモデル | nomic-embed-text | ||
Rerankingモデル | bge-reranker-v2-m3 | ||
サポート | サポートチケット3枚 | ||
保証体制 | センドバック保証1年 |