日立製作所は2024年8月29日、SI/コンサルティングサービス「生成AI活用プロフェッショナルサービス powered by Lumada」の2つの新サービスを同年10月1日から提供すると発表した。専門的な業務に適したLLMの構築を支援する「業務特化型LLM構築・運用サービス」と、その実行を支援する「生成AI業務適用サービス」である。料金は個別見積もり。
日立製作所の「生成AI活用プロフェッショナルサービス powered by Lumada」は、生成AIの導入・活用や人材育成をトータルで支援するSI/コンサルティングサービスである。「ユースケース実現性検証サービス」「RAGチューニング支援サービス」などの7つのサービスメニューで構成する（関連記事：日立、生成AIのSIサービスを体系化、実現性の検証やRAGチューニングなど7メニューを提供）。
図1：「生成AI活用プロフェッショナルサービスpowered by Lumada」の概要（出典：日立製作所）拡大画像表示
新たに「業務特化型LLM構築・運用サービス」を提供する。日立のデータサイエンティストがLLMエンジニアとして、業務手順書や業務記録など学習に必要なナレッジデータの選定作業から支援する（図1）。「ナレッジデータは、社内関係者向けの特有の言い回しや、紙で管理されているなど、そのままでは学習させ難いものが多い。そこで、これらをLLMに取り込みやすい形に加工し、効果的なモデル学習を進めていく」としている。
LLMエンジニアが適切な汎用LLMを選定し、過学習による正答率の低下を防ぎながら専門知識を学習させる。回答精度評価やLLMとRAG（Retrieval-Augmented Generation：検索拡張生成）の構成などを工夫して、適切な規模と回答精度のLLMを構築する。運用後、ビジネス環境の変化や技術進化によってLLMの改善が必要になることから、エンジニアが継続的な学習を担う。
合わせて、構築したLLMの実行支援として「生成AI業務適用サービス」を提供する。学習データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリケーションを組み込んだ実行環境の導入先を選択できる。オンプレミス環境に導入することで、企業独自の業務ノウハウ・専門知識を保護しながら活用可能である。今後は、オンプレミス/クラウドのハイブリッド環境で、データの所在を意識せずに生成AIを活用できるサービスの提供も目指すとしている。
新サービスを、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAGのみでは専門知識の活用が難しい業務に向けて提供を開始する。今後は、製造業や交通インフラなど、日立製作所がドメイン知識を持つOT（制御・運用技術）領域に適用範囲を拡大する。現場の障害対応や生産工程の高度化など、フロントラインワーカーの業務へも順次適用していく予定である。
「一般的な生成AIでは、専門性の高い業務に必要なレベルの回答が得られない場合が多く、専門知識を学習させるための高度な技術やノウハウが必要である。また、ビジネス環境の変化や技術進化に対応するために、継続的な学習が不可欠である」（日立）。こうした課題を解決すべく、社内外の50件以上の業務適用検証プロジェクトや生成AI共通基盤の構築で培ったノウハウを基にSIサービスを提供する。
