[Sponsored]

生成AI活用のポイントはデータ連携、セゾンテクノロジーが明かす社内導入時のポイント

2024年4月10日(水)

リスト

注目を集める生成AIやLLM（大規模言語モデル）だが、業務でどう活用すればいいかわからないと悩むシーンも多い。2024年3月8日に開催された「データマネジメント2024」（主催：日本データマネジメント・コンソーシアム〈JDMC〉、インプレス）では、セゾンテクノロジー^（※）テクノベーションセンター副センター長阪上要介氏と、IT推進部データドリブン推進課松山祐己氏が登壇。同社のデータ連携プラットフォーム「HULFT」シリーズでデータ活用環境構築を実現した事例とともに、生成AI活用のポイントを解説した。
※講演時の社名は株式会社セゾン情報システムズ。2024年4月1日より現社名に商号変更
提供：株式会社セゾンテクノロジー

生成AI研究チーム「LLM Mavericks」を組成、サービス化まで進展

　生成AIの導入や活用で悩む企業は少なくない。セゾンテクノロジー（旧：セゾン情報システムズ）でも、生成AIの研究開発チーム「LLM Mavericks」が試行錯誤しながら活用に取り組んできたという。同社テクノベーションセンター副センター長の阪上要介氏は、生成AI活用の現在地について、こう話す。

　「生成AIは従来のAIと違いデータやルールが不要で、少ない条件でも創造的なアウトプットができ、文書生成や画像生成などをよりクリエイティブに支援することが可能です。企業によって活用状況は異なり、使用自体を禁止している企業もあれば、利用を開放している企業までさまざまです。活用レベルが高くなると、社員にユースケースやプロンプトを提供したり、企業独自のデータ活用や製品サービスへの取り込みを行ったりします」（阪上氏）

株式会社セゾンテクノロジーテクノベーションセンター副センター長阪上要介氏

　セゾンテクノロジーでは、LLM Mavericksの立ち上げとガイドラインの公開後、社員専用のチャットボット作成と独自データの活用を経て、顧客向けに「Enterprise向け生成AI導入支援サービス」を提供するに至った。

　LLM Mavericksは総勢20名でスタート、「社員が当たり前にLLMを活用し、業務プロセスを改善したり、プロダクト、サービスに取り込んだりして、お客様に価値を届けられる」をミッションとして、ボトムアップで意欲旺盛なメンバーを集め、バーチャル組織として既存の業務と兼務で活動しているという。

　活動は「環境の整備」「調査・研究」「発信」の3つに分けられる（図1）。

図1：生成AI研究開発チーム「LLM Mavericks」の取り組み
拡大画像表示

　「共通環境の整備やガイドラインの作成、アイディアや最新情報の収集・共有、プロトタイプ作成とPoC（Proof of Concept：概念実証）の実施、社内外への取り組みのアピール、ブログ公開などに取り組んでいます」（阪上氏）

利用しやすい環境の整備を進め、半年で社員の4分の1が利用する状況

　取り組みのポイントの1つが、社員が自由に触れる環境の整備だ。同社では、社員が安心して利用できる専用環境として2つのチャットボットを用意している。1つは「Slack AIチャットボット」、もう1つはWebブラウザで使える「Web AIチャットボット」だ。

　Slack AIチャットボットは、「普段使いのツールからAIとの会話にシームレスにつなげられること」「他の人がAIと会話している様子が見られるので心理的ハードルが下がること」「Slack内検索と連携した機能が利用できること」などの特徴がある。一方でWeb AIチャットボットは、「ChatGPTライクなUIで使いやすいこと」「UIを工夫することで自社独自の機能拡張がしやすいこと」「社内オープンソースとして開放していること」が特徴となる。

　また、Azure OpenAI Serviceを用いて、入力データが再学習に利用されない、セキュアな通信などを担保し、安心して利用できるようにしている。

　「社内向けに2023年6月にサービスの提供を開始し、12月までに利用量は3.8倍に増え、全社員の26%が利用するまでになりました。しかしテクノロジー企業としてはまだまだ利用度が足りないので伸ばしていきます」（阪上氏）

　ガイドラインの公開も非常に重要なポイントだ。ガイドラインには、ルール的なものと、Tips的なものの2つがある（図2）。

図2：安全に利用するための社内向けガイドラインを策定し社員に公開
拡大画像表示

　「顧客情報や個人情報などを入力しないといったルールを法務主管で策定しています。利用にあたっては、事実に基づかない情報を生成する現象である『ハルシネーション（幻覚）』があり得ること、法令違反や権利侵害のリスクがあることも伝えています。Tipsとしては『プロンプトを改善する15のヒント』といったドキュメントを公開しています」（阪上氏）

RAG（検索拡張生成）の活用で生成AIの精度や品質を向上

　独自データの活用では、RAG（Retrieval Augmented Generation：検索拡張生成）を使って生成AIの精度や品質の向上を図っている。RAGを利用することにより、LLMに問い合わせを投げると独自データも参照した最新の事実ベースの回答が得られるようになる。

　セゾンテクノロジーでは、社員が自発的にデータを活用できるように、データドリブンプラットフォーム（DDP）※1を構築しているが、生成AIもこのDDPで利用できる。阪上氏に続いて登壇したセゾンテクノロジー IT推進部データドリブン推進課の松山祐己氏はこう説明した。

※1：DDPについては過去記事を参照

　「DDPでは、さまざまな社内システムや業務データが精査され統合された状態で格納されます。データにアクセスするためのツールとしてデータカタログ、データ連携ツール、可視化のためのBIツールを提供しています。学習のための環境や質問を受け付ける体制も整備しています。ただ、これまでは、業務が手いっぱいで学習する時間がない、SQLやBIツールが難しいといった声もありました。そこで開発したのが『社内データ活用生成AIチャットアプリ』です」（松山氏）

株式会社セゾンテクノロジー IT推進部データドリブン推進課松山祐己氏

　例えば、ユーザーが「女性役職者の比率を教えて」といった質問をチャットアプリに投げると、生成AIがテーブル情報からSQLを自動生成し、DWHからデータを取得して、RAGの仕組みを使ってユーザーに対し「○○%です」と回答を返す。

　その際、チャットアプリでは、生成AIに対する「データを取得するSQLを以下のテーブル情報のみをもとに作成してください」などのプロンプトから、SQLのSELECT文を自動的に生成し、さらに、SQLを実行してデータを取得したら、もう一度生成AIが「DWHから取得したデータを元にユーザーの質問に回答してください」といったプロンプトに対する答えを生成し、最終的にユーザーに結果を返すという流れになる（図3）。

図3：社内データプラットフォームとRAGを使って独自データに基づいた答えを返す
拡大画像表示

生成AIのデータ準備では「HULFT Square」や「DataSpider」を活用

　従来のDDPでは、データカタログでどんなデータがあるか探し、必要なSQLを作成し、必要に応じてデータ連携ツールを使い、最終的にBIツールで可視化する必要があった。生成AIを活用すると、ユーザーはSQLやテーブル定義の情報を知ることなく、自然言語を投げるだけで回答が返ってくるため、データ分析をタイムリーに行ない、ビジネスに集中できるようになるという。

　このチャットアプリ構築では、細かく分かれたデータ構造と生成AIの相性がよくないため、必要なデータを1つのテーブルにまとめる、テーブルにどんなデータがあるかが分かるようにする、アクセスコントロールを適切に割り当てるといった工夫を行った（図4）。

図4：社内データ活用生成AIチャットアプリを構築する際に工夫したポイント
拡大画像表示

　「生成AIの取り組みは、最終的にはデータの質にたどり着きます。実際に社内に蓄積されたデータを使ってRAGのアプリを作ろうとすると、社内のデータを1箇所に集めるプロセスが必要になります。その際にはデータの取得や加工に手間がかかる、データが古くなってしまうといった課題があります。こうした生成AIに社内データを渡す準備のプロセスで、弊社のクラウド型データ連携プラットフォーム（iPaaS）である『HULFT Square』や、ノーコード型のデータ連携ツール『DataSpider』を使っています。スケジュール実行やイベント実行機能を使ってデータが常に更新されるようにしています」（松山氏）

　そのうえで松山氏は、生成AIは性質上、同じインプットをしてもアウトプットが変わってくることがあると指摘し、「回答に頼りすぎず、使い所を見極めたり、回答を検証するクセをつけたりすることが重要です。創造的なアウトプットを取捨選択し、検証し、適切にインプットする。AIと人が協力していくことで、より生産性を高めていくことができます」とした。

　最後に阪上氏は、セゾンテクノロジーが提供するソリューションを紹介しながら、「生成AI活用への道のりは始まったばかりです。共に進んでいきましょう」と講演を締めくくった。

●お問い合わせ先