[新製品・サービス]

2026年5月15日(金)日川 佳三（IT Leaders編集部）

シェアする

リスト

　EYストラテジー・アンド・コンサルティング（EYSC）の「エンドツーエンドAIレッドチーミング」は、攻撃者の視点で生成AIのセキュリティリスクを把握・評価するサービスである。ユーザーの入力から生成AIによる出力までの一連の流れを通して挙動を確認し、従来のセキュリティ診断では見えにくかった生成AI特有のリスクを可視化する（図1）。

図1：「エンドツーエンドAIレッドチーミング」における評価の手順（出典：EYストラテジー・アンド・コンサルティング）

　生成AIを組み込んだアプリケーションでは、入力内容や外部データとの連携の仕方によっては、個人情報や機密情報、知的財産が意図せず漏洩したり、本来は許可されていない範囲の応答が返されたりする恐れがある。

　EYSCテクノロジーコンサルティングの佐藤拓也アソシエートパートナーは「生成AIはプロンプト、RAG（検索拡張生成）、ツール連携、エージェントの挙動など複数の要素が連鎖してリスクが顕在化するため、従来のセキュリティ診断と同じ考え方だけでは実態を捉えにくい」と指摘する。

　新サービスでは、利用企業の合意を前提に、想定される悪用シナリオに沿って実際に攻撃を試行する「レッドチーミング」と呼ぶ手法を用いる。机上の整理にとどめず、攻撃が実際に成立する経路（アタックパス）を検証し、信頼境界の弱点、影響範囲、深刻度の根拠を明確にする。

　検証の観点は、悪意のある指示文を紛れ込ませて意図しない動作を誘発するプロンプトインジェクション、安全制御を回避させるジェイルブレイク、回答精度を上げるためにRAGが参照する外部データの汚染、ツールや外部APIの悪用、過大な権限付与による逸脱挙動など多岐にわたる。

　検証結果は、セキュリティ部門だけでなく、法務部門や経営層とも共有できる形で整理し、優先順位を付けて是正策の検討につなげる。対策後に再評価を行ってリスク低減の実効性を確認するオプションも提供する。