[新製品・サービス]

2025年9月22日(月)日川 佳三（IT Leaders編集部）

リスト

　Aladdin Securityの「AIレッドチームサービス」（画面1）は、サイバー攻撃者の視点で生成AIシステムを検証し、存在するリスク/脆弱性を可視化するセキュリティサービスである。

　生成AIが持つ有害出力、バイアス、誤情報、機密情報漏洩、不正利用などのリスク/脆弱性を事前に検出する。リスク/脆弱性検出の対象として、以下の生成AIシステム/ユースケースを挙げている。

• チャットボット・顧客対応AI（コールセンター、FAQ応答など）
• 業務支援AI（社内文書検索、RAGシステム、自動要約など）
• 生成系アプリケーション（文章生成、コード生成、画像生成AIなど）

画面1：「AIレッドチームサービス」の画面例（出典：Aladdin Security）

　以下の4つのステップでサービスを実施する。

1. リスクヒアリング・設計：利用中または導入予定のAIシステムに合わせ、対象範囲・攻撃シナリオを設計する。
2. 攻撃シミュレーション：ジェイルブレイク攻撃、アドバーサリアルプロンプト、情報漏洩誘発、バイアステストなど、各種の攻撃を実行し、AIの脆弱性を検証する。
3. 評価・レポーティング：発見したリスクを体系的に分類し、深刻度・影響範囲を提示する。経営層向けサマリーと技術チーム向け詳細レポートを提供する。
4. 改善提案：対策案を提示する。継続的にAI防御体制を強化する。

　今後はAIレッドチーム演習を自動化する予定。攻撃の自動生成や検証の仕組みの高度化により、これまで人手に依存していた演習工程を効率化。より迅速かつ網羅的にAIリスクを可視化できる仕組みを構築するとしている。