[新製品・サービス]

AIエージェントの設計段階で脅威を洗い出し対策案を提示する「AI Yellow Team」─NRIセキュア

2025年7月30日(水)日川 佳三(IT Leaders編集部)

NRIセキュアテクノロジーズ(NRIセキュア)は2025年7月30日、AI脅威分析サービス「AI Yellow Team」を提供開始した。AIエージェントを構築する企業向けに、システムの設計段階で潜在脅威を洗い出して対策案を提示する。料金は個別見積もり。

 NRIセキュアテクノロジーズの「AI Yellow Team」は、AIエージェントシステムの設計段階で潜在脅威を洗い出して対策案を提示するサービスである。

 既存の「AI Red Team」(リリース前のセキュリティ診断)および「AI Blue Team」(リリース後のセキュリティ監視)と補完関係にある(図1関連記事NRIセキュア、生成AIシステムの脆弱性を疑似攻撃で診断する「AI Red Team」を提供)。

図1:AIを活用したシステムの設計からリリース段階における、NRIセキュアの提供サービス(出典:NRIセキュアテクノロジーズ)
拡大画像表示

 近年、MCP(Model Context Protocol)でAIモデルを外部データソースやツールと連携させるケースや、複数のAIエージェントを協調させるケースが増えている。「一方で、AIエージェントの自律的な実行能力が悪用され、AIエージェントが果たすべき目的が段階的に書き換えられるなど、AIエージェント特有の脅威が顕在化している。問題が見つかって改修や再検証が必要となった場合、手戻りや追加コストは、従来システムを上回る可能性もある」(NRIセキュア)。

 AI Yellow Teamは、以下の4つのステップに沿って提供する。

  1. ヒアリング:設計書を基にシステムアーキテクチャと仕様をヒアリングする
  2. 可視化:外部システムとの結合を含めた、各機能における脅威分析用のアーキテクチャとデータフロー図を作成する
  3. 脅威分析:作成したアーキテクチャとデータフロー図をもとに、システムに対する潜在的な脅威を洗い出す。脅威の埋め込みから発動までのシナリオを検討し、想定されるリスクを分析する
  4. セキュリティ対策の提示:洗い出した脅威に対する具体的な対策を「セキュリティ要件一覧」として提示する
表1:「AI Yellow Team」の主な成果物(出典:NRIセキュアテクノロジーズ)
拡大画像表示

 分析後、潜在的な脅威を一覧化してユーザーに提示する(表1)。「OWASP Top 10 for LLM」や「OWASP Agentic AI Threats and Mitigations」など、国際的ガイドラインに準拠した脅威カタログを参照し、「経験や勘に頼らず、体系的・客観的にリスクを洗い出し、アーキテクチャ図にマッピングした視覚的な脅威マップとして提供する」(同社)としている。

 脅威マップでは、各脅威を「影響度×発生可能性」で評価し、リスクマトリクスとして可視化する。ビジネス影響度の高い脅威から優先的に対策することで、限られた予算・工数を効果的に配分可能である。経営層への報告や投資判断に必要な定量的データを提供するとしている。

関連キーワード

NRIセキュアテクノロジーズ / 脆弱性診断 / AIエージェント / ITコンサルティング

関連記事

トピックス

[Sponsored]

AIエージェントの設計段階で脅威を洗い出し対策案を提示する「AI Yellow Team」─NRIセキュアNRIセキュアテクノロジーズ(NRIセキュア)は2025年7月30日、AI脅威分析サービス「AI Yellow Team」を提供開始した。AIエージェントを構築する企業向けに、システムの設計段階で潜在脅威を洗い出して対策案を提示する。料金は個別見積もり。

PAGE TOP