[新製品・サービス]

2024年4月22日(月)IT Leaders編集部、日川 佳三

シェアする

リスト

　イスラエルのセキュリティベンダー、KELAの「AiFort（エーアイフォート）」は、生成AI/大規模言語モデル（LLM）向けのセキュリティサービスである。LLMの脆弱性を減らすことで、不正なプロンプトの指示によるセキュリティ事故を防ぐ。LLMを社内で構築するユーザーや、既存のLLMを利用して生成AIアプリケーションを運用するユーザーに向けて提供する。

図1：LLMへのプロンプトの指示を利用した典型的な不正攻撃の例（出典：KELA）
拡大画像表示

　同社は、LLMへのプロンプトの指示を利用した典型的な不正攻撃の例を挙げる（図1）。例えば、プロンプトインジェクションは、企業が抱える機密情報を引き出して窃取する攻撃である。ジェイルブレイクは、不正アクセスの具体的な手口といった不適切（攻撃的・有害）なコンテンツを表示させる攻撃である。「社外向けのAIサービスなどを運営する場合、これらの脆弱性に対策することが望ましい」（同社）。

脅威学習用データセットや疑似攻撃サービスを提供

　AiFortは、(1)LLMの学習用データセット「AiFort Data」と、(2)疑似攻撃サービス「AiFort Red」で構成する。これらに加えて2024年中に、(3)危険なプロンプトを検出してブロックする入力フィルタリング機能「AiFort Protect」を提供する予定。

　(1)のAiFort Dataは、LLMに学習させるための脅威情報のデータセットである。アンダーグラウンドの犯罪社会を常時監視して収集・蓄積したデータを用いる。実際の犯罪の手口や背景情報、最新の脅威動向などの情報を含んでいる。これらの情報をAIに学習させることで、プロンプトを介した不正な攻撃に対する脆弱性を減らせるとしている（図2）。

図2：LLMに学習させるための、脅威情報のデータセット「AiFort Data」の概要（出典：KELA）
拡大画像表示

　(2)AiFort Redは、不正なプロンプトの指示を模倣した疑似攻撃を仕掛け、どのような攻撃に対して脆弱性があるのかを調べる。簡単な操作でテストプランを作成できるとしている。ユーザーは、疑似攻撃の診断結果をダッシュボード画面で把握可能である（画面1）。

　疑似攻撃テストによって安全性を確認・検証することで、AIチャットボットやAIヘルプデスクなどのAIアプリケーションを、安全性に自信を持って導入できるようになる。「運用開始後も継続的に診断を続けることで、セキュリティレベルの維持に役立つ」（同社）。

画面1：疑似攻撃サービス「AiFort Red」のダッシュボード画面（出典：KELA）
拡大画像表示

　(3)AiFort Protectは、プロンプトの指示をLLMに渡す前に、プロンプトの指示内容をチェックし、不正な指示を検出してブロックする。生成AIに対する不正やアクセスを塞き止めるファイアウォールとして機能する。