[市場動向]

富士通研究所、AI判定を意図的に誤らせる偽装攻撃の検知技術を開発

2020年10月30日(金)IT Leaders編集部

富士通研究所は2020年10月29日、通信ログやサービス利用履歴などの系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし、意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。富士通研究所が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用した結果、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。2021年度の実用化を目指す。

 富士通研究所は、通信ログやサービス利用履歴などの系列データを対象としたセキュリティ技術として、偽造攻撃データを用いてAIモデルをだまし意図的に判定を誤らせる攻撃を検知する技術を開発した。偽装攻撃を模擬したデータを大量に自動生成し、元の学習データセットと結合させることで、判定精度を維持したまま偽装攻撃への耐性を向上させることが可能である。

 開発した技術の効果を実証するため、サイバー攻撃への対処要否を判断するAIモデルに適用した。結果、本来のテストデータに対する判定精度をほとんど低下させることなく、偽装攻撃テストデータに対する判定精度を約88%まで向上できることを確認した(図1)。また、判定に失敗した偽装攻撃テストデータを分析したところ、特定操作の組み合わせを偽装攻撃と判断するなど単純なルールで対応可能と判明したため、実質的にすべての偽装攻撃を防ぐことが可能となった。

図1:開発技術の効果検証(出典:富士通研究所)図1:開発技術の効果検証(出典:富士通研究所)

 背景には、各種の領域でAI活用が進む中、AIの誤判定を意図的に引き起こす攻撃のリスクが懸念されているという状況がある。従来の攻撃対策技術は、画像・音声などのメディアデータ向けに適した技術が多く、通信ログやサービス利用履歴などの系列データへの適用には、模擬偽装攻撃データを用意する難しさや精度低下といった課題があり、不十分だった。

系列データに対する敵対的訓練技術は不十分だった

 道路標識に小さなシールを貼り、別の標識と誤認識させるなど、少しだけ変化させた攻撃データを使ってAIモデルを意図的にだましてAIの正しい判断を妨げようとする攻撃がある。これを回避するために、敵対的訓練技術がある。学習データに、あらかじめ作成した模擬偽装攻撃データを加えることで、万が一攻撃された場合でもAIモデルがだまされないように学習させる。

 これまでの敵対的訓練技術の研究では、主に画像や音声などメディアデータ向けの対応が多くを占めており、通信ログやサービス利用履歴など、複数の要素から成る系列を単位として扱う系列データへの対応は不十分だった。一方で、サイバー攻撃の検知やクレジットカードの不正利用検知などをはじめとして、系列データに対するAIの応用分野は広い。

 通信ログデータを分析するサイバー攻撃検知の場合、攻撃者は最初に攻撃した端末からほかの端末にログインし、書き込んだマルウェアを実行して感染を拡大させるなどの一連の攻撃操作を行う。AIモデルはこのような操作の通信ログから攻撃を検知する。しかし攻撃者は、サーバーログの収集やパッチの適用など正規の管理業務操作などの合間に攻撃を混ぜることで偽装し、AIモデルに誤判定を引き起こさせる。

 このような系列データに敵対的訓練技術を適用するには、学習用データとして、偽装攻撃を模擬したデータを大量に自動で生成する必要がある。画像などメディアデータの場合は、人間には判別できないピクセル単位で加工することで、元データの性質を損なうことなく容易に模擬偽装攻撃データを生成できる。一方で、系列データの場合、どの要素が元データの性質に影響しているか明らかでないため、単純にデータの一部を加工すると元データの性質が失われてしまうことがある。

 例えば、サイバー攻撃検知の際に扱う通信ログデータは、通信元・通信先・使用アカウント・実行コマンド・コマンド引数などの要素から成るログ行が複数並んだ系列データとなるが、要素同士の依存関係や要素を変更できる範囲が明らかでないため、データの一部を単純に加工してしまうと無意味なデータとなってしまい、模擬偽装攻撃データの生成が困難である。また、模擬偽装攻撃データを生成できたとしても、それをAIで学習させる際には、元となる本来の攻撃データに対する判定精度が低下しないよう注意する必要がある。

●Next:富士通研究所が開発した、偽装攻撃を検知する技術の特徴

この記事の続きをお読みいただくには、
会員登録(無料)が必要です
  • 1
  • 2
関連キーワード

富士通研究所

関連記事

Special

-PR-

富士通研究所、AI判定を意図的に誤らせる偽装攻撃の検知技術を開発富士通研究所は2020年10月29日、通信ログやサービス利用履歴などの系列データに対するAI活用において、偽造攻撃データを用いてAIモデルをだまし、意図的に判定を誤らせる攻撃への耐性を強化する技術を開発したと発表した。富士通研究所が開発したサイバー攻撃への対処要否を判断するAIモデルへ適用した結果、独自の偽装攻撃テストデータにおいて約88%誤判定を防げることを確認した。2021年度の実用化を目指す。

PAGE TOP