[市場動向]

非倫理な依頼に応えるサイバー攻撃用生成AI「WormGPT」が出現、ランサムウェアは二重恐喝が主流に─NTTデータ

2023年12月18日(月)日川 佳三(IT Leaders編集部)

NTTデータグループは2023年12月15日、説明会を開き、サイバーセキュリティの動向とグループのセキュリティ対策事例を紹介した。サイバー攻撃プログラムのコード生成などに利用される生成AI「WormGPT」や、最近のランサムウェアで主流となりつつある暗号化とデータ窃取の二重恐喝を解説した。自社事例では、2019年以降全社でポリシーを共通化し、56カ国19万人以上の従業員のシステム環境にEDR/CASBなどを用いたゼロトラストセキュリティを適用している。

サイバー攻撃用の生成AI「WormGPT」が出現

 NTTデータグループは、サイバーセキュリティの最近の動向と、同社グループのセキュリティ対策の取り組みを紹介した。サイバーセキュリティにおける最近のトピックの1つとして、サイバー攻撃に生成AIを用いる事案を紹介した。サイバー攻撃プログラムのコードやフィッシングサイト/メールの文面を生成AIに作らせている(画面1)。

画面1:フィッシングメールの文面を生成AIに作らせた画面(出典:NTTデータグループ)
拡大画像表示

 ただしフィッシングメールの文面は、AIより人間が作成したほうがターゲットにクリックさせる成功率が高いという検証結果がある。フィッシング文面の作成に慣れている攻撃者であれば、ChatGPTよりも成功率が高いという(図1)。

図1:フィッシングメールの文面は、AIではなく人間が作成したほうがURLをクリックさせやすい(出典:NTTデータグループ)
拡大画像表示

 「一般的に、ChatGPTのような生成AIは、サイバー攻撃手法を教示するような非倫理的な用途の質問には回答を返さないように調整されている。これに対し、2023年3月から、非倫理的な依頼にも回答させるプログラムのジェイルブレイク(Jailbreak:脱獄)のテクニックが活発化した。同年夏には対策が講じられている」(NTTデータ)

 しかしながら、今度はサイバー攻撃者自身が非倫理的な依頼に対しても回答を制限しない独自の生成AI「WormGPT」を開発し、販売を始めているという(画面2)。

画面2:サイバー攻撃者が作った、非倫理的な依頼に対しても出力に制限のない生成AI「WormGPT」の画面(出典:NTTデータグループ)
拡大画像表示

 同社は例として、フェイクニュースを拡散させるべく、WormGPTに「Twitter(現X)ボットを自動作成するPythonプログラムを作ってほしい」と依頼すると目的のコードを生成する事案を紹介した(画面3)。

画面3:サイバー攻撃者向けの生成AIに「Twitterボットを自動的に作成するプログラムを作って欲しい」と依頼すると、目的のプログラムを得られる(出典:NTTデータグループ)
拡大画像表示

ランサムウェアは二重恐喝が主流に

 もう1つのトピックとして、ランサムウェアにおいて、暗号化とデータ窃取の二重恐喝(Double Extortion)で「二重に稼ぐ」手法が主流になっていることを挙げた。攻撃者はターゲットのデータを暗号化し、「復号してほしかったら身代金を支払え」と要求するのに加えて、「そもそもデータ自体を公開されたくなかったら身代金を支払え」という要求もかぶせてくるという(図2)。

図2:ランサムウェアにおいて、暗号化とデータ窃取の二重恐喝が主流になっている(出典:NTTデータグループ)
拡大画像表示
写真1:NTTデータグループ 技術革新統括本部 システム技術本部 サイバーセキュリティ技術部 エグゼクティブ・セキュリティ・アナリストの新井悠氏
拡大画像表示

 説明を行ったNTTデータの新井悠氏(写真1)は、データの公開/暴露を予告し、実際にデータの一部をサンプルとしてインターネットに晒して脅す「暴露サイト」の存在を示した。企業に対して、「暴露サイトを通じて漏洩する」と脅迫してからサイトに暴露予告を載せ、実際にデータの一部を掲載。そこからカウントダウンを始め、カウントダウンが終了すると全データを公開するという流れだという。

 同氏によると、暴露サイトへの公開の被害を被った組織が急増している。2022年は2870組織で、2023年は12月6日までで4432組織に上るという。

●Next:NTTデータがグループ全体に適用するゼロトラストセキュリティの内容

この記事の続きをお読みいただくには、
会員登録(無料)が必要です
  • 1
  • 2
関連キーワード

NTTデータ / ランサムウェア / 生成AI / ゼロトラスト / ChatGPT / CASB / EDR / UEBA / AI倫理 / CrowdStrike / Proofpoint / Zscaler

関連記事

トピックス

[Sponsored]

非倫理な依頼に応えるサイバー攻撃用生成AI「WormGPT」が出現、ランサムウェアは二重恐喝が主流に─NTTデータNTTデータグループは2023年12月15日、説明会を開き、サイバーセキュリティの動向とグループのセキュリティ対策事例を紹介した。サイバー攻撃プログラムのコード生成などに利用される生成AI「WormGPT」や、最近のランサムウェアで主流となりつつある暗号化とデータ窃取の二重恐喝を解説した。自社事例では、2019年以降全社でポリシーを共通化し、56カ国19万人以上の従業員のシステム環境にEDR/CASBなどを用いたゼロトラストセキュリティを適用している。

PAGE TOP