富士通は2024年7月19日、生成AIなどで作られたインターネット上のフェイクニュース（偽情報）を検出して社会的な影響度を評価するシステムを開発すると発表した。事業規模は60億円で、2024から2027年にかけて研究開発に取り組む。
富士通は、生成AIなどで作られたインターネット上のフェイクニュース（偽情報）を検出し、社会的な影響度を評価するシステムを開発する。事業規模は60億円で、2024から2027年にかけて研究開発に取り組む（図1）。
図1：富士通が開発に着手した、インターネット上のフェイクニュース（偽情報）を検出して社会的な影響度を評価するシステムの概要（出典：富士通）拡大画像表示
この研究開発事業は、内閣府、経済産業省などが創設した「経済安全保障重要技術育成プログラム（K Program）」の下、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」の実施予定先として採択されたもの。
開発する偽情報対策システムは、SNS投稿などの情報の真偽判定にあたって、情報に含まれる文章、画像、音声、動画が生成AIなどで作られたかといった作為性を判定する。また、複数の根拠の関係性を示す「エンドースメントグラフ」を用いて整合性や矛盾を分析し、真偽判定を支援すると共に社会的な影響度も評価する。
民需・官需向けのユースケースに合わせて要件を定義し、主に以下4つの技術の研究開発を行い、これらの技術で構成するシステムを構築する。
- メディアごとの情報分析と偽情報検知
SNSの投稿内容などから文章、画像、映像、音声を種類ごとに分解して抽出し、内容を分析し、結果を根拠として利用しながら作為性を判定する技術 - 根拠、エンドースメント管理
抽出した根拠をグラフ構造化して管理する技術 - 総合真偽判定支援
大規模言語モデル（LLM）を用いて根拠の整合性や矛盾を分析し、情報の真偽判定を支援する技術 - 偽情報影響度評価
偽情報の特徴を分析し、拡散規模や社会的な影響度を評価する技術
富士通は、研究開発事業の成果を統合・システム化し、偽情報対策を整備する。今後も拡大が懸念されるフェイクニュースに対し、安定的で自律的な経済活動を維持できるようにする。同事業の成果は、NEDOを通じて、新産業の創出や国際競争力の強化につなげるとしている。
「生成AIや合成コンテンツによる偽情報の流通が社会問題化している。ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を見破る技術などが個別に検討されているが、偽情報の抽出から分析までの処理を一貫して行うシステムは存在していなかった」（富士通）
