富士通など産学9組織は2024年10月16日、インターネット上の情報の真偽を判別するシステム「偽情報対策プラットフォーム」の開発に着手したと発表した。2025年度末までに構築し、クラウドサービスとして提供する。真偽不明の情報をシステムに入力すると、判別結果を根拠の説明と共に提示する。富士通が開発プロジェクトのプライム事業者となり、再委託先となる企業・大学など富士通を含めた9組織で、2024年10月から共同研究開発を開始する。
産学9組織（富士通、国立情報学研究所〈NII〉、NEC、慶応義塾大学SFC研究所、東京科学大学、東京大学生産技術研究所、会津大学、名古屋工業大学、大阪大学）は、インターネット上の情報の真偽を判別するシステム「偽情報対策プラットフォーム」の開発に着手した。2025年度末までに構築し、クラウドサービスとして提供する。真偽不明の情報をシステムに入力すると、判別結果を根拠の説明と共に提示する。
富士通が開発プロジェクトのプライム事業者となり、再委託先となる企業・大学など富士通を含めた9組織で、2024年10月から共同研究開発を開始する。大きく4つの技術と工程で構成しており、9組織がそれぞれの技術を担当する（図1）。
図1：構築する偽情報判定システムの概要（出典：富士通、国立情報学研究所、NEC、慶応義塾大学SFC研究所、東京科学大学、東京大学生産技術研究所、会津大学、名古屋工業大学、大阪大学）拡大画像表示
4つの技術は、(1)偽情報の検知、(2)根拠収集・統合管理、(3)総合的な分析と真偽判定、(4)社会的な影響度評価で、これらの研究開発から始める。富士通は、4つの技術を統合し、偽情報の検知から根拠収集、分析、評価までを統合的に実施する偽情報判定システムを構築する。
(1)偽情報の検知
AIが生成したものかどうかを自動で判定し、改竄箇所を特定するディープフェイク真贋ツールを、画像/映像向け、日本語音声向けに開発する。国立情報学研究所（NII）とNECが担当する。
(2)根拠収集・統合管理
投稿に含まれる情報（テキスト、画像、時刻、位置など）や配信者の属性情報の関係性をグラフで表現したエンドースメントグラフに変換し、真偽の判定や影響度の評価に活用できるようにする。慶応義塾大学SFC研究所と富士通が担当する。また、大阪大学大学院情報科学研究科は、根拠情報の1つとなるIoTセンサーデータの収集技術を開発する。
(3)総合的な分析と真偽判定
エンドースメントグラフなどの情報を基に真偽を判定し、結果と根拠を提示する。富士通がニュースやSNSなどの理解能力を強化して論理的な推論能力を高めた偽情報対策特化の日本語LLMを開発する。また、富士通と名古屋工業大学は、情報の真偽を判断するためのUIを開発する。
(4)社会的な影響度評価
偽情報の社会的影響を可視化し、定量的に評価する。SNSデータに含まれるメッセージの情報源、情報内容、社会的文脈に着目し、LLMを拡張した偽情報評価用AIモデルを構築する。過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する。東京科学大学、東京大学、会津大学が担当する。
