ニュース
富士通ら9者、“オールジャパン”で偽情報対策プラットフォームの構築を開始
NIIやNEC、大学などと共同で 2025年末までの構築を目指す
2024年10月17日 12:24
富士通株式会社をはじめとする9者は16日、産学連携により、世界初となる偽情報対策プラットフォームの構築を、2024年10月から開始すると発表した。
同プラットフォームは、偽情報の抽出から分析、評価までの処理を統合的に行うために、「メディアデータごとの情報分析と偽情報検知」、「根拠、エンドースメント管理」、「総合真偽判定支援」、「偽情報影響度評価」の4つの技術で構成。富士通のほか、国立情報学研究所（以下、NII）、日本電気株式会社（以下、NEC）、慶應義塾大学SFC研究所、東京大学生産技術研究所、会津大学、名古屋工業大学、大阪大学が参加し、オールジャパン体制によって、これらの技術を統合して技術課題を解決しながら、2025年度末までにプラットフォームの構築を目指す。
富士通 データ＆セキュリティ研究所 リサーチディレクターの山本大氏は、「偽情報対策プラットフォームは、さまざまな根拠の関係性を、『根拠・エンドースメントグラフ』で統合し、整合性や矛盾を分析することで真偽を判定するとともに、SNSなどによる拡散の影響などをもとに、社会への影響度も評価することになる。これまでにも、個々の技術が存在し、限られた連携はあったが、今回は、国内屈指のアカデミアや企業が集まり、オールジャパンとして、偽情報対策という大きな課題に立ち向かっていくことになる。世界初の成果として発信できる点に価値がある」と述べた。
例えば、自然災害が発生した際に、投稿に利用された写真が生成AIによってつくられたものであるかどうかや、どんなものが写っているのかといったことを分析。洪水が起きていると書き込まれた場合には、その近くのIoTカメラの映像はどうなっているのか、水位センサーの数値はどうなっているか、国や自治体の情報はどうなっているかといった情報をとらえて、根拠や整合性、矛盾をもとに分析し、総合的に判断するといった仕組みにより、偽情報への対策を図れるという。
今回の取り組みは、内閣府や経済産業省をはじめとする関係府省が連携し、経済安全保障の強化および推進に向けて創設した「経済安全保障重要技術育成プログラム（K Program）」のもとで行われ、新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」で富士通が採択された。その同社がプライム事業者として、アカデミアや企業を再委託先として選定し、開発を進めることになる。
「自然災害、医療、政治、経済といったさまざまな分野で偽情報が大きな社会問題になっている。生成AIやSNSの広がりによって、偽情報がより拡散しやすい環境ができており、これによって社会の混乱を引き起こすといった問題もある。より多くの人に対して偽情報であるという根拠を示すことができるが、適切な情報を提示しても、エンドユーザーがそのまま受けることができないという課題もある。こうしたリスクを最小化することにも取り組みたい」とした。
4つの技術で構成される偽情報対策プラットフォーム
偽情報対策プラットフォームを構成する4つの研究開発技術は以下の通りだ。
ひとつめの「メディアデータごとの情報分析と偽情報検知」の研究開発では、NIIとNECが担当することになる。
NIIでは、ディープフェイク真贋（しんがん）ツールの研究で先行しており、2018年にはディープフェイク画像を見抜く検知ツールを世界で初めて開発。また、どこの領域が改ざんされているのかを表示する技術を研究してきた知見を生かし、シンセティックビジョンとして、日本の企業が利用可能なプログラムを提供してきた経緯がある。
今回の研究開発では、画像のディープフェイク検知や、映像のディープフェイク検知、日本語音声のディープフェイク検知のモジュールを利用して、真贋判定の結果だけでなく、改ざんされている領域がどこか、どのようなツールで改ざんされているのかといった情報を提供。これを根拠の一部として活用し、偽情報分析のための判断情報のひとつとして活用することになる。
国立情報学研究所 コンテンツ科学研究系 教授の山岸順一氏は、「最新研究によると、最新生成AIによる顔画像の一部は本当の人間の顔画像よりも、より人間らしいと被験者に誤判断される割合が高い。被験者の90％以上にフェイク画像が人間であると誤判断されたケースもある。偽情報分析とディープフェイク検証が密に融合することで、先進的で、新しい試みが可能になる」と述べた。
2つめの「根拠、エンドースメント管理」は、慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科が担当する。
ひとつめの技術である「メディアデータごとの情報分析と偽情報検知」によって出力された分析結果を活用。ウェブサイトやSNSなどから収集したさまざまな根拠情報の関係性を「エンドースメントグラフ」として統合し、構造化した上で蓄積。総合的な真偽判定支援や影響度評価において活用が可能になるという。
慶應義塾大学大学院 政策・メディア研究科特任教授の鈴木茂哉氏は、「これまでにも富士通とは、グラフ構文を使用した共同研究を進めており、この成果を活用することになる。画像やテキストなどのさまざまな情報を、適切な大きさに分解し、情報の断片の解析結果を整理。これを統合することで、総合的な分析を行うことができる」とした。
情報を断片化し、発信者とポストの関係、ポストとポストに含まれる情報の関係など、関連づけによる整理を進め、分析した結果をラベルとして付与。グラフによって表現し、俯瞰（ふかん）的な分析を可能にすることができるのが特徴だという。
3つめの「総合真偽判定支援」は、富士通と名古屋工業大学が担当する。
富士通では、2つめの技術であるエンドースメントグラフから、大規模言語モデル（LLM）などの活用により、真偽判定の根拠を分析し、判定結果などを自然言語として、判定結果をユーザーに分かりやすく説明できるようにする。
富士通の山本氏は、「偽情報対策に特化した日本語LLMも開発する予定である。これにより、特定領域における言語能力の向上や、推論の高速化、ハルシネーションの抑制を特徴に持ったLLMを実現できる。富士通が開発してきたFugaku-LLMやTakaneの開発で培った技術を生かしていく」と述べた。
偽情報対策に特化した日本語LLMは、偽情報対策のためにニュースやSNSなどの多様なデータの理解能力を強化しており、論理的な推論能力を高めたLLMになるという。真偽判定において高い精度を達成する高速な推論が可能になる。
そして、「偽情報影響度評価」は、東京科学大学がAIモデル、東京大学がデータ収集や処理、分析、会津大学が可視化技術を担当する。
SNSデータから、メッセージの情報源、情報内容、社会的文脈などに着目し、LLMを拡張して、偽情報評価用AIモデルを構築することにより、過去の偽情報との類似度や拡散速度などの偽情報の特徴を分析し、拡散規模や社会的な影響度などの指標を評価する。偽情報の社会的影響を可視化し、定量的に評価することができる点は先進的な試みになるという。
東京科学大学 環境・社会理工学院 教授の笹原和俊氏は、「従来は、偽情報の影響度評価を人手で行っており、スケールしないという課題があった。また、日本において活用できるデータセットが古く、いまでも東日本大震災の時のデマ情報のデータセットが数多く使われていることも課題となっていた。今回の研究開発では、偽情報や誤情報の拡散現象に関する知識を持つAIを活用し、特徴量に変換。特徴量空間にマッピングし、偽情報の影響度を可視化する。この技術はブラウザ対応を予定している」という。
まずは、X（旧Twitter）上で拡散する偽情報の評価を早期に行うため、Xの日本語全量規模のストリームから、評価に必要となる多様な情報をリアルタイムに抽出し、共有する基盤技術の開発に着手している。
さらに、この4つの技術に加えて、3つの技術にも取り組む。
富士通と名古屋工業大学は、ユーザーの心理的要因を考慮した認知科学に基づくユーザーインターフェイスや情報提供技術を開発する。これによりユーザーが正確に情報の真偽を判断し、不用意に情報を拡散しないようにするなど、適切な行動を促すという。
また、大阪大学大学院情報科学研究科では、根拠情報のひとつとなるIoTセンサーデータの収集技術を開発。真偽判定の対象エリアの情報を網羅的に取得できない場合には、近隣エリアの取得可能な情報群から、対象エリアの根拠情報を推定し、根拠情報として出力する技術を開発する。
さらに、NECでは、画像、映像、音声を含む内容に関して、どのような出来事が発生しているかといったことを、テキストとして抽出するメディア理解技術を開発。SNS投稿文との一致分析や、根拠情報の収集に活用することになる。
なお、今回の偽情報対策プラットフォームの構築では、比較的リテラシーの高い組織で試行し、プラットフォームを改善したあとに、事前にリテラシー教育を受講した一般ユーザーに段階的に範囲を拡大することになるという。
2024年度においては、民間企業や公的機関向けユースケースの分析と機能要件の抽出を行うとともに、各技術の研究開発を行うという。また、2025年度末までに、4つの技術を統合した偽情報対策システムを構築する予定。
富士通の山本氏は、「想定ユーザーとして、自治体などの公的機関、ファクトチェック機関などの民間企業での利用を行ったのちに、一般ユーザーにも段階的に広げていく。ユーザーに良くない影響を与えてしまわないように注意深く進めたい」とした。
