日本経済新聞社大阪本社は2月18日、「ポストリアル時代に向けて～フェイクメディアとの共棲～」をテーマにしたセミナーを大阪市のハービスホールで開催した。生成AI（人工知能）による偽情報の問題を先駆的に研究してきた福井工業大学の馬場口登学長（当時・副学長）が登壇。AI技術の進展によって現実と偽物の境界が曖昧な時代となる中、情報との向き合い方について解説した。
2025年大阪・関西万博のレガシー（遺産）を発展させていくための事業「NEXT KANSAI フォーラム 2026」（日経大阪本社主催）のプログラムの一つとして実施。AIの最新技術を活用した情報発信は、万博でも活用された一方、2月8日に投開票された衆議院選挙では偽動画が拡散して問題となった。アフター万博の時代に直面する課題の一つとして企画した。
ポストリアル時代に突入
馬場口氏は、有害情報について3種類に分類した。一つ目が、正しい情報ではあるものの、攻撃する意図や発信者が利益を得るために出す「悪意のある情報」。二つ目が、悪意はないものの過失によって配信される「間違った情報」だ。三つ目に「意図的に作られた偽情報」を挙げ、「これが1番の問題だ」と指摘した。
偽情報について「戦争や災害、選挙の時にたくさん出てくる」と事例を挙げた馬場口氏。「AIの発展によって、画面上の人間がリアルかフェイクか判断できにくくなるポストリアル時代に突入した」と力を込めた。
「だます」VS「見破る」
馬場口氏は、本物そっくりの映像や音声を作る「メディアクローン」の研究を紹介。「だますAI」に対し、フェイクメディアだと判断する「見破るAI」の必要性を強調した。
2016年に立ち上げた研究チームは、人の声をまねる「音声クローン」や、顔の表情を別人の顔で再現する「映像クローン」の開発技術を解析。実際に制作した音声や動画を流した。2018年には、AIの深層学習を用い、生成されたフェイクメディアを検出するシステムを世界で初めて開発したことを伝えた。
馬場口氏は「だますAIと見破るAIのいたちごっこが続いている。現状では見破るAIが劣勢で、重層的な研究と対策が求められる」と訴えた。
法的規制も不可欠
具体策として、情報の発信源をメディアに埋め込み、情報経路の透明性を確保する対策や、プラットフォーマー側が生成AIで作ったメディアに電子透かしを入れる手法を例示した。
指示文の「プロンプト」の入力によって、誰もがフェイクメディアを手軽に生成できる環境になったことを受け、馬場口氏は「人間に甚大な影響を与えるフェイクメディアに関して、法的規制も不可欠だ」と持論を展開。日本や世界の規制の進捗度を示した。
メディアリテラシーの重要性
一方で、技術面や法規制だけでなく、情報の受け手が批判的な目を持つメディアリテラシーの重要性にも言及。「フェイクメディアとの共棲だ」と説いた。
注目するポイントについて、（1）証拠はあるか（2）情報源は信頼できるか（3）経緯などの「文脈」はどうか（4）視聴者、聴衆は誰か（5）作られた目的は何か（6）どう実行されて示されたのか−という6点を提示した。
拡散源にならないために
馬場口氏は「見ているものや聴いているもの全てに批判的な目がいる」と語り、「SNSやネットの動画、そしてオンライン会議や電話の話し手が本物かどうか、その発信源は信頼に足るのかを注意深く見極めなければならない」と助言した。
さらに、誰もが偽情報の拡散に加担する可能性がある点に触れ、「フェイクメディア攻撃から身を守りつつ、自分自身も倫理的な規範やメディアリテラシーに従い、偽情報の発信源や拡散源にならないようにしてほしい」と呼びかけた。
