実在しない映像や音声を生成する技術は「ディープフェイク」と呼ばれ、アメリカ大統領選が来年に迫る中、選挙の情勢にも影響することが危惧されています。一方で、検知する技術の開発も進んでいます。このディープフェイクをめぐる問題は、日本も他人事ではありません。

■AI生成の映像　アメリカでは政治CMに使われ…

アメリカでは実際に、AIによって作られたCMが流れています。

「国境警備隊は8万人の不法移民に圧倒されました」とのナレーションと共に表現されていたのは、バイデン大統領が来年の大統領選で再選した後の世界です。

経済が落ち込み治安が悪化したアメリカを描いたAIによる架空の映像で、政権奪還を狙う共和党が制作しました。

一方、別のCMで使われていたのは、トランプ氏の画像と「彼女を推薦し集会もやってあげた。だから彼女は選挙に勝てた」との音声。“トランプ氏に似せた声”をAIが生成したものです。作ったのは、共和党の候補者選びでトランプ氏のライバルのデサンティス知事の支持団体です。

ライバル候補の印象操作になりかねない演出の数々。実在しない映像や音声を生成する技術は「ディープフェイク」と呼ばれ、来年に迫る大統領選への影響が危惧されています。

こうしたCMを見た有権者からは、次のような声が聞かれました。

アメリカの有権者
「怖いことです。人々が信じてしまい、ネガティブな意見を持ってしまうかもしれませんよね」

■わずか3分で…「笑顔で支持者とふれあうバイデン大統領」生成

ディープフェイクはどのように作られるのでしょうか。AIで作品を作り、その利点と危険性を伝える活動を行うAIアーティストのブシェ氏に実演してもらいました。

一般的なAI画像生成のサービスを使い、「バイデン大統領が選挙活動で握手する場面」と指示すると、わずか3分ほどで様々なパターンの画像が出てきました。そして、笑顔で支持者とふれあうバイデン大統領のディープフェイク画像が生成されました。

AIアーティスト　ティム・ブシェ氏
「彼らのような有名人でディープフェイクを作るのは、難しいことではないんです。大統領選までにはAIが作る動画も、人を騙せる精度になるでしょう」

■検知技術も進む　精度は“95％以上”

こうしたディープフェイクを見抜くことはできるのでしょうか。検知する技術の開発も進んでいます。

私たちは「リアリティ・ディフェンダー社」を訪ねました。国防総省も使用しているというこの企業が開発したシステムで、先ほどのバイデン大統領の画像を判定してもらいました。

リアリティ・ディフェンダー社　コールマンCEO
「画像全体が生成されている可能性は99％」

AI生成の画像や動画の特徴を、複数の項目で分析。検知の精度は95％以上だといいます。

コールマンCEOは画像のバイデン大統領について、「7本指があります」と指摘しました。ただ、こうした違和感は、スマートフォンの小さな画面では、気づかないことも多いといいます。

リアリティ・ディフェンダー社　コールマンCEO
「一般のユーザーだけでなく、大統領選の候補もディープフェイクを使う非常に危険な状況です。これを止めるには、生成されたコンテンツを探し、見られないようにすることを法律で義務づけるしかありません」

　　　　　◇

こうしたディープフェイクの問題は、日本も他人事ではありません。日本での事例などについて、日本テレビの小栗泉解説委員が解説します。

■笑みを浮かべる官房長官・台風被害の写真…いずれもフェイク

有働由美子キャスター
「こうしたディープフェイクは、日本でも起きているんです。2021年、地震発生時に当時の加藤官房長官が“笑みを浮かべて会見した”とする画像がSNSで拡散されました。実際の加藤さんの会見では、笑ってないです。ただ、フェイクとすぐ分かるかというと、なかなか分からないですよね」

小栗泉・日本テレビ解説委員
「難しいですよね。もう1つ、去年、静岡県の台風被害の写真として拡散された画像もディープフェイクでした」

有働キャスター
「私たちの命に関わるものにまであるとなると、本当に影響は深刻ですよね」

小栗解説委員
「アメリカでも日本でもこうしたことを規制するルールがないんです」

■政治関連の誤情報“9割近く”気づいていなく…　大事なのは「疑うくせ」専門家

小栗解説委員
「アメリカでの例のように、政治での利用も懸念されています。ディープフェイクに詳しい国際大学の山口真一准教授による10代～60代を対象にした研究結果では、政治関連で誤った情報に気づいていない人が87％に上るということです」

有働キャスター
「9割近く、そんなに…」

小栗解説委員
「では、どう見分けるのか、山口准教授に伺ったところ、“それは非常に難しい”とした上で、私たちに大事なのは『疑うくせを持つ』ことだといいます。“SNS上には偽物も出回っている”と頭において、拡散する前に一度立ち止まる、調べて、正しいか判断できない時には、拡散しないことを心がけてほしいとしています」

■投稿前に情報源の確認を…

有働キャスター
「廣瀬さんは、こうしたことについてはどのように向き合っていますか？」

廣瀬俊朗・元ラグビー日本代表キャプテン(「news zero」パートナー)
「情報源がどこで、誰なのかを気にしています。誰か分からない、確かだと思えない時は、投稿しないようにしています。投稿する時や投稿した後に、もう一度自分の文章を見直して、客観的に見るようにしています。後は、心が焦っていたり、動揺している時は良い判断できないと思うので、なるべく自分自身を良い状態に保ちたいと思っています」

有働キャスター
「こうしたことは若い人たちや子どもも気をつけないといけないですが、大人こそニセ情報との向き合い方を知っておかないと、思わぬトラブルに加担しかねません。『総務省　インターネットとの向き合い方』で検索すると、騙されないための知識が見られますので、ぜひ一度、見てください」

(7月20日放送『news zero』より)