一見、日本テレビのニュース番組のように見えますが、加工された「フェイク動画」。岸田首相のフェイク動画も作られましたが、どう対策していくのか。8日の国会では…

　　　◇

「これは1か月の利益です」「もはや重労働や多くの労働は必要ありません」

日本テレビ「news every.」の放送を加工して、投資を呼びかける悪質なフェイク動画。本物と比べても、アナウンサーの動きもそっくりです。

「あなたはわずかにあなたの家を投資するだけです」

声も偽物で、岸田首相の動画も悪用しています。日本テレビは「当社は関与しておらず推奨もしていない」と注意を呼びかけています。

　　　◇

生成AIで作られたとみられるこのフェイク動画。SNSで拡散され、8日に国会でも議論になりました。

立憲民主党　中谷一馬議員
「日本の総理大臣までもが詐欺の広告に悪用される事例。厳正に対処していただきたいと思いますがいかがでしょうか」

松野官房長官
「偽広告が流通していることは承知しており、重要な課題だと認識をしています」

　　　◇

同様のフェイク動画は、岸田首相が使われたものも。顔や声が加工されています。

「明日が国会も休みにあたりますのでコンビニエンスストア、一般的にはコンビニと呼称される施設にて」

実際に今年5月、岸田首相は「生成AIによる音声加工」を目の当たりにしていました。

AIエンジニア　安野貴博さん（今年5月）
「（AIの）リスクというところなんですけど、ぜひデモをさせていただきたい」
「あーあー聞こえますでしょうか。このマスクをつけるとリアルタイムに私の声が“総理の声に変換”されて聞こえるようになる」

岸田首相
「あっそう」

AIエンジニアの安野さんの声が、岸田首相そっくりの声に変わるという（マスクを使った）デモンストレーションでした。

AIエンジニア　安野貴博さん
「こういった普通のノートパソコンであっても、こういったことができてしまうわけでございます」
「これがディープフェイクと呼ばれる技術」

　　　◇

“本物のように変えてしまう”生成AI。

AIエンジニア　安野貴博さん
「（フェイク動画の）レベルも高くなっていて、専門家でもわからなくなってきている。映像があれば本当にあったと信じられた時代は終わった」

（11月8日放送『news zero』より）