ニセ動画では、イントネーションに少し不自然な部分がありますが、あきらかに河出奈都美キャスターが登場しています。

問題は話している内容で、「投資すれば高額な利益が出るプログラム。サイトに登録を」と求める、悪質な広告です。誰かがこの動画を作りYouTubeやFacebookに投稿し、その後、SNSで拡散されているのです。

もとになっている本物の映像は、「news every.」で今年8月に放送したもので、自転車のヘルメット着用努力義務などについてのニュースを扱っていました。

本物とニセ物を比べてみると、画面構成も、キャスターの動きもそっくりです。声についても、河出キャスターに似せた別の音声で、イントネーションに違いはあるものの声は似ています。

ニセの動画では、画面にある説明などはすべて投資を促す内容になっています。

こうした動画はどうやって作られたのか、専門家に解析してもらいました。

ニセ物を見つけ出す取り組みを行っている企業の「AI総合研究所NABLAS」で、ニセ物を検知するソフトにかけたところ、出てきたのは98.24％という数値です。ニセ物は100％ニセ物になり、この数値は生成AIで作られたニセ物である確率になります。

つまり、この声は生成AIによって作られたものにほぼ間違いないという結果が出ました。そして、口の動きも生成AIの技術で変えられている可能性があるといいます。

AI総合研究所NABLAS　滝創一朗さん
「口の開き方みたいなところに大きな違いがある。しゃべっている言葉に合うような形で口を変えている可能性」

生成AIの技術が悪用されているわけです。河出キャスターの声は「フェイクボイス」になります。生成AIが作り出したニセ音声だとみられています。

フェイクボイスとは例えば、ネット上の動画にある人の声を7秒ほどAIに聞かせると、それをAIが学習してたちまちそっくりな声を忠実に再現するものです。

さらにAIの技術で話す言葉に合わせて、表情や口元の動きも変えられるというのです。実は「news every.」以外のニュース番組も同じような加工をされた動画が拡散されています。

日本テレビはこうした動画は看過できないとしてSNSの運営側に指摘しました。その結果、動画は順次削除されています。また日本テレビのホームページのトップ画面でも、「当社は関与しておらず推奨もしていない」と注意を呼びかけています。

実際に「news every.」スタッフも拡散された動画を音声なしで見ていて、「河出キャスターがしゃべってる。こんなニュースあったかな」と思ったそうです。声を聞いたらニセ物とわかったものの、だまされる人はいるかもしれないです。

そもそもフェイクで欺こうとする人がいけないわけですが、本来はSNSを運営する側がこうした動画を削除するなど、拡散させない取り組みを行っているはずです。でも今回は、日本テレビの番組のニセ動画が広がりました。

すぐに対応はできなかったのか、SNSを運営する側に質問してみました。

YouTubeを運営するGoogle Japan
「動画はフィッシングを禁じる有害または危険なコンテンツに関するポリシーの違反で削除し、該当する複数のチャンネルを、なりすましを禁じるポリシーの違反で停止しました」

Facebook Japan
「写真や動画が虚偽と評価され危害をもたらす可能性のあるなどのコンテンツについては削除したり、拡散を抑制したりしています」「AIと人の目の両方で審査し、見つけた場合は広告を拒否するだけでなく、この先、広告を出せないようにする取り組みも行っています」

2つの会社とも“一生懸命取り組んでいます”という回答でした。ただ、Facebook Japanは規定をかいくぐる様々な手口が出てきているとも話していて、警戒を強めていました。

　　　　◇

この先、人の目や耳ではフェイクを見分けることが難しくなってくると思われます。

ニセ物を見つけ出す技術にも頼っていく必要があるかもしれません。SNSを運営する側にも、悪質なニセ動画を徹底して排除する努力をしてもらいたいと思います。

同時にネットユーザーの私たちも、フェイクがあることを常に念頭に置いてSNSと向き合っていく必要があります。

（2023年11月3日午後4時半ごろ放送 news every.「#みんなのギモン」より）