この動画、一見、日本テレビのニュース番組「news every.」に見えますが、これはディープフェイクで作られた偽物。よく見ると、口元がブレていたり、日本語が不自然だったりする上、言っていることの意味も、よくわかりません。

ディープフェイクの特徴を学習させたAIに この動画を解析させてみると、98%の確率で「ディープフェイク」という結果が出ました。

しかしこの動画、ただの「悪ふざけ」で作られたわけではないようです。

一体誰が、なんのために作っているのか？調べてみました。

■LINEで「三木谷浩史」さんと友達になったら…

詐欺広告の誘導で「三木谷浩史」とLINEの友達に

FacebookやYouTubeなどで配信されている大量の広告。特に目立つのは、有名人や有名企業の名前を騙って投資や金融商品を購入させようとする詐欺広告です。「news every.」のように見える偽動画も、投資を勧める内容でした。

中には、LINEに登録するよう勧めてくるものも多いようです。

試しに、ある詐欺広告の誘導する通りに「三木谷浩史」という名前の人とLINEで友達になってみたところ、少し不自然な日本語で書かれた教材や、セミナーの誘いが次々に届きました。怪しく思い、LINE上で色々と質問してみると…途中から、「中国語」で返信が。

「八嘎」。日本語で、「バカ」という意味です。

SNSを通じた詐欺被害は全国で急増していて、中でもこういった詐欺広告に使われているのが、ディープフェイクの技術です。

ディープフェイクと聞くと「顔を変える技術」と思う人も多いかもしれませんが、基本的にはディープラーニングなどのAI技術を使って加工された情報全般のことをディープフェイクと呼びます。顔や声を別人のものにするのも、架空の画像を作り出すのも、ディープフェイクの一種です。

■アングラ掲示板「認証突破のために…」顔の“すげ替え”依頼も

トレンドマイクロ広報担当　成田直翔氏

そして、ディープフェイク技術が悪用されているのは詐欺広告だけではありません。

サイバーセキュリティ会社「トレンドマイクロ」がアンダーグラウンドの掲示板を調べたところ、「暗号資産取引所の認証突破のため顔のすげ替えをしてください」といった、ディープフェイクの専門家を探す書き込みがいくつも見つかりました。

トレンドマイクロ社の広報担当、成田直翔さんは「サイバー犯罪者が『フェイク動画』を悪用したいというのは目に見えている」と指摘します。

このように、ディープフェイクを犯罪に使おうという動きは世界中に広まっていますが、ではディープフェイクを作るには、どの程度の技術が必要なのでしょうか？

■「ディープフェイクボイス」作ってみた

フェイクボイスに驚く小野解説委員

試しに、技術的なバックグラウンドのないディレクターが、ネット検索で出てきた知識だけを使って「ディープフェイクボイス」を作ってみました。

すると…たった2~3時間で、私にそっくりの声が！

これは、以前話題になった岸田首相のディープフェイク動画で使われた技術と同じものです。AIにどの程度学習させるかによって精度は変わりますが、完全な素人でも、ある程度の“フェイク”を無料で作ることが出来ました。

一方で、もっと専門的にディープフェイクの技術を使い、ビジネスをしている人もいます。「ディープフェイク職人」と名乗る人にコンタクトをとったところ、オンラインで取材に応じてもらうことができました。

■ディープフェイク職人が語るリアル「MVで頭部を別の人間に」

話を聞いたのは、「おすしスキー」さん。順調に取材を進めていたのですが、しばらくして、違和感をおぼえました。

小野
おすしさん、顔は…？

おすしスキーさん
もちろん変えていますよ。声も変えていますから。

小野
その顔、櫻井翔さんですよね！？

おすしスキーさん
櫻井翔さんではないですけど…色々な顔を混ぜているので、存在しない顔です。

まさかリアルタイムのやりとりで顔も声もフェイクだとは思わず、取材の途中まで完全に騙されてしまいました！

小野
いつもどういったコンテンツを制作していますか？

おすしスキーさん
クライアントから話を受けて、エンタメ系であればミュージックビデオだったりとか、あとはバラエティー番組の制作というところで携わらせてもらっています。例えばミュージックビデオで、頭部を…髪型とかも、まるっと別の人間に変えてほしいという依頼がありました。

小野
ちなみに収入は月にどのくらい入ってきますか？

おすしスキーさん
ばらつきがありますけどね、日本円にしたら数百万から数千万円くらいですね。

おすしスキーさんは、主に人の顔をすげ替える「フェイススワップ」の技術を使い、チームで制作をしているといいます。

小野
ディープフェイクの世界で楽しいと思う瞬間は？

おすしスキーさん
クライアントから話をもらって制作するという流れが一般的なものですから、クライアントの指定通りに作れた時が一番満足する。

小野
（ディープフェイク制作時に）あえて生成AIっぽさを出すこともあるんですか？

おすしスキーさん
そうですね、例えばここにコップがありますけれども、この中に入っているコーヒーを飲む（実際に飲んでみる）。これでも顔はほとんど崩れないですよね？顔の前に障害物があっても問題がないマスクを作ることが出来るのですが、あえて、顔の前に障害物が来たときに顔を崩した方がAIっぽさが出ると思いませんか？なので、あえて顔を崩して「障害物にはまだAIは対応していないんだ」っていうところを見せるような“演出”をしたい時には、そうやって納品することもあります。一般的に皆さんが、「AIってまだまだだよね」って思うことって、実はもう超越されていたりします。

■情報戦が変わる？戦時下にあふれるディープフェイク

偽情報対策センター（ウクライナ・キーウ）

毒にも薬にもなるディープフェイクですが、もうひとつ別の側面でも使われ始めています。それは、「戦争の武器」です。

ウクライナでフェイクニュースの取材をした、日本テレビ報道局国際部の鈴木しおり記者に話を聞きました。

小野
ウクライナのどこに行ってきたんですか？

鈴木記者
キーウの「偽情報対策センター」というところを取材しました。ロシア側が発信するフェイクニュースを分析・監視して、カウンターとなる正しい情報を発信する組織ですね。

小野
ロシア側のフェイクってどんなものがあるんですか？

鈴木記者
色々な種類があるのですが、ひとつ有名になったのが、ゼレンスキー大統領夫人がイスラエル国籍を持っているというパスポートの画像がロシアメディアであげられたんです。これはもちろんフェイク画像でして、おそらくゼレンスキー夫人がウクライナを捨ててイスラエルに逃亡しようとしているというフェイク情報を広めるためにねつ造された画像とみられています。

小野
そんなアホなって思うけどね。

鈴木記者
そうなんですよね。日本から見ると「このフェイク情報はおかしいな」と思うものが多いと思うのですが、親ロシアの国だったり、第三世界といわれるようなところの人たちから見たら、受け入れてしまうようなフェイク情報もあると思います。

小野
そのフェイクは誰が作っているんですか？

鈴木記者
フェイク情報が拡散された道筋を見てみると、ロシア政府系のSNSアカウントが多いんです。例えば大使館のアカウントだったり首相官邸の関係だったり。そういうことも考えると、ロシア政府が組織的にフェイク情報を作って流しているということも排除できないと思います。

小野
アカウントはどのくらいの数あるんですか？

鈴木記者
膨大なので何ともいえないのですが、フェイク情報の中には「いいね！」が数十万ついていたりとか、リポストみたいなものも数万件されていたりとか、数百万回くらいは閲覧されているんだろうなという数字が出てきています。

小野
戦争だからこそ「ディープフェイク」が使われているということだと思いますが、その現場を目の当たりにしてどうでしたか？

鈴木記者
ウクライナを取材していて、戦争が長引く中で国民が一丸となることの難しさをすごく感じたんですね。そういうときに意図を持ったフェイク情報が流入してきたらどういうことになるのか？戦時下でディープフェイクが氾濫し始めたときに、どういったことが起こるかというのは研究も議論もこれからということなので、慎重に見ていかなければいけないと感じました。

◇　◇　◇

進化を続ける「ディープフェイク」。みなさんは本当に、だまされた経験はありませんか？