×

生成AIでニュースを偽造? 日テレ番組悪用の詐欺広告 一体どうやって? #みんなのギモン

2023年11月1日 20:13
生成AIでニュースを偽造? 日テレ番組悪用の詐欺広告 一体どうやって? #みんなのギモン
日本テレビのアナウンサーがニュース番組で高配当な投資への参加を呼びかけるかのようなニセの広告動画がSNS上で拡散され、日本テレビは「改変されたもの」だとして注意を呼びかけています。「3日間で10万円」などとうたうフェイク広告はどう作られているのでしょうか。(調査報道班 小野高弘

  ◇ ◇

「news every.のニセが出回っています」「深層ニュースもだ」

10月、報道局のサイバー取材班がSNS上で見つけた明らかにニセの動画。実際に日本テレビがnews every.で今年8月に放送した「自転車のヘルメット着用努力義務」などについてのニュースを加工したもので、アナウンサーが「3日目で10万円、10日で32万円の利益が自動的に出る」などと説明して投資サイトへの登録を促す内容になっています。動画の中では、岸田首相が日本への投資を呼びかける映像も含まれていました。

ニセの動画はYouTubeなどに投稿されたのちにSNSで拡散されていました。

この動画では、アナウンサーのイントネーションに不自然な部分も多く、本人と似た声を作って合成したとみられます。それでも、部分的にはあたかもこのアナウンサーが話しているかのように聞こえる上に、画面上の説明の表記や字幕類はすべて投資を促す内容に差し替えられています。

この動画をAI総合研究所NABLASに解析してもらいました。すると・・・。

NABLAS滝創一朗氏
「フェイクを検知するソフトにかけたところ、アナウンサーの声は98%以上フェイクとの判定結果が出ました。生成AIがアナウンサー本人の声を学習して再現したものだと考えられます。口元にも一部編集が加わっている可能性があり、そこでもAIの技術が使われている可能性があります。一方で岸田首相の音声は本物だという判定が出ました」

生成AIが作り出したとみられるニセ音声を使ったこの動画。アナウンサーの音声はイントネーションに不自然な部分があり、聞いただけで怪しいと感じる人が多いと思いますが、最近は移動中などにスマホで音声を聞かず画面だけを見て情報を得る人も多く、まるで日テレがこうしたニュースを伝えていると勘違いする人を生み出す危険性があります。

著作権を持つ番組映像を無断で使用している上、内容を改変し報道の信頼性を毀損するものとして日本テレビはSNS運営者に指摘し、その結果、動画は順次削除されています。また日本テレビは自社ホームページのトップ画面で、「SNS等で当社の番組を改変して、投資を促す動画広告が掲載されていますが、当社は一切関与しておらず、推奨もしていません」と注意を呼びかけています。

今SNS上では、著名人の顔写真とともに「投資で何倍にもなる」などとうたった広告が投稿されるケースが増えています。楽天の三木谷浩史会長や起業家の前澤友作さんの顔写真を使ったり、投資を呼びかける内容を報道機関のニュースサイトを模したウェブページに掲載したりするなど、ユーザーを巧妙に騙して投資サイトへの登録を促そうとしています。

生成AIを悪用し、画像や音声までも巧妙に作りだしてしまう時代。SNSで目に飛び込んで来る数多くの広告にまじり、こうした悪質な詐欺広告があることに注意が必要です。

●あなたの身の回りの怒りやギモンをお寄せください。

お寄せいただいた情報をもとに日本テレビ報道局が調査・取材します。

#みんなのギモン

https://www.ntv.co.jp/provideinformation/houdou.html