■生成AIによるフェイク動画問題…岸田首相のフェイク動画も

伊佐治健　報道局長
「去年は、ゼレンスキー大統領のフェイクが出回りましたが、今年は、岸田首相の動画がYouTubeなどに投稿され、SNSで拡散されました。作成には生成AIが使われたとみられます。今年、首相官邸でディープフェイクに詳しい専門家が、首相にレクチャーする場面がありました」


※ことし5月　デモンストレーションの様子
AIエンジニア　安野貴博氏
「あーあー、聞こえますでしょうか。このマスクをつけると、リアルタイムに私の声が首相の声に変換されて聞こえるようになる」

岸田首相
「あっ　そう」


伊佐治健　報道局長
「デモンストレーションしていた安野さんに聞いたところ、この半年でさらにディープフェイクの技術が進んだそうです」

AIエンジニア　安野貴博氏
「音声だけじゃなくて、動画画像のディープフェイクもリアルタイムにできつつあるというところです。画像生成AIは1枚を出すのに、1年前だったら1秒とかかかってたが、10ms20ms（1ms＝0.001秒）くらいで出るようになってきたので、リアルタイムで誰かになりすまして人としゃべる、それが声だけじゃなくて動画でもそれができるようになってきているっていうのが、ここ1~2か月くらいの進歩かなと思ってます」

■選挙への介入も？　専門家「2024年は“生成AIが初めて攻撃に使われる年”に」

伊佐治健　報道局長
「来年はアメリカ大統領選など重要な選挙があります」

「安野さんは、選挙における情報戦が激化し、生成AIが初めて攻撃に使われる年だと思うと話していました」

「例えば投票日直前にこんなビッグニュースがあったとディープフェイクを流し、投票を誘導します。訂正する時間もなく嘘だと分かった時にはもう遅いという訳なんです」

「今月、G7大臣会合のため来日したイギリスの安全保障担当大臣にお会いしました。来月の台湾総統選で、中国の介入を否定しませんでした」

イギリス安全保障担当大臣　トゥーゲンハット氏
「はっきりさせておきたいのは、現在最も技術力のある国のひとつが中国だということです。中国共産党はすでに我々（イギリス）の国政に干渉しようとしています。だから台湾の選挙について懸念するのは当然です」

伊佐治健　報道局長
「中国と距離を置く民進党候補が当選しないよう、フェイク情報で世論を誘導するとの見方です」

■「日本人が海外の犯罪グループに狙われることが増える」と警告も

伊佐治健　報道局長
「生成AIでもう一つの国際的課題が、未成年者の性的画像、児童ポルノの問題です。日本では実在の子どもでなければ、いかに精巧でも基本的に罪に問われませんが、イギリスではフェイクでも規制の対象です」

伊佐治健　報道局長
「子どもの人権をめぐっては、今年、旧ジャニーズ事務所のジャニー喜多川元社長による悪質な性加害の実態が明らかになり、私たちメディアも意識の甘さを厳しく問われました。児童ポルノをめぐる日本の対応も海外からは甘いと指摘されています」

「トゥーゲンハット氏は生成AIの発達で、今後、日本人が海外の犯罪グループに狙われることが増えると警告しました」　

イギリス安全保障担当大臣　トゥーゲンハット氏
「最近では生成ＡIによって、非常に効果的に他国の言語を模倣することができます。長い間、日本は言語の壁で守られてきましたが、今は変わってしまいました」

伊佐治健　報道局長
「簡単に日本語がまねされると。気をつけなければいけません」

■だまされないためには…「真実を見分ける力」「生成AIへの法的規制」