×

“AI”が生成…被災地めぐる新手の「デマ画像」 よく見るとおかしなところが… 虚偽投稿で過去に逮捕者も 

2022年9月28日 20:51
“AI”が生成…被災地めぐる新手の「デマ画像」 よく見るとおかしなところが… 虚偽投稿で過去に逮捕者も 

静岡県では、28日現在も台風15号による被害の影響が続いていますが、ネット上では、新手のデマ画像が出回り問題になっています。

◇静岡の断水は今も
◇AI悪用で“デマ画像”
◇人の目で見分けられる?

以上の3つのポイントについて詳しくお伝えします。

■静岡市清水区の断水 約3万4600世帯で復旧も…「飲み水」としてはまだ使えず

台風15号は記録的な大雨により、土砂崩れや浸水など静岡県に大きな被害をもたらしました。静岡市清水区では、大規模な断水被害が発生して28日で5日目となりました。土砂や流木が詰まり断水の原因となった興津川の取水口では、自衛隊による撤去作業が夜中も続けられました。

静岡県と静岡市は、復旧費用を国が支援する「激甚災害」への指定などを求めています。

28日現在の断水の状況と今後の見通しですが、静岡市によると、清水区で断水被害があったのは約6万3000世帯です。そのうちの半数以上にあたる約3万4600世帯では、28日までに生活用水が使えるようになりました。

ただし、これは「飲み水」としては使用できず、トイレや洗濯など「最低限の生活用水」に限られています。飲み水が利用できる目安は早くて29日からとなっていて、すべての地区で断水が解消するまでには、あと4日かかる見通しとなっています。

■拡散された「洪水画像」…実はAIが生成

こうした中、インターネット上で新手の悪質なデマが流れました。

26日、ツイッターに「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」という文言とともに投稿された画像では、町全体が水没していたり、住宅が流されたりしています。投稿されると1万件以上の「いいね」や「リツイート」があり、かなり拡散されましたが、実はまったくの虚偽、「デマ画像」でした。ネット上でも批判されて、その日のうちに本人もデマと認めて謝罪する事態になりました。

このデマ画像は、よく見るとおかしなところがいくつかありました。

ITジャーナリストの篠原修司さんとチェックしたところ、まず3枚とも共通しているのが、「電柱がどこにもない」ことです。さらに、1枚目の写真には、家の中から木が生えているような状態になっている住宅も写っていました。また、2枚目の写真では、中央部分は波が立っていて“濁流”になっていますが、そのすぐ手前、写真の下部分は水面が急に穏やかになっています。篠原さんは、「水の流れが不自然だ」と指摘しました。

驚いたことにこの3枚はただの合成写真ではなく、投稿者によると“AI(=人工知能)を悪用する形で合成したニセモノ”だということです。

投稿者はあるソフトを使って、英語で「flood(洪水) damage(被害) Shizuoka(静岡)」というキーワードを入力しました。そして、この言葉だけで生成されたのが、これら3つのデマ画像だったということです。つまり、元からある写真を人間が加工して作ったのではなく、AIが入力されたキーワードから「架空」の洪水の画像を作り出したというものでした。

国や県もこのデマ投稿を把握していて、静岡県の危機情報課の担当者も「大雨被害とは関係ない。デマ画像を流すのはやめてほしい。ツイートを見た人も冷静に対応してほしい」と呼びかけています。

また、松野官房長官も28日の会見で、「事実に基づかない不確実な情報が掲載されていた」、「今回の件を含めて、社会的混乱を防止することは重要だ」と述べ、問題視しています。

■「デマ画像」拡散で過去にも逮捕者も…プロでも見破るのが難しく

これまでも、災害時に拡散したデマ画像が大きな問題になったことがあります。

2016年の熊本地震の際は、「地震のせいで動物園からライオン放たれた」という文言とともにライオンの写真が投稿され、デマを投稿した男が偽計業務妨害の疑いで逮捕されるという事態になりました。この時のライオンの画像は、南アフリカで過去に起きた実際の写真を悪用したもので、いわばインターネットから「拾ってきた画像」でした。

ただ、今回の事例は、投稿者が「AIに作らせた」という点で新手のデマ画像です。

専門家の篠原さんも、「今後も、こうしたデマ画像が出てくることが予想される」と言っていまして、AIの技術が発達しているので、不自然さのない画像は作ることができ、プロの篠原さんでも見破るのが難しいといいます。

■情報を拡散する前に…「出どころの確認」「デマなどの指摘」のチェックを

私たちにできることは何かというと、「衝撃的な画像、特に怒りを思い起こさせるような画像や、許せないと思うような画像には気をつけてほしい」ということです。このような画像に出くわすと、人はなかなか冷静な判断ができなくなってしまうということです。

また、大切なこととしては、拡散する前に「一度立ち止まってみる」ことです。ITジャーナリストの篠原さんは「情報や画像の出どころはきちんとしているものなのかどうか」、「デマなどの指摘はないか」ということをしっかりと確認することが重要だと話していました。

   ◇

デマ画像をめぐる技術は日々進化していて、専門家でもなかなか見抜けないほどイタチごっこの世界となっています。中でも、災害の最中のデマ画像の拡散は、二次災害や救助活動の混乱につながりかねず、場合によっては人命に関わる可能性もあります。

どういう人が投稿している画像なのか、安易に拡散する前にひと呼吸おいて冷静になってみることも大切です。

(2022年9月28日午後4時半ごろ放送 news every. 「知りたいッ!」より)

  • 日テレNEWS NNN
  • 社会
  • “AI”が生成…被災地めぐる新手の「デマ画像」 よく見るとおかしなところが… 虚偽投稿で過去に逮捕者も