（国際部 オコーノ絵美）
■「ディープフェイク」の性的画像
このニセ画像は、生成AIで作られた「ディープフェイク」の性的な画像だった。「ディープフェイク」はAIを利用し、実際に起きていないことでもリアルな画や動画に出来るが、こうして悪用されるケースも少なくありません。
そして、その「リアルさ」ゆえに、見た人は本物とフェイクの見分けがつかないものもあります。誤った情報が出回るリスクはもちろん、ニセ性的画像の場合には、被害者の尊厳を大きく傷つけられます。
■SNS運営企業の"二重基準"
X社はテイラーさんの件では、投稿から17時間後にはツイートを閲覧禁止にし、さらに一時的にテイラーさんの名前を検索しても結果になにもでないように制限をかけました。
ただ専門家は「テイラーさんの件が、世間に注目される事案だからすぐに対応がなされたと推測され、まれな例だ」と指摘しています。
では、一般のケースだと対応はどのように違うのでしょうか。デジタルヘイト対策センター（Center for Countering Digital Hate）は、ユーザーが不適切な内容を運営側に知らせる「通報」機能への対応を調査しました。
「Ⅹ」では、通報後7日がたっても、30件の投稿のうち29件つまり8割以上が対応されず放置、という結果に。また、通報された100アカウント中90アカウントがその後も引き続き利用できる状態だったのです。
■利益 VS 倫理
なぜこんなにも放置されるケースが多いのか？背景を調査をしたデジタルヘイト対策センターのカルム・フッド氏に聞きました。
「すべてのコンテンツは、SNS企業に利益をもたらす。企業としては出来るだけ多くのコンテンツを載せておきたい。コンテンツを削除すると広告収入を減らすことにつながりかねないからだ」
つまり、SNS企業がビジネスとしての利益を優先し、通報に十分に対応していないという現状があるというのです。
ほぼ対応されないのならば、通報することに効果があるのでしょうか。
フッド氏は、対応がなかなかされない現状でも、有害なコンテンツの存在と、それを通報したという記録を残すためにもやはりユーザーは通報すべきだといいます。また、通報の数も多くなれば企業側も対応を迫られるということです。
■企業側の責任
そして、企業側には不適切なコンテンツについてのデータを公表することと、そもそも世に出す前に、女性を含む全ユーザーが安心して使える設計にすることが重要だと指摘します。
■メタバース上の"レイプ"
また、技術が進歩するにつれて、これまでなかったような性被害のケースも報告されています。ことし1月メタバース上で“レイプ”される事案があった。一体どういうことなのでしょうか。
メタバースは、ネット上の仮想のスペースでユーザー同士の交流などさまざまなことができます。その場にいるかのような臨場感が特徴です。
メタバース上での“レイプ”について、詳細を報じている英・デイリーメール紙によれば、イギリスでことし1月、16歳未満の少女がメタバースでゲームをしていたところ、少女のアバターが複数の知らない男性アバターに“レイプ”されたといいます。これについて、イギリスの警察はメタバース上での「性被害」で史上初めて調査をすることになりました。
この件に関する詳細は公表されていませんが、少女はその後、大変動揺しパニック状態になってしまったということです。仮想の世界での出来事でも、実際に体調や精神面でダメージを受けたということです。
今回、2021年に同じようにメタバース上で性被害をうけたニーナさんに当時の話を聞きました。
■ニーナ・パテル氏
「アバターの服装など選び、交流スペースにいくと60秒ほどで男性の声を持つ男性アバターが暴言を吐いてきました。その後、性的暴行としか言い表せないような行為をされました。やめるように言っても、逃げても彼らは追ってきた」
ニーナさんが繰り返しやめてと言っても、執拗に追ってきたため最終的にはメタバースから退出することでしか、終えることが出来なかったといいます。
そんな恐ろしい体験をしたニーナさんだが、その後もあえてメタバースを積極的に使い続け、その傍らで安全に使うための研究や発信もしています。
■デジタル空間に居続けるワケ
印象的だったのがその理由で、「不快な体験をした女性たちがネットやメタバースから離れれば、この空間を作り上げる過程に女性がいなくなり、女性が安心して使える空間にできないから」といいます。
さらに、他の女性たちにも「ぜひ最新技術やメタバースなどのテクノロジーに関心を持ち、使い続けて会話の一部でいてほしい」と呼びかけた。実際、ニーナさんは4児の母でもあり、そのうち2人の10代の娘たちにはメタバースを主に学習目的で利用させています。
■日本では？
では、日本で同様のケースがおきた場合にはどうなるのでしょうか。
日本の警察幹部は、こうしたディープフェイクや仮想空間での性被害について、「性被害」として捜査することは現実的ではないと話しています。
ディープフェイクなど使用した性的な画像にであれば「名誉棄損」「わいせつ画像の頒布」といった罪名での捜査ならできる可能性はあるとしました。
仮想空間での事案なら、侮辱や名誉棄損になるかもしれないと加えました。
■まとめ
デジタル空間での性被害について、どのような対策が必要なのか。デジタルヘイト対策センターのカルム・フッド氏は、現実世界で起きれば性犯罪とされるような行為と同様のことがオンライン上で行われた場合、同様に犯罪とするシステムが必要だ。オンライン上の出来事だと軽視してはならないと話しています。
■相談先■
他人の被害はもちろん、自分の被害も軽いことと我慢せず、被害にあった場合にはひとりで抱え込まず、ぜひ誰かに話してみてください。
