女性にとってのリスクのひとつ、デジタル空間での性被害。新しい技術の普及とともに、悪質なケースもより複雑になっています。ユーザー、企業、そしてシステム面での課題とは？国際女性デーをきっかけに取材しました。
（国際部 オコーノ絵美）
（国際部 オコーノ絵美）
■「ディープフェイク」の性的画像
ことし1月、旧ツイッター「X」で世界の歌姫テイラー・スウィフトさんのニセの画像が拡散されました。
このニセ画像は、生成AIで作られた「ディープフェイク」の性的な画像だった。「ディープフェイク」はAIを利用し、実際に起きていないことでもリアルな画や動画に出来るが、こうして悪用されるケースも少なくありません。
そして、その「リアルさ」ゆえに、見た人は本物とフェイクの見分けがつかないものもあります。誤った情報が出回るリスクはもちろん、ニセ性的画像の場合には、被害者の尊厳を大きく傷つけられます。
このニセ画像は、生成AIで作られた「ディープフェイク」の性的な画像だった。「ディープフェイク」はAIを利用し、実際に起きていないことでもリアルな画や動画に出来るが、こうして悪用されるケースも少なくありません。
そして、その「リアルさ」ゆえに、見た人は本物とフェイクの見分けがつかないものもあります。誤った情報が出回るリスクはもちろん、ニセ性的画像の場合には、被害者の尊厳を大きく傷つけられます。
■SNS運営企業の"二重基準"
X社はテイラーさんの件では、投稿から17時間後にはツイートを閲覧禁止にし、さらに一時的にテイラーさんの名前を検索しても結果になにもでないように制限をかけました。
ただ専門家は「テイラーさんの件が、世間に注目される事案だからすぐに対応がなされたと推測され、まれな例だ」と指摘しています。
では、一般のケースだと対応はどのように違うのでしょうか。デジタルヘイト対策センター（Center for Countering Digital Hate）は、ユーザーが不適切な内容を運営側に知らせる「通報」機能への対応を調査しました。
「Ⅹ」では、通報後7日がたっても、30件の投稿のうち29件つまり8割以上が対応されず放置、という結果に。また、通報された100アカウント中90アカウントがその後も引き続き利用できる状態だったのです。
■利益 VS 倫理
なぜこんなにも放置されるケースが多いのか？背景を調査をしたデジタルヘイト対策センターのカルム・フッド氏に聞きました。
