×

“ニセ音声”の有働由美子「私はタイガースより、ジャイアンツのファンです」――10秒でAIが作成 SNSでも投稿相次ぐ…問題は?

2023年9月27日 11:17
“ニセ音声”の有働由美子「私はタイガースより、ジャイアンツのファンです」――10秒でAIが作成 SNSでも投稿相次ぐ…問題は?

AIで本人に近い音声が簡単に作成でき、SNSで投稿が相次いでいます。有働由美子キャスターの音声をAIに学習させると、すぐにニセの音声が完成。AIが音声を作成するのは違法ではありませんが、悪用のリスクもあり、声優から困惑の声も上がっています。

■生成AIのニセ音声…クオリティーは?

佐藤梨那アナウンサー
「有働由美子キャスターのような声に聞こえる、『こんばんは。news every.です。今夜は3時間お付き合いください』という音声があります。これは生成AIが作ったニセモノの音声です」

「SNSでは『#歌わせてみた』『#aicover』といった投稿が相次いでいて、例えばアニメ『名探偵コナン』のコナン君や著名人の声で、全く関係のない曲を歌わせる動画が数多くあります。声優側からは困惑の声も上がっています」

■「ニセの声」が勝手に作られる恐れも

小野高弘・日本テレビ解説委員
「問題は、簡単に作れてしまうことです。サイバーセキュリティー会社のトレンドマイクロに協力していただき、4秒ほどの(有働さんの)音声サンプルをAIに学習させました。これをソフトに取り込んで、読ませたい文言を打ち込みました」

「(すると)わずか10秒ほどで、AIが音声を作ってしまいました。(有働さんのニセモノの音声で)『私はタイガースより、ジャイアンツのファンです』とも言っています」

佐藤アナウンサー
「声は(まるで)有働さんですが、阪神ファンの有働さんは絶対言わないことを言っていますよね。本当に簡単にできてしまうのですね」

小野委員
「何だってしゃべらせてしまう、ということです。トレンドマイクロの担当者は『ソフトをダウンロードすれば、誰でも無料で作ることができます。その一方で、自分のニセの声が勝手に作られてしまう恐れもあります』と注意を呼びかけています」

■声優の団体「肖像権のようなものがない」

佐藤アナウンサー
「そもそもAIでニセモノの音声を作ることは問題ないのでしょうか?」

小野委員
「著作権法では、AIに著作物を学習させること、つまり誰かの音声を録音したものをAIが読み込むことは認められていて、作ること自体は違法ではありません。ただ、声優たちは困っています」

「大手声優プロダクション約50社が所属する日本声優事業社協議会は『声には肖像権のようなものがなく、無断で使われた場合の対応が難しい。作った音声でわいせつな言葉を言わせる、ウソや脅迫といった犯罪行為をされたら困る。今後の対策を協議中』と言います」

■落合さんに聞く…ルール作りは?

佐藤アナウンサー
「AIでかなり本人に近い音声ができているということですが、どう見ていますか?」

落合陽一・筑波大学准教授(「news zero」パートナー)
「僕は自分の声のAI音声を実際に使っていて、例えば展覧会の作品の説明をしている声がAIだったり、学生さんが遊び心で勝手に僕の声で電話をかけたりしています」

佐藤アナウンサー
「悪用される可能性を指摘する声もありましたが、今後ルール作りはどうしていくといいでしょうか?」

落合さん
「レギュレーションをかけると産業の発展が止まるので、僕は規制には反対の立場です。冷静に考えてみれば、新しい技術を使って犯罪が起きた時、取り締まられるべきは犯罪行為であって、技術ではないと思います」

「例えば『お母さん助けて』というAI音声を使ってオレオレ詐欺が起きたら、取り締まるのは詐欺行為それ自体です」

「合成音声を作ること自体を取り締まるのではなく、例えばわいせつな音声を作ってアップロードされたら、名誉棄損など取るべき措置を取るのがいいと思います。そこの使いようです」

佐藤アナウンサー
「取り締まるべきはAIではなく使い手のモラルということですね」

落合さん
「(公正な利用の場合、著作権の侵害にならない制度である)フェアユースの導入などがあるかもしれません」

(9月26日『news zero』より)