AIで本人に近い音声が簡単に作成でき、SNSで投稿が相次いでいます。有働由美子キャスターの音声をAIに学習させると、すぐにニセの音声が完成。AIが音声を作成するのは違法ではありませんが、悪用のリスクもあり、声優から困惑の声も上がっています。

■生成AIのニセ音声…クオリティーは？

■「ニセの声」が勝手に作られる恐れも

小野高弘・日本テレビ解説委員
「問題は、簡単に作れてしまうことです。サイバーセキュリティー会社のトレンドマイクロに協力していただき、4秒ほどの（有働さんの）音声サンプルをAIに学習させました。これをソフトに取り込んで、読ませたい文言を打ち込みました」

「（すると）わずか10秒ほどで、AIが音声を作ってしまいました。（有働さんのニセモノの音声で）『私はタイガースより、ジャイアンツのファンです』とも言っています」

佐藤アナウンサー
「声は（まるで）有働さんですが、阪神ファンの有働さんは絶対言わないことを言っていますよね。本当に簡単にできてしまうのですね」

小野委員
「何だってしゃべらせてしまう、ということです。トレンドマイクロの担当者は『ソフトをダウンロードすれば、誰でも無料で作ることができます。その一方で、自分のニセの声が勝手に作られてしまう恐れもあります』と注意を呼びかけています」

■声優の団体「肖像権のようなものがない」

佐藤アナウンサー
「そもそもAIでニセモノの音声を作ることは問題ないのでしょうか？」

小野委員
「著作権法では、AIに著作物を学習させること、つまり誰かの音声を録音したものをAIが読み込むことは認められていて、作ること自体は違法ではありません。ただ、声優たちは困っています」

「大手声優プロダクション約50社が所属する日本声優事業社協議会は『声には肖像権のようなものがなく、無断で使われた場合の対応が難しい。作った音声でわいせつな言葉を言わせる、ウソや脅迫といった犯罪行為をされたら困る。今後の対策を協議中』と言います」

■落合さんに聞く…ルール作りは？

佐藤アナウンサー
「AIでかなり本人に近い音声ができているということですが、どう見ていますか？」

落合陽一・筑波大学准教授（「news zero」パートナー）
「僕は自分の声のAI音声を実際に使っていて、例えば展覧会の作品の説明をしている声がAIだったり、学生さんが遊び心で勝手に僕の声で電話をかけたりしています」

佐藤アナウンサー
「悪用される可能性を指摘する声もありましたが、今後ルール作りはどうしていくといいでしょうか？」

落合さん
「レギュレーションをかけると産業の発展が止まるので、僕は規制には反対の立場です。冷静に考えてみれば、新しい技術を使って犯罪が起きた時、取り締まられるべきは犯罪行為であって、技術ではないと思います」

「例えば『お母さん助けて』というAI音声を使ってオレオレ詐欺が起きたら、取り締まるのは詐欺行為それ自体です」

「合成音声を作ること自体を取り締まるのではなく、例えばわいせつな音声を作ってアップロードされたら、名誉棄損など取るべき措置を取るのがいいと思います。そこの使いようです」

佐藤アナウンサー
「取り締まるべきはAIではなく使い手のモラルということですね」

落合さん
「（公正な利用の場合、著作権の侵害にならない制度である）フェアユースの導入などがあるかもしれません」

（9月26日『news zero』より）