Mod制作者のRobbie氏は7月1日に、『The Elder Scrolls V: Skyrim』（以下、スカイリム）にてユーザーが制作するポルノModに関する注意喚起を投稿。同氏は一部のポルノModには、ゲームの音声ファイルを無断で利用したAIによる生成音声が含まれている点に強い懸念を表明している。この投稿は海外の声優コミュニティからも注目を集めており、海外メディアPC Gamerなどが報じている。
『スカイリム』は、Bethesda Softworksが2011年11月にリリースしたオープンワールドARPG。発売から12年を迎える現在に至っても根強く愛されている作品だ。ユーザーによるMod制作が盛んで、Modの内容も多種多様。中にはゲーム内のキャラがAIによる合成音声で喋るものもある。
そんな同作のMod制作コミュニティでは、ゲーム内の声優のボイスがAIによる生成音声としてポルノコンテンツに無断で利用されているという。同コミュニティの内の一人、Robbie氏は7月1日に自身のTwitterアカウント上でこれに関する問題提起をおこなっている。同氏によると、本作含むシリーズ作品から抜き取ったボイスファイルがAIによる音声合成に用いられ、ポルノModへ無断使用されているとのこと。Mod上では、AIによる生成音声で声優の声が再現され、不適切な内容を喋っているようだ。
またRobbie氏がTwitterアカウントに投稿した画像には、このAIによる音声生成の悪用被害を受けている声優の名前が列挙されている。同氏が独自調査で発見した声優のみが挙げられており、ほかにも同様の被害を受けている声優はいるかもしれないとのこと。同氏は声優たちには注意喚起をおこなうと同時に、ボイスファイルなどの権利を有すると見られるBethesda Game Studiosおよびその親会社ZeniMax Mediaへの問い合わせを促している。
こうした注意喚起を受けて該当の被害者だけでなく、多くの声優が本件に対して反応を示した。Robbie氏のTwitterの投稿には本稿執筆時点で994リツイート・128件の引用リツイートが寄せられており、海外声優たちの意見が多く集まっているようだ。たとえば声優のZane Schacht氏は、「同意なしに声優の声を利用して何でも喋らせる行為は、特にポルノコンテンツの場合に酷く凶悪だ」と述べている。彼らの多くが、ボイスファイルを無断利用してのAIによる音声生成を批判する姿勢を見せている。
NAVA（全米声優協会）のTwitterアカウントも、「声優やゲーム会社にとって、AIや合成音声が与える被害は深刻だ」とコメント。Bethesda Game StudiosとZeniMax Mediaに対して、協力を求めている。
そしてRobbie氏は7月5日、Redditで本件に関してより詳細な説明をおこなっている。この投稿に記載された自己紹介によると、同氏はBethesdaのさまざまなゲーム（特に『スカイリム』）のModコミュニティに長年関わり、自身でも数十のModを作成してきた人物のようだ。『スカイリム』のModコミュニティに身を置くからこそ、本件のような事例を見過ごせなかったのだろう。
また同Reddit投稿では、AIにより生成された音声の悪用事例が挙げられている。下記の動画では、声優のSusan Eisenberg氏が演じる『スカイリム』のキャラAlvaが、Modによりわいせつな表現を含む内容を話している様子が見られる。このModではAlvaのボイスファイルなどが無断利用されてAIによる音声生成に用いられているのだろう。
Robbie氏による説明を参照すると、本件で問題となったようなModは主に、Mod共有サイト「Nexus Mods」へ投稿されているとのこと。同サイトは4月27日に、AI生成コンテンツを利用したModに関して声明を発表していた。声明によると、AI利用について社内外で検討した結果、現時点ではガイドラインに変更を加える必要性はないと結論を出したようだ。同サイトは新たな技術により、Mod制作者が充実したコンテンツを提供できるようになることを期待していると説明。一方で、同サイトはAIにより生成ツールが悪用された場合の危険性も認識しているといい、「権利者からの信頼できる苦情」を受けた場合、該当コンテンツを削除する可能性があると述べている。つまりNexus Modsは、同声明でAIを利用して生成したコンテンツを積極的には規制しない姿勢を見せたかたちとなる。なお同声明の最後では、AIに関する法令状況に応じてこのポリシーを変更する可能性があると触れられている。
一方でRobbie氏によれば、同サイトで権利者がAIによる生成コンテンツを含むModを見つけるのに手間がかかり、現実的ではないという。同サイトではAIによる生成コンテンツを含むMod向けのタグが用意されているものの、Mod投稿者がこのタグを用いない場合もある。また音声を含むコンテンツでは、権利者が自分の権利物が使用されているかどうかを動画やゲームへの導入を通して逐一確認しなければならない。したがって今回のようなケースでは、著作権侵害を訴えるために声優たちは大きな苦労を要して悪用されているModを探す必要がある。
Robbie氏はこうした状況はNexus Modsの運営姿勢だけでなく、そうしたコンテンツを作り出して消費するModコミュニティにも問題があると指摘。TwitterやRedditで問題提起するに至ったようだ。なおPC Gamerに寄せられた同氏のコメントによると、同氏の当初の目標は被害を受けている特定の数人の声優に気づいてもらうことだけだったとのこと。しかし予想に反して声優コミュニティ全体が本件に注目することになったかたちだ。
現状、各国ではAIにより生成されたコンテンツの法的な扱いは定まっていない状況にある。米国では、訓練データ用画像の権利侵害の可能性を巡って、MidjouneyなどAIによる画像生成サービスの運営・開発元3社を相手取り、集団訴訟が提起されている（The Washington Post）。また日本でも、知的財産推進計画の一環として技術の発展と著作権保護の両面から議論・検討が進められている只中にある。Nexus Modsが規制に慎重な姿勢を取るのも、AI技術に対する法整備が追い付いていないことが一因にありそうだ。
一方で本件では特定の声優の音声がAIにより合成され、再現されてポルノModに利用されていた点には留意したい。不特定多数の訓練データから生成されるコンテンツと違って、ひとりの声優の知的財産権を侵害したり、名誉を毀損したりしている可能性がある点も問題だろう。
いずれにせよ、今回の一件を受けて、声優コミュニティがAIにより生成された音声の悪用に注目する結果となった。今後AIによる生成音声を含むポルノModの規制に関して、Nexus Mods側より具体的な対応がなされるか、またBethesda Game Studios側からの働きかけがあるのかも注目されるところだろう。
なおRobbie氏は本件において、AIによる生成音声が使用されたポルノModを列挙するGoogleドキュメントを公開している。先述のReddit投稿によると、このうち複数のMod制作者は、本件を受けてすでに対応をおこなっているとのこと。同氏の問題提起は、一部Mod制作者コミュニティでのAIによる生成音声使用に関する意識に、一定の変化をもたらしたようだ。
