ライブ動画配信サービスのTwitchは3月8日、「不適切なディープフェイクコンテンツ」に関する声明を発表した。ディープフェイク技術を用いて作られた偽のアダルト映像、通称「フェイクポルノ」の配信について、規約を更新するという。
フェイクポルノとは、AIを用いたディープフェイク技術を利用し、有名人の画像を合成した偽のアダルト動画。近年では技術の発展により、偽動画であると判断するのが難しいケースも増えてきている状況だ。Twitchではもともと性的コンテンツを制限しており、フェイクポルノの配信も禁じている。
しかしTwitchでは2023年1月、フェイクポルノをめぐる事件が発生した。ある配信者の配信画面に、「フェイクポルノを扱うアダルトサイト」が映り込んだのだ。このサイトには、有名な女性配信者のフェイクポルノが複数掲載されていたという。サイトを閲覧していたとしてバッシングを受けた配信者は、現在活動を停止している。サイトに自身のフェイクポルノを掲載された女性配信者も、この事件をきっかけに誹謗中傷などの被害を受けることになった。
こうした経緯を鑑みて、Twitchはフェイクポルノに関する声明と規約の更新を発表した。声明では、フェイクポルノの加害性について触れ、フェイクポルノのような「synthetic NCEI（同意なく作成された合成ポルノ画像）」は、“性的コンテンツと呼ぶべきでない（Calling synthetic NCEI content “pornography” is incorrect.）”との見解を示している。性的コンテンツは「複数の人間に閲覧されることを理解し、同意のもとで作成に関わる」人物が作るべきものであり、被写体の同意がないフェイクポルノは（商業向け）性的コンテンツとは性質が異なり、より加虐的であるという見解だ。
規約の更新については以下の通りだ。まず、「Adult Sexual Violence and Exploitation policy（成人向けの性的暴力および搾取に関するポリシー）」について、synthetic NCEI（フェイクポルノ）を意図的に宣伝、作成、または共有すると、初回の違反で無期限のアカウント停止になる可能性があることが明記される。また「Adult Nudity policy」の対象に、synthetic NCEIが含まれるようになるという。性的コンテンツへの規制対象にフェイクポルノが含まれるようになり、短時間の表示であっても規約違反として削除の対象になる旨を明記するとした。Twitchにおいてフェイクポルノはすでに規制の対象ではあるが、さらにわかりやすく、用語の変化に合わせて最新の状態に保つため、規約の文言を明確にするとのことだ。
これらのフェイクポルノに関する規約更新は来月におこなわれるとのこと。Twitchは今回の声明で、改めてフェイクポルノに対する立場を明確にしたかたちだ。あわせてフェイクポルノについて、「配信者がインターネットのどこでも直面しうる深刻な問題」と受け止め、被害に遭った場合の相談窓口を紹介している。被写体の同意なく、一方的に作成・共有が可能なフェイクポルノ。こうした悪質なコンテンツへの取り締まりは今後も続くことだろう。
