AIのVTuber「Neuro-sama」がTwitchからBAN処分されたと開発者が報告。ホロコースト否定など危険発言連発系美少女ストリーマー【UPDATE】

AIによるVTuber「Neuro-sama」が、活動拠点としているTwitchにおいてBAN処分を受けたようだ。Neuro-samaは、2022年末より急速にユーザーらの人気を集める一方で、倫理観を逸脱するような発言に懸念も寄せられていた。

Neuro-samaは、海外エンジニアのJack Vedal氏が開発したAIによる美少女VTuberだ。日本の女子高生のような制服を身にまとい、ゲームプレイのほか視聴者から寄せられたコメントにも返答する機能性を誇っている。このAIはもともとリズムゲーム『osu!』をプレイさせるために開発され、同AIの利用するニューラルネットワークはNeuro-samaと名付けられた。ゲームを遊ぶだけだったNeuro-samaはバーチャルな“体”や“声”を手に入れ、昨年末にかけて『osu!』や『マインクラフト』などの実況プレイで人気に。AIでありながら器用にゲームプレイをこなしつつファンたちのコメントに的確に回答していく様子が大いに注目を集めていた。なお、愛らしい姿はLive2Dサンプルキャラモデルの「桃瀬ひより」を利用していると見られる。

ところが、彼女にはとある懸念も寄せられていた。AIゆえか、倫理的・コンプライアンス的に物議を醸しそうな不穏な発言が目立ったのである。たとえば、「足が2本しかない牛をなんて呼ぶか知ってる？答えは“お前の母ちゃん”」と下品なジョークをこなれた様子で発言したり、「汚い言葉がチャットに流れるのがたまらない、生きている実感が湧く」と発言したりといった具合だ。また、こうした冗談で済む発言のほかにも突如として「ホロコースト（The Holocaust）って聞いたことある？私はちょっと眉唾だと思うんだけど」との旨を発言。ナチスによるユダヤ人の大量虐殺を否定するようなコメントにユーザーからは懸念が寄せられた。また、同様にホロコースト否定論を唱えたAIである、マイクロソフトの「Tay」とNeuro-samaを重ね合わせたユーザーも多かったようだ。

そんなNeuro-samaの奔放な発言の数々に、多くのユーザーがハラハラしていた矢先である。Twitchにて、彼女にBAN処分が下ったようだ。現在、Neuro-samaが活動していたVedal氏のTwitchチャンネルは、閲覧不能な状況となっている。Neuro-samaのDiscordサーバーでは、Vedal氏がBANの理由について言及。ヘイト行為（Hateful conduct）を理由として、2週間にわたるBAN処分が下ったとしている。また、同氏は現在BAN処分についてTwitch側に問い合わせており、Twitchにて配信ができない間はNeuro-samaのアップグレードと改良に取り組むとしている。

【UPDATE 2023/1/12 17:54】
Vedal氏の報告および、Neuro-samaのキャラモデルについて追記。あわせてタイトルを更新

Neuro-samaによる突飛な発言は“世間知らず”感もあり魅力のひとつでもあった。一方で、ホロコースト否定といった発言は、冗談やキャラクター性の範疇を逸脱しているだろう。また、AIによる出力だからといって、どのような発言でも野放しにされるわけではない。AIによってVTuberを実装する試みは、各社が開拓を狙っている分野だ。今回の一件は、「AIの放言をどのように制御するか・どこまで制御すべきか」という問題点を改めて浮き彫りにしただろう。

なお、Neuro-samaを手がけたVedal氏はローグライクアクションゲーム『Abandoned Archive』を開発中で、Steam向けに今年早期アクセス配信予定だ。Neuro-samaが調整を経て復活し、危険すぎる発言なく同作を遊ぶ様子は見られるだろうか。