『ライザのアトリエ』チャットAIアプリ『RyzaChat:AI』、入力内容にも制限導入へ。キャラクターや作品性を守るために

デベロッパーのSpiralAIは9月29日、『RyzaChat:AI ライザと創るあなただけのひと夏の夢物語』の運営方針に関する声明を発表。キャラクターの扱いについて懸念が生じている状況を受け止め、現在および今後の対応を伝えている。

本作は、RPG『ライザのアトリエ 1〜3』の世界を舞台に、「話すだけ」で旅・調合・戦闘までを楽しめる、フリーシナリオ型のAIチャット形式RPGだ。コーエーテクモゲームスよりライセンスを受けて開発された。決められたシナリオはなく、『ライザのアトリエ』シリーズの主人公であるライザとの会話を通じて物語を紡いでいくことが可能。「RPGモード」の進行に応じてクエストをこなしていけるほか、「雑談モード」にてライザとゆっくり過ごすことも可能だ。

SpiralAIが今回発表した声明では、本作でのキャラクターの扱いについて、多くの意見や心配の声が寄せられていることを重く受け止めていると説明。そして同社のAIチャットアプリを通じて、キャラクターに公序良俗に反する発言をさせようとする行為をはじめ、当社AIチャットアプリを装った加工・偽造画像など、著しく作品性を貶め、棄損する行為を容認しない立場を明確にした。

その上で、これまではライザ自身が世界観やライザらしさから外れる話題には応じないようにするほか、ユーザーの入力の内容を噛み砕いてキャラクターに伝えるようにゲームマスターAIを挟んだり、不適切な表現が応答に含まれた場合には、表示の直前で止めたりする仕組みを設けてきたという。また、公序良俗に反する内容は、キャラクターの記憶に含めない処理もおこなっているそうだ。

しかしプロンプトインジェクション、すなわち本来制限されているはずの応答を無理やりライザから引き出すような操作も一部のユーザーによって試行されてしまった模様だ。SpiralAIは「『RyzaChat:AI』をはじめとする当社のAIチャットアプリを通じて、キャラクターに公序良俗に反する発言をさせようとする行為をはじめ、当社AIチャットアプリを装った加工・偽造画像など、著しく作品性を貶め、棄損する行為を、当社は容認いたしません。」として方針を説明。10月に予定しているAIモデルのアップデートとあわせて、ユーザーの入力内容に制限を設けるように仕様を変更するとのこと。導入後も状況を確認しながら、入力できる文字数などの調整を検討しているという。

さらに、先述した同社の方針に記載されているように本作の画面であるかのように加工・偽造された画像や動画なども拡散されている状況にあるという。SpiralAIはこうした画像や動画について、各サービスの運営者への削除申請や申し立てなどの対応をおこなっており、今後も順次対応していくとしている。

なおSpiralAIは8月27日にも声明を発表し、利用規約を遵守して本作をプレイするように、ユーザーに呼びかけていた（関連記事）。今回の声明でも改めて利用規約の範囲で本作を楽しむように伝えている。注意喚起を経ても依然として規約に反するような用いられ方はみられたようで、運営側で規制を強めることを決定したかたちだろう。キャラクターとのAI対話が、原作とキャラクターを愛するユーザーに受け入れてもらえるものとなるよう、責任をもって取り組むと表明している。

なおSpiralAIからは『ソフィーのアトリエ2 〜不思議な夢の錬金術士〜』の世界をもとにした『SophieChat:AI』がリリース予定であることも発表済み。今後もキャラクターとのAI対話を別作品に展開していく同社が、作品やキャラクターをどのように守りながらサービスを運営していくのかは注目されそうだ。

『RyzaChat:AI ライザと創るあなただけのひと夏の夢物語』は、iOS/Android向けに基本プレイ無料にて配信中。『SophieChat:AI』は現在開発中だ。