Activisionは8月31日、『Call of Duty: Modern Warfare III』において、AIによる有害ボイスチャット検出機能を導入することを発表した。この機能はボイスチャットにおけるヘイトスピーチ、差別用語、ハラスメントなどの有害な言動をリアルタイムで検出/記録する。同作における悪質行為対策を強化する目的で導入されるとのこと。
『Call of Duty: Modern Warfare III』（以下、CoD: MW III）は、2022年発売のFPS『Call of Duty: Modern Warfare II』（以下、CoD: MW II）に続く作品となる。開発はInfinity Ward との協力のもと、Sledgehammer Gamesが主導しているという。本作では前作直後の物語を描くキャンペーンモードおよびマルチプレイモードが用意されている。マルチプレイモードにおいては、2009年発売のオリジナル『Modern Warfare 2』に登場したマップ全16種に加え、発売後には12種のマップが追加予定。Call of Dutyの20周年を記念して、過去最高数のマップ収録が予定されている。
今回の発表では、11月10日に発売を控える『CoD: MW III』内に、ボイスチャットにおけるヘイトスピーチ、差別用語、ハラスメントなどの悪質な言動を検出/記録する機能が導入されることが明らかにされた。これには、Modulate社の提供するボイスチャット検出ツール「ToxMod」が利用されているとのこと。同ツールは、AIの機械学習を利用してボイスチャットにおける有害な言動をリアルタイムで検出、およびその深刻度の判定などをおこなう。また、導入されたゲームごとの行動規範を適用させることや、音声に含まれる感情やニュアンスの判別が可能であるとされている。
今回の発表にあわせて公開されたFAQの説明によれば、ToxModによる有害な言動の検出/判定はリアルタイムでおこなわれるものの、それに基づいたペナルティは必ずしも即時に下されることはないという。同機能は、ゲームであらかじめ告知されている行動規範に則り、有害と見なされるボイスチャットの検出/記録のみをおこなう。その後、前後の文脈を確認するために追加の検証（review）がおこなわれる場合もあるそうだ。人間による対策チームによって記録データを参照するかたちかもしれない。そうした一連の工程ののち、ペナルティの是非が判断されるそうだ。また、同FAQ内ではToxModを用いた有害な言動への対応時間および判定精度は、同機能の機械学習が進むにつれて短縮されていく可能性についても併記されている。
これらのToxMod導入およびボイスチャット検出機能は、8月31日より既存タイトル『CoD: MW II』の北米プレイヤー（英語でのボイスチャット）を対象として試験導入されるとのこと。その後、『CoD: MW III』のリリースと同時に、アジアを除く全世界を対象として導入される予定だ。今後、同機能による検出の対応言語は追加されていく予定とのこと。
『Call of Duty: Modern Warfare III』はPC（Steam/Battle.net）およびPS4/PS5/Xbox One/Xbox Series X|S向けに11月10日に発売予定だ。
