Корпорация Activision объявила о внедрении инновационной системы модерации голосового чата в игре Call of Duty: Modern Warfare 3. Для поддержания позитивного игрового опыта и сокращения токсичного поведения, компания воспользуется моделью ToxMod, основанной на искусственном интеллекте. Эта модель будет в режиме реального времени контролировать и фильтровать голосовые чаты.
ToxMod использует алгоритмы искусственного интеллекта для обнаружения негативных высказываний, включая язык ненависти и домогательства. В игре Call of Duty уже используется текстовая модерация в чатах на 14 языках, а также система оповещений.
Система модерации будет оперировать согласно Кодексу поведения Call of Duty, классифицируя нарушения и оценивая их степень серьезности. Компания подчеркнула, что искусственный интеллект не будет принуждать пользователей нарушать Кодекс поведения, а лишь выявлять и помечать негативные высказывания.
Тестирование системы стартует 30 августа в Северной Америке, а мировой релиз запланирован на 10 ноября, с выходом Modern Warfare 3. Первоначально поддерживаться будут английский и другие языки.