Roblox уже год использует машинное обучение для модерации голосового чата. Об этом рассказали на GDC 2025 технический директор Киран Бхат и глава отдела безопасности голоса Ханнес Хейкинхеймо. Система работает в 31 стране и снизила число жалоб на токсичность вдвое за час активных разговоров. ИИ распознаёт ключевые слова и ловит 85% нарушений, опираясь на 50 основных фраз. Но в сложных случаях люди всё ещё выигрывают у технологий.
Модерировать голос в реальном времени — задача не из лёгких. Нужно не только понять слова, но и уловить тон, интенсивность и контекст. Бхат отметил, что ИИ хорош в типовых ситуациях: он стабилен, не устаёт и не срывается, в отличие от человека. Но если случай редкий или тонкий — например, сарказм или необычный подтекст, — машина не справляется.
Игроки Roblox всё чаще используют голосовой чат, а с ним растёт и токсичность. ИИ помогает держать это под контролем, но не заменяет людей полностью. Activision тоже хвалит свои ИИ-инструменты в Call of Duty, но Roblox доказывает — пока мы, люди, не потеряли своей ценности.