ИИ с машинным обучением забанил 20 000 «токсиков» CS:GO за полтора месяца

FACEIT - платформа для соревнований, в том числе по Counter-Strike: Global Offensive. Чтобы нанести удар по едкому поведению среди игроков, хозяева площадки заручились поддержкой облачной службы Google Cloud и технологического инкубатора Google Jigsaw. В результате родился «ИИ-админ» Минерва.

Минерва версии 0.1 уже работает на FACEIT. Пока что она сосредотачивается на текстовом чате: если ИИ засекает токсичность, виновник получает наказание, а ругательные сообщения отмечаются как спам.

Наказание зависит от количества нарушений: чем больше нарушений, тем серьезнее наказание. Сперва можно отделаться предупреждением и временным отстранением от матчей, а вот злостные токсики отхватывают бан. Минерва способна вынести решение в течение нескольких секунд после завершения матча.

Как пишет FACEIT, ИИ-админа тренировали в течение нескольких месяцев, чтобы минимизировать ложные срабатывания. Полноценный запуск Минервы состоялся в этом августе: разработчики перестали вручную вмешиваться в ее решения.

Итоги получились следующими:

• На этапе многомесячного обучения было проанализировано свыше 200 миллионов сообщений в чате. Из них 7 миллионов признали токсичными.

• За первые полтора месяца работы Минерва выписала 90 000 предупреждений и 20 000 банов за оскорбления и спам.

• Через месяц после запуска Минервы количество токсичных сообщений снизилось на 20.13 %.

CS:GO условно-бесплатна, за регистрацию на FACEIT денег тоже не требуют, поэтому для борьбы со смурфами на площадке вводят подтверждение данных по SMS. Чтобы принять участие в официальных матчах на FACEIT, пользователям, чей аккаунт подозревается в смурфинге, бустинге, потенциальном читерстве или токсичности, сперва придется привязать номер своего телефона.

Владельцы FACEIT довольны результатами Минервы и собираются развивать ее дальше - в том числе добавить ИИ в «другие системы» (видимо, имеются в виду другие игры).