Новый ИИ-бот от FACEIT забанил 20 000 игроков в CS:GO
Токсичность - огромная проблема современного интернета и многих мультиплеерных игр. Чтобы противостоять этой растущей проблеме, FACEIT объединился с Google Cloud и Jigsaw, чтобы создать собственный ИИ-бот, который будет исполнять роль администратора и наказывать пользователей за неподобающее поведение.
Инструмент, получивший название Minerva, начал свою работу несколько месяцев назад. Фактически, за первые полтора месяца деятельности Minerva выпустила 90 000 предупреждений игрокам и раздала 20 000 банов за оскорбления и спам. В результате только за сентябрь количество токсичных сообщений сократилось на 20,13%. Об этом сообщает Информатор Tech, ссылаясь на FACEIT.
ИИ, который наращивает обороты с помощью машинного обучения, работает уже почти год, как часть программы FACEIT для очистки платформы от токсичных игроков.
«Стало ясно, что токсичность проявляется по-разному, и выявить и решить проблему непросто», - говорится в последнем сообщении блога FACEIT. «Требование значительной части сообщества состояло в том, чтобы беспристрастный администратор наблюдал и оценивал каждый матч на FACEIT, а также смог отсеивать чересчур токсичных игроков.
«Мы могли бы создать краткосрочное решение, но это не привело бы к желаемым результатам в долгосрочной перспективе, поскольку оно не позволило бы точно и быстро определить оскорбительное поведение, чтобы предпринять немедленные санкции к игрокам. Поэтому мы решили приступить к долгосрочным инвестициям: создать новую модель ИИ на основе машинного обучения».
Если Minerva обнаруживает, что сообщение чата может быть токсичным, оно может принять меры в считанные секунды. Пользователю отправляется предупреждение, и после трех раз выдается бан. Кроме того, повторные правонарушители будут подвергаться более суровым наказаниям каждый раз, когда они совершают преступление в течение короткого периода времени.
FACEIT уверен, что Minerva также дает реальные результаты, тратя месяцы на обучение машины через ложные сообщения, разработчики убеждены в том, что каждое предупреждение и бан выдается правильно.
И хотя токсичность FACEIT в настоящее время снижается, Minerva пометила более семи миллионов сообщений о токсичности в Counter-Strike: Global Offensive за первые пару месяцев.
Minerva также помогает решать проблему увеличения фейковых учетных записей и смартфонов на платформе, отмечая подозрительные учетные записи и прося пользователей подтвердить свой номер телефона перед входом в игру. Всего за два месяца Minerva зарегистрировала 250 000 учетных записей, из которых 50 000 были остановлены.
Это впечатляющий подвиг для машины, которая уже год находится в работе, и похоже, что она уже оказывает положительное влияние на мир конкурентных матчей. Будет интересно посмотреть, как FACEIT будет пользоваться Minerva в будущем.
Узнать еще больше актуальных новостей из мира технологий и игр, а также обсудить их можно в нашем Telegram-канале, и на страничках в Facebook и Instagram.
