«ВКонтакте» разработала алгоритм для борьбы с «группами смерти»
Используемая нейросеть определяет предметы и сущности на фотографиях, пишет газета "Известия". Она понимает не только, что значит "человек", "ребенок", "животное", "растение", но и может определить предмет одежды или символ "группы смерти". В целом имеется несколько тысяч классов, присваиваемых картинках по нескольким параметрам. Если изображение охарактеризовано как запрещенное, оно отправляется модераторам для проверки. Если оно признано умеренно опасным, то пропадает из поиска и теряет приоритет в новостной ленте. Картинки с суицидальным контентом, однако, удаляются автоматически, а страницы их авторов блокируются. Технология способна анализировать и текстовые надписи.
Умная лента была введена в социальной сети в прошлом году. Принцип ее работы заключается в том, что записи друзей отображаются в приоритетном порядке, с учетом интересов пользователя: чему он больше ставит лайки, то чаще и видит. Сделано это для того, чтобы каждый получал максимально интересную и полезную для него информацию. Сегодня такой лентой пользуются 80% активной аудитории "ВКонтакте", пишет издание.
Данный механизм поможет остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой запрещенной информации, считают разработчики.
