«ВКонтакте» разработала нейросеть для распознания суицидального контента
Социальная сеть «ВКонтакте» решила бороться с публикациями суицидального характера. Разработанная нейросеть будет распознавать опасный контент, который в итоге смогут заблокировать.
Представители сети «ВКонтакте» давно были озабочены стремительным развитием страничек и сообществ, пропагандирующих суицид. Человеческие ресурсы не могут полноценно отслеживать подобный контент. Доля борьбы с ним была разработана нейросеть, способная распознать картинки, имеющие суицидальный посыл.
Разработанная программа распознает людей, животных, предметы одежды, надписи и символику. Все «подозрительные» картинки и записи будут отправляться на доработку к модераторам, которые будут изучать содержимое контента, после чего страничку заблокируют.
Нейросеть сможет предотвратить стремительный рост страничек, на которых пропагандируется смерть, а в дальнейшем она поможет в борьбе с мошенничеством.
