Facebook будет бороться с оскорбительными прямыми трансляциями при помощи ИИ
Глава команды прикладного машинного обучения соцсети Facebook Хоакин Кандела рассказал Reuters о работе над инструментами для автоматического блокирования прямых трансляциях насилия, наготы и другого контента, нарушающего условия использования сервиса. В данный момент функционал тестируется в Facebook Live.
Компания уже давно работает над технологией обнаружения экстремистского контента - например, видеороликов или фотографий, демонстрирующих жестокость. Однако, для того, чтобы начать находить такой контент во время потоковых трансляций, понадобится гораздо больше усилий.
Дискуссия вокруг трансляций в Facebook активизировались после того, как в прямом эфире американский полицейский застрелил ни в чем не повинного гражданина Антонио Перкинса. Запись трансляции не была удалена из соцсети, а лишь помечена предупреждением о том, что материал имеет сцены реального насилия. В то же время представители компании заявили, что будут удалять с сайта подобные ролики.
Как объяснил Кандела, на сегодняшний день существует две основные проблемы с поиском запрещенного контента в прямых трансляциях. "Наш алгоритм компьютерного зрения должен быть быстрым - с эти, я думаю, мы можем справиться", - заявил Кандела. - "Однако еще необходимо расставлять приоритеты таким образом, чтобы пользователь, ведущий трансляцию, мог избавиться от оскорбительных вещей".
