Facebook внедряет новые технологии по борьбе с терроризмом
Представители администрации социальной сети Facebook заявили о начале тестирования нового программного обеспечения, с помощью которого будет осуществляться противодействие пропаганде экстремизму и терроризму.
Данные технологии опираются на различные элементы искусственного интеллекта и позволяют значительно реже использовать человеческий фактор для принятия решения, связанного с удалением или блокировкой запрещенного правилами социальной сети контента.
«Контекст зачастую имеет первостепенное значение, в особенности, когда дело касается тех случаев, когда мы имеем дело с визуальными изображениями, которые касаются терроризма. Для нас новая технология является крайне важной составной частью выявления и предупреждения появления подобного контента. При этом, именно у человека есть бесценная возможность без ошибки понимать контекст того или иного сообщения», - заявила Моника Бикерт, занимающая должность главы департамента по глобальной политике Facebook.
В компании также проинформировали, что уже в течении нескольких месяцев специалисты обещают испытать на практике новое программное обеспечение, которое предназначается для поиска и предотвращения всяческого распространения контента экстремистского характера. В качестве примера рассматривается убийство заложников. Еще один набор алгоритмов позволит выявлять, а после автоматически препятствовать пользователям из числа так называемых «идеологических вдохновителей терроризма».
Другой инструмент, использующий за основу технологию ИИ, который будет обучен особенностям и различным нюансам речи, вплоть до письменного стиля вербовщиков. В Facebook утверждают, что данные наработки максимально эффективны в автоматическом распознавании контента экстремистского толка. Соответственно, резко сокращается количество случаев, когда требуется вмешательство модератора Facebook, дабы окончательно принять решение об удалении учетной записи или же определенного фрагмента информации.
«Искусственный интеллект теперь способен зачастую принимать самостоятельный выбор», - заметил курирующий отделом противодействия терроризму в компании Брайан Фишмэн.
