Обнародованы внутренние документы Facebook о борьбе с порно и сексуальными домогательствами
О нелегкой жизни модераторов.
Редакция Motherboard получила внутренние документы Facebook и копию учебного видео, где рассказано о том, как тренируются модераторы Facebook. Модераторы постоянно сталкиваются с проблемами порномести, сексуальными вымогательствами и фотографиями обнаженных частей тела. Предыдущие годы все эти изображения удалялись, сегодня Facebook внимательно рассматривает каждый конкретный случай и не блокирует аккаунты жертв порноатаки.
В прошлом модераторы Facebook помечали такие изображения как «порноместь» и отправляли на рассмотрение в вышестоящие органы, которые принимают решение о блокировке. Практически во всех случаях аккаунты, где находили нелицеприятные материалы, удалялись. В учебных материалах это называлось эскалацией.
Согласно видео, Facebook меняет свою политику: теперь модераторы только удаляют не соответствующее политике компании изображение, аккаунт пользователя при этом не блокируют. В видео показано, насколько сложными могут быть правила для модераторов Facebook: жертва должна явно осудить нелицеприятный контент в собственном посте для Facebook. В противном случае модераторы могут посчитать это порноместью.
Представитель Facebook рассказал Motherboard, что компания использует технологии распознавания объектов, чтобы вычислять нелицеприятный контент заранее. Также в компании работает специальный отдел, который просматривает контент на модерации и рассматривает все спорные случаи в ручном режиме.
В прошлом году мы рассказывали о том, как 1000 датчан получили обвинение в распространении контента сексуального характера без согласия участников (что равносильно порномести). Согласно заявлению датской полиции, неизвестные опубликовали в Facebook Messenger изображение и два видеоролика с 15-летними участниками. Материалы быстро распространились по сервису, и кто-то из пользователей пожаловался администрации Facebook.
