Искусственный интеллект еще не готов взять на себя модерацию контента
Эпидемия коронавируса нарушила работу обширной сети внештатных модераторов, нанятых подрядчиками Facebook и YouTube для проверки своего контента. На замену людям приходят программные инструменты на основе искусственного интеллекта (ИИ), но крупнейшая соцсеть и главный видеосервис мира уже предупредили о возможном снижении качества проверки и замедлении техподдержки клиентов.
Хотя технологические гиганты верят, что в конечном итоге ИИ-софт уменьшит потребность в человеческом контроле, многие эксперты, с которыми беседовали журналисты Bloomberg, считают, что искусственный интеллект еще не готов полностью взять на себя модерацию, поскольку при принятии решений об уместности или неуместности контента требуется учитывать множество нюансов.
"Теперь всем станет очевидно, насколько на самом деле они [ИИ-технологии] плохо работают", - заявила о расширении использования искусственного интеллекта для модерации профессор права в Университете Дрексель Ханна Блох-Вехба (Hannah Bloch-Wehba), специализирующаяся на вопросах регулирования интернета.
У Facebook насчитывается около 15 тысяч контрактных модераторов. Но если штатный персонал соцсети может работать дистанционно, то у контрактников, фильтрующих шокирующий контент, такой возможности нет, поскольку Facebook запрещает им работать из дома, ссылаясь на политику конфиденциальности и соображения правового характера.
Многие контрактные модераторы привлекаются через такие компании, как Accenture Plc, которая специализируется на услугах консалтинга и ИТ-аутсорсинга. В связи с ужесточением режима самоизоляции Accenture недавно распустила по домам часть персонала в Кремниевой Долине. Один из модераторов, попросивший не раскрывать своего имени, в беседе с журналистами предположил, что вынужденный отпуск может затянуться, если вообще не закончится потерей работы. В Accenture не ответили на запрос Bloomberg о комментарии.
Интересно, что буквально на следующий день после того, как Accenture отправила часть модераторов Facebook по домам (это произошло 16 марта), пользователи соцсети заметили участившееся удаление своих сообщений. Так, главный редактор новостного издания The Forward Джоди Рудорен (Jodi Rudoren) у себя в Twitter пожаловалась на исчезнувшие ссылки на сайт газеты, что привело к сокращению посетителей.
Спустя несколько часов, Facebook восстановил многие из удаленных линков. В соцсети объяснили случившееся сбоем в работе программных спам-фильтров, а вице-президент Facebook Гай Розен (Guy Rosen) заверил, что инцидент "не связан с изменениями в штате модераторов контента". Впрочем, позднее глава Facebook Марк Цукерберг (Mark Zuckerberg) признал, что из-за меньшего числа работающих контрактников соцсеть сократила модерацию контента людьми.
Произошедшее подорвало доверие пользователей к технологиям, которые Facebook использует для автоматической модерации.
"Я опубликовал научную статью о распространении COVID, и она не прошла модерацию. Ваша система машинного обучения словно из произведений Оруэлла. Если вы вводите цензуру на материалы о COVID, я навсегда покидаю вашу платформу", - написал у себя в Twitter специалист по геномике Кевин МакКернан (Kevin McKernan).
Google, на которую работают более 10 тысяч контрактников, недавно тоже объявила о расширении автоматической модерации в своих сервисах. В YouTube предупредили, что из-за этого возможно удаление большего числа видеороликов. Создатели контента имеют право оспорить автоматическую блокировку, но в YouTube не исключают задержек с рассмотрением апелляций, объясняя это "мерами по защите персонала".
Между тем, проблема дефицита кадров у ИТ-компаний может еще больше обострится на фоне всеобщего карантина в Индии. Страна считается мировым лидером в области ИТ-аутсорсинга и служит источником кадров для многих технологических компаний США.
