Сбой Facebook показывает, как ИИ компании помечает фотографии пользователей
Что ж, благодаря "короткому замыканию" Facebook, пользователи социальной сети испытывали проблемы с загрузкой изображений. Однако многие изображения на сайте были заменены тегами, которые были назначены системами машинного отслеживания компании.
Поэтому, когда вы просматриваете свои загруженные фотографии, вместо того, чтобы видеть праздничные фото и друзей, вам будет показан текст, говорящий, что содержит та или иная фотография. Об этом сообщает Информатор Tech, ссылаясь на The Verge.
Те же самые теги изображений отображаются и в Instagram, а также подробно описывают общую сцену и описания объектов, изображенных на фото. Кроме того, описания предполагают, кто находится на фотографии на основе распознавания лиц Facebook. Компания использует машинное обучение для «чтения» изображений таким образом, по крайней мере, с апреля 2016 года, и проект является важной частью усилий по обеспечению доступности компании. Такие теги используются для описания фотографий и видео для пользователей с нарушениями зрения.
Неясно, использует ли Facebook эту информацию и для таргетинга объявлений. На этих изображениях содержится много данных о жизни пользователей, которые они могли бы защитить от Facebook: есть ли у вас домашнее животное, какие у вас хобби или где вы любите отдыхать. Еще в 2017 году один программист задал эти вопросы в ответ на создание расширения Chrome, которое раскрывало эти теги. Тогда он писал: «Я думаю, что многие интернет-пользователи не понимают, какой объем информации кампании обычно извлекают из фотографий».
Судя по реакции пользователей в Twitter на этот сбой, это, безусловно, новая информация для многих людей. Независимо от того, как эти сведения используются - это увлекательный взгляд за кулисы одной из крупнейших в мире операций по сбору данных. Это также показывает, в какой степени визуальный мир стал машиночитаемым.
One nice thing about Facebook being utterly borked right now is it gives you a chance to see what its (very nice!) accessibility feature auto-alting images does.https://t.co/a3w9PcOosR pic.twitter.com/dnTXOih8Hp
- Dieter Bohn (@backlon) 3 июля 2019 г.
Усовершенствования в области глубокого машинного обучения за последние годы действительно произвели революцию в данном сегменте, и визуальный контент в интернете часто так же легко читается машинами, как текст. И самое страшное то, что только когда система выходит из строя, как вчера, мы понимаем, что творится "за кулисами".
