Стартап создал технологию обмана систем распознавания лиц
Израильская компания Adversa разработала технологию Adversarial Octopus для обмана алгоритмов распознавания лиц, чтобы те идентифицировали одного человека как другого. Об этом пишет Motherboard.
Модель добавляет незначительные изменения или шум к исходному изображению. Для демонстрации ее возможностей разработчики обработали фотографию генерального директора компании Алекса Полякова и загрузили ее в общедоступную систему по распознаванию лиц PimEyes. Сервис ошибочно идентифицировал его как Илона Маска.
В отличие от похожих технологий Adversarial Octopus более адаптивный, скрытный и точный, сказал Поляков.
"Другие методы просто прячут вас, не подменяя кем-то другим", - добавил он.
По словам Полякова, Adversarial Octopus может подорвать обучение систем распознавания лиц, добавляя шум на изображения из тренировочного набора данных. Метод не требует внутренних знаний о том, как обучалась эта система.
Он также признался, что алгоритм представляет собой "черный ящик" и его создатели не понимают логики того, как нейросети достигают своей цели.
Компания пока не опубликовала рецензируемое исследование, объясняющее Adversarial Octopus. Поляков сказал, что они планируют обнародовать данные после завершения процесса ответственного раскрытия информации: осведомления компаний, занимающихся распознаванием лиц, об уязвимостях и способах защиты от них.
