Amazon продлила мораторий на использование своего ПО для распознавания лиц полицией
Amazon продлила мораторий на использование полицией своего программного обеспечения для распознавания лиц на неопределенный срок, согласно источнику Bloomberg. Это свидетельствует о том, что компания не смогла решить вопросы о способности технологии правильно распознавать людей с темной кожей.
В июне прошлого года Amazon объявила о перерыве на год, чтобы дать законодателям время для регулирования технологии. Эксперименты, показывающие, что алгоритмам иногда сложно идентифицировать людей разных рас, вызвали опасения, что афроамериканцев можно ошибочно принять за подозреваемых в совершении преступлений.
Amazon Web Services выпустила программное обеспечение под названием Rekognition в 2016 году. Оно идентифицирует объекты в неподвижных изображениях и видео. Полиция может использовать эту технологию для поиска подозреваемых в уголовных расследованиях путем записи видеонаблюдения по базам данных фотографий, включая базы данных нынешних и бывших заключенных.
Конкуренты Amazon, Microsoft и Google, обладают схожими возможностями. Программное обеспечение Amazon стало предметом интенсивных дебатов о возможности нового мощного программного обеспечения подорвать права человека после того, как Американский союз гражданских свобод заявил, что такие инструменты могут неправильно идентифицировать людей. Группа подчеркнула отношения Amazon с офисом шерифа в Орегоне и городе Орландо, двумя клиентами, которых Amazon рекламировала в своих маркетинговых материалах.
Amazon защищала продажу Rekognition правоохранительным органам, но давление на компанию усилилось после того, как в январе 2019 года исследование, проведенное двумя исследователями искусственного интеллекта, показало, что программное обеспечение допускает больше ошибок при использовании на людях с более темной кожей, особенно женщинах. Отдельно ACLU протестировал программное обеспечение на членах Конгресса и обнаружил, что 28 из них ложно сопоставлены с фотографиями, непропорционально выбрав депутатов из числа меньшинств.
Microsoft Депутаты Правоохранители США
