Программа распознавания лиц Amazon не отличает темнокожих мужчин от женщин
Противоречивое программное обеспечение распознавания лица от Amazon вновь сталкивается с критикой. Новое исследование от MIT Media Lab обнаружило, что программа Rekognition может иметь половые и расовые предрассудки.
В частности, программное обеспечение работало хуже при определении пола темнокожих женщин.
Исследователи заявили, что в своих тестах технология Amazon помечала темнокожих женщин как мужчин в 31% случаев. Светлокожих женщин неправильно идентифицировали в 7% случаев. Темнокожие мужчины имели 1% ошибок, в то время как светлокожие мужчины не имели ошибок вовсе.
Искусственный интеллект может имитировать предубеждения своих человеческих создателей. Новое исследование, опубликованное в четверг, предупреждает о возможном злоупотреблении и угрозах неприкосновенности частной жизни и гражданских свобод со стороны технологии опознавания лиц.
Ученый из Массачусетского технологического института Джой Буоламвини провел исследование, в ходе которого было установлено, что программное обеспечение для анализа лиц, созданное IBM, Microsoft и китайской фирмой Megvii, обладает расовыми и гендерными предрассудками. Исследование вызвало серьезную негативную реакцию, Microsoft и IBM пообещали переоборудовать свое программное обеспечение, чтобы оно было более точным.
Amazon, тем временем, не внесла никаких изменений после статьи.
Эксперты, а также авторы доклада предупреждают, что если программное обеспечение распознавания лиц будет по-прежнему отражать гендерные и расовые предрассудки, это может привести к расовому профилированию и другой несправедливости.
Amazon неоднократно сталкивался с призывом прекратить продажу Rekognition полиции. Считается, что ФБР тестирует противоречивую технологию распознавания лиц, в то время как обнаружено, что Amazon продал эту услугу правоохранительным органам в городе Орландо и округе Вашингтон, штат Орегон. Также считается, что эта технология была предложена иммиграционной и таможенной службе США (ICE).
Ранее в этом месяце акционеры Amazon написали письмо генеральному директору Джеффу Безосу, требуя прекратить продажу спорной технологии распознавания лиц компании полиции. Акционеры призывают Amazon прекратить предлагать продукт под названием Rekognition государственным органам, пока он не пройдет проверку соответствия гражданским правам и правам человека.
Это письмо последовало за аналогичной критикой, высказанной 450 сотрудниками Amazon, а также группами защиты гражданских свобод и членами Конгресса за последние несколько месяцев.
