Цвет кожи - новая проблема для «автомобилей будущего»
Ученые из Технологического института Джорджии (США) выяснили, что системы распознавания людей, которые используются беспилотными автомобилями, испытывают существенные трудности с идентификацией чернокожих людей.
Системы распознавания лиц не впервые испытывают проблемы с идентификацией людей с темной кожей: в этом случае искусственный интеллект часто теряется и не может корректно распознать образ. Однако алгоритмы, используемые системами автономного вождения, оказывается, тоже испытывают трудности с распознаванием чернокожих, а это уже грозит серьезными происшествиями с участием беспилотных автомобилей.
Искусственный интеллект может поставить под угрозу жизнь и безопасность пешеходов с темной кожей, выяснили специалисты из Джорджии. Они исследовали восемь моделей искусственного интеллекта, используемых в современных системах распознавания объектов, каждая из которых обучалась по стандартному набору данных. Системы позволяют беспилотным автомобилям распознавать дорожные знаки, пешеходов и другие объекты уличной сети.
Специалисты протестировали модели с использованием изображений пешеходов, разделенных на две категории на основе оценок по известной шкале Фитцпатрика, которая используется для классификации цвета кожи человека. Шкала делит людей на шесть типов, где I - самый светлый цвет кожи, VI - самый темный. Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами трех самых темных оттенков кожи.
В среднем точность моделей снизилась на 5% при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи - даже когда учитывались такие факторы, как время суток или объекты, которые заслоняли пешехода. Стоит отметить, что алгоритм опирается только на те данные, которые присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет.
Кто получит 175 миллионов за лучший автомобиль-беспилотник?
И это является проблемой, потому что в подобных базах светлокожих людей, как правило, значительно больше, чем чернокожих. Ученые разработали рекомендации, необходимые для предотвращения подобных казусов: нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и тем самым повышать точность показателей определения этих изображений системами распознавания.
