Власти Нью-Йорка ограничат влияние ИИ на рынок труда в городе
Американские регуляторы берут под контроль алгоритмы, связанные с рынком трудоустройства. Городской совет Нью-Йорка одобрил законопроект, согласно которому искусственный интеллект должен пройти ряд сложных проверок, прежде чем начнет принимать решения о найме людей на работу или их увольнении. Работа алгоритмов теперь должна быть полностью прозрачна, а соискатели могут потребовать провести собеседование с участием реального человека вместо продвинутого бота.
Как отмечает Associated Press, все больше работодателей - от сетей быстрого питания до банков на Уолл-Стрит - полагаются на автоматизированные инструменты, которые ускоряют поиск потенциальных сотрудников, прием на работу и оценку существующих рабочих мест. Алгоритмы ставят собеседования и анализ соискателей на поток - компании-разработчики уверены, что их модели способны определить ключевые навыки и личность будущего работника по тому, как он общается, что пишет в социальных сетях и где работал ранее.
С ростом спроса на HR-алгоритмы у американских законодателей возникли вопросы касательно того, насколько объективен ИИ при выборе кандидатов. По мнению авторов нового законопроекта, некоторые алгоритмы искажают отбор в пул кандидатов по заданным критериям и неверно интерпретируют характеристики высококвалифицированных специалистов. Чтобы избежать подобных проблем в будущем, Городской совет Нью-Йорка разработал и одобрил соответствующий акт.
Законопроект запрещает использовать системы ИИ, которые не проходят ежегодный аудит на предвзятость и не соответствуют "стандартам прозрачности" - работодатели и соискатели должны понимать, как работают алгоритмы и по какому принципу отбираются определенные кандидаты. В дополнение крупные организации не смогут отказаться от обычных HR-менеджеров - предприятия будут обязаны предоставить специалиста-человека по первому требованию соискателя. За невыполнение описанных требований предусмотрен штраф - $1,5 тыс. за каждый инцидент.
Мнения экспертов о законопроекте разошлись - одни положительно восприняли новый закон, другие заявили, что Совет недостаточно серьезно относится к опасности, которую представляет ИИ. Так, президент Центра демократии и технологий Александра Гивенс считает, что расплывчатые формулировки законопроекта могут дать частному сектору карт-бланш на использование алгоритмов так, как они этого хотят.
"Аудит на предмет предвзятости - это хороший подход. Проблема в том, что Нью-Йорк принял очень слабый и расплывчатый стандарт того, как это должно работать", - заявила Гивенс и добавила, что таким образом поставщики ИИ получили "фиговый лист", чтобы прикрыть им создание опасных продуктов.
Стоит отметить, что перед вступлением законопроекта в силу, он еще должен быть подписан мэром Нью-Йорка Биллом Де Блазио. У администрации Де Блазио есть месяц на то, чтобы проанализировать предложение Городского совета и принять окончательное решение, касательного того, как алгоритмы будут работать, начиная с 2023 года. При этом офис мэра предварительно подтвердил, что поддерживает новую инициативу.
