ЮНЕСКО приняла первые в мире этические стандарты для ИИ: что изменится
193 страны ЮНЕСКО, включая Украину, на Генеральной конференции приняли первые в истории глобальные этические стандарты для искусственного интеллекта. Об этом пишет сайт Организации объединенных наций.
Генеральный директор ЮНЕСКО Одри Азуле 25 ноября представила официальный документ, который определяет общие ценности и принципы для создания правовых норм для развития искусственного интеллекта. Авторы упоминают проблемы, которые могут вызвать новые технологии: увеличение этнических и гендерных стереотипов, угрозы для конфиденциальности, тотальная слежка и злоупотребления со стороны правоохранительных органов.
"Миру нужны правила для искусственного интеллекта, служащего человечеству. Рекомендация по этике ИИ - главный ответ. Она устанавливает первую глобальную нормативную базу, в то же время возлагая на государства ответственность за ее применение на своем уровне. ЮНЕСКО поддержит 193 государства-члена в их реализации и попросит их регулярно отчитываться о своем прогрессе и практике", - заявила Одри Азуле.
Рекомендация выделяет четыре основных направления, в которых необходимо регулировать поведение искусственного интеллекта:
- защита данных,
- социальная оценка и массовое наблюдение,
- контроль,
- защита окружающей среды.
В ЮНЕСКО ожидают, что новые стандарты помогут использовать преимущества машинных алгоритмов и одновременно с этим снизят риски, связанные с прозрачностью и конфиденциальностью.
Защита данных
Документ призывает правительства и организации принимать меры, чтобы гарантировать гражданам безопасность личных данных и свободу действий. В частности, у каждого человека должна быть возможность просматривать или удалять информацию о себе. Регулирующие органы по всему миру должны обеспечить соблюдение этих стандартов.
Запрет социальной оценки и наблюдения за людьми
ЮНЕСКО запрещает использовать ИИ для оценки пользователей в социальных сетях и отслеживания их активности. Авторы пришли к выводу, что такие технологии слишком агрессивны, нарушают основные права и свободы человека, хотя очень широко используются. При разработке законов государства должны возлагать конечную ответственность исключительно на людей, а ИИ не может быть субъектом правовых споров.
Контроль и оценка
Предусматривается создание инструментов, которые помогут реализовать рекомендации. Специалисты будут оценивать этическое воздействие ИИ на людей, общество и экологию, чтобы помочь странам в разработке безопасных систем. Кроме того, методы ЮНЕСКО помогут государствам определить, насколько они готовы с точки зрения правовой и технической инфраструктуры. Документ предлагает правительствам нанимать независимых экспертов по этике ИИ или создавать прозрачные контролирующие органы.
Защита окружающей среды
Согласно рекомендации, разработчики должны отдавать предпочтение экономичным и безопасным методам, которые позволят использовать ИИ для борьбы с изменениями климата и другими экологическими проблемами. В том числе, технологии должны заботиться о снижении углеродного следа, потреблять как можно меньше энергии и использовать безопасное сырье.
