Илон Маск и основатели DeepMind подписали соглашение о запрете разработки летального ИИ
Основатель компаний SpaceX и Tesla Илон Маск и три основателя компании DeepMind подписали соглашение, которое запрещает разработку "автономного летального оружия". Как сообщает The Verge, в документе говорится о том, что системы оружия, которые используют искусственный интеллект "для выбора и поражения целей без участия человека", несут моральные и прагматические угрозы.
С моральной точки зрения решение о лишении человека жизни "не должно быть передано машине", с прагматическо же, "распространение подобного оружия несет угрозу опасной дестабилизации для любой страны и человека".
Подписание письма было инициировано некоммерческой организацией Future of Life Institute на конференции International Joint Conference on Artificial Intelligence, которая проходит в Стокгольме. Среди тех, кто подписал письмо, Маск, основатели DeepMind Шейн Легг, Мустафа Сулейман и Демис Хасаабис, основатель Skype Жаан Таллин, всего в списке 164 организации и 2410 человек.
Профессор физики из Массачусетского технологического института Макс Тегмарк, который подписал документ, заявил о том, что соглашение - показатель того, как лидеры в сфере искусственного интеллекта "перешли от слов к делу". По его словам, оно налагает запрет в той сфере, в которой политики не имеют власти, в сфере разработки технологий. Он считает, что оружие, оснащенное алгоритмами, так же отвратительно, как и биологическое, поэтому оно должно строго регулироваться.
