Роботы-убийцы: скоро во всех армиях или под запретом ООН?
В Женеве проходят переговоры о будущем автономного оружия. Россия и США - за развитие таких вооружений, 26 стран и Илон Маск - против, Германия - за пошаговый запрет. Подробности - у DW.В Женеве в понедельник, 27 августа, стартуют переговоры группы правительственных экспертов из 70 стран под эгидой ООН о смертоносных автономных системах вооружения. От консультаций зависит, станет ли реальностью в ближайшие годы появление полностью самоуправляемых роботов-убийц, которые без контроля человеком будут выбирать мишень и принимать решение об ее уничтожении.
"До автономных вооружений - небольшой шаг"
Международные дипломаты, эксперты в области разоружения и представители гражданского общества начали обсуждать вопросы автономного оружия еще в 2014 году. Эти неформальные консультации в прошлом году переросли в официальные переговоры. Пока полностью самоуправляемого оружия еще не создано, но многие государства вкладывают значительные средства в адаптацию технологии искусственного интеллекта для военных нужд. На вооружении ряда стран уже стоят системы с элементами искусственного интеллекта - от беспилотников и роботов-часовых до аппаратов для обезвреживания взрывных устройств. При этом продолжается развитие искусственных нейронных сетей, позволяющих искусственному интеллекту самообучаться.
"Остался совсем небольшой шаг до создания целиком автономных систем вооружения", - убежден Томас Кюхенмайстер (Thomas K?chenmeister), глава немецкой организации Facing Finance, участвующей в международной кампании "Остановите роботов-убийц" (Stop Killer Robots). Что плохого в применении в армии автоматических систем, которые действуют точнее и способны анализировать большие массивы данных?
Кюхенмайстер указывает в беседе с DW, что самоуправляемые системы не способны различить, к примеру, военный и гражданский грузовик. А это уже противоречит международному гуманитарному праву, которое действует в вооруженных конфликтах и призвано, насколько это возможно, защитить гражданское население. "Но мы же не можем вживить этим вооружениям чип международного права", - сетует участник кампании против роботов-убийц.
Китай - за мораторий, США и Россия - против
За превентивный мораторий на автономные системы вооружения выступают 26 государств, включая Австралию, Бразилию и Китай. Открытое письмо с поддержкой их позиции подписали более 230 организаций по всему миру и около 3000 предпринимателей и ученых, занятых в сфере искусственного интеллекта. Среди них, например, основатель компаний Tesla и Space X Илон Маск, а также компания Deep Mind (принадлежит Google). "Решение лишить человека жизни никогда не должно быть делегировано роботу", - говорится в письме.
Против запрета высказываются государства, активно инвестирующие в использование искусственного интеллекта для военных нужд, например, США, Израиль, Россия и Великобритания. Как однажды заявил президент РФ Владимир Путин, лидер по созданию искусственного интеллекта "будет властелином мира".
США даже пытаются выставить автономное оружие в положительном свете, заявляя, что оно поможет избежать "сопутствующих разрушений". Ведь компьютер, в отличие от солдата, может быстрее анализировать всю обстановку на поле боя и совершать меньше ошибок, убеждены в Вашингтоне. В ходе последнего раунда консультаций в Женеве американская делегация призвала не клеймить подобные вооружения.
Позиция Берлина: от декларации - к постепенному запрету
Правительство Германии выступает за "международный запрет" автономных вооружений - это закреплено в коалиционном договоре немецкого кабмина. В то же время Берлин считает тактически неправильным настаивать на нынешних переговорах в Женеве на моратории, так как позиции стран слишком разнятся. Вместе с Францией ФРГ предлагает промежуточное решение: первым шагом могло бы стать принятие в ООН политической декларации, в которой говорилось бы о важности сохранения контроля человека за автономными системами вооружений. Затем Берлин и Париж предлагают принять военный кодекс поведения, а только потом - непосредственно договор о запрете такого оружия.
По мнению немецких дипломатов, такой многоступенчатый подход даст шанс преодолеть существующие противоречия - ведь к не предполагающей никаких обязательств политической декларации могли бы присоединиться и противники моратория. В то же время этот документ создал бы определенные общие стандарты, открывающие путь к закреплению запрета на самоуправляемое оружие в международном праве.
Соглашение вне ООН?
Однако активистам движения "Остановите роботов-убийц" позиция Германии кажется недостаточно жесткой. Они считают, что ФРГ должна быть в авангарде борьбы за немедленный мораторий. За ней подтянулись бы и другие страны, полагает Томас Кюхенмайстер. "Если немецкое правительство хочет добиться запрета подобных вооружений, то оно должно продемонстрировать это, то есть, взять на себя ответственность", - подчеркивает он.
Так или иначе, у стран остается все меньше времени для согласования позиций, ведь технологии совершенствуются с каждым днем. Если на переговорах в Женеве не будет достигнут прогресс, давление со стороны гражданского общества станет нарастать, предсказывает Кюхенмайстер.
По его мнению, в таком случае соглашение о моратории на автономное оружие может быть достигнуто вне рамок ООН, как это в свое время произошло с запретом противопехотных мин. В 1996-1997 годах правительство Канады и представители еще десятков стран самостоятельно провели ряд конференций, завершившихся Оттавским договором. На сегодня к соглашению присоединились уже 164 страны. Данный процесс был запущен во многом благодаря активной гражданской кампании за запрещение противопехотных мин. Это движение получило Нобелевскую премию мира в 1997 году.
Tesla Вашингтон Германия Илон Маск ООН Франция
