И на войне, и в политике. Как растет влияние искусственного интеллекта?

Илон Маск считает, что искусственный интеллект может развязать Третью мировую войну.

Пентагон выделяет почти миллиард долларов на искусственный интеллект для военных целей. Экспертов по искусственному интеллекту уже берут в избирательные штабы. В Китае современные технологии используют для усиления авторитарного режима и цензуры. В Новой Зеландии создают первого в мире виртуального политика, а Маск считает, что искусственный интеллект может стать жестоким диктатором и даже развязать Третью мировую войну. Рассказываем о том, как искусственный интеллект уже влияет на ситуацию в мире.

Искусственный интеллект как оружие

"И США, и Россия, и Китай согласны с тем, что искусственный интеллект станет в будущем ключевой технологией, от которой будет зависеть национальная мощь", - говорит сотрудник независимой аналитической организации Центр новой американской безопасности Грегори Аллен. В прошлом году Министерство обороны США создало комплексную группу по алгоритмическим технологиям. В список ее задач входит налаживание применения в Пентагоне технологий искусственного интеллекта и машинного зрения.

Согласно подписанному Дональдом Трампом указу, развитие искусственного интеллекта является приоритетом политики его администрации. В прошлом году Пентагон утвердил выделение $885 млрд на искусственный интеллект для военных целей. Вице-президент фирмы-подрядчика Пентагона Booz Allen Hamilton Джош Салливан сказал, что эти технологии должны помочь США успешно конкурировать с Россией и Китаем, поскольку использование искусственного интеллекта упростит работу военных и предоставит им время для решения более важных задач. "Часть задач состоит в том, чтобы обеспечить доступ нашего правительства к лучшим технологиям и применять их со всей должной ответственностью ради наших граждан и бойцов", - отметил Салливан.

В США также создали Объединенный центр искусственного интеллекта (JAIC), который будет руководить и координировать пилотные проекты ИИ в Пентагоне, включая набор персонала, его обучение, собственное исследование, защиту от кибератак. Там ставят задачу широкого использования систем по искусственному интеллекту в разведывательной деятельности. Например, при анализе изображений для подготовки к операциям и минимизации рисков для солдат и гражданских лиц.

Использование ИИ также может повысить безопасность самолетов, кораблей и других транспортных средств и улучшить их техническое обслуживание. Так, неисправность критических частей может быть предусмотрена с большей точностью и своевременностью. Кроме этого, искусственный интеллект активно используется в саперной работе, его применяют для осмотра подозрительных объектов, а также для разминирования бомб различных комплектаций.

Полуавтономные системы уже используются в боевых действиях. Например, системы оружия ближнего боя. Они могут самостоятельно выполнять поиск, находить врага, давать оценку происходящему и поражать цель. Ученые также начали работать над технологиями, которые позволят системам действовать не только по заранее разработанному плану, но и иметь возможность разрабатывать свой алгоритм действий. Они будут зависеть от их собственных представлений о том, какая ситуация сложилась вокруг и что же лучше сделать прямо сейчас.

Искусственный интеллект как инструмент усиления авторитаризма и цензуры

Искусственный интеллект может быть использован и во вред. Например, в борьбе со свободой. Правительство Китая планирует использовать его для прогнозирования кибератак, митингов, а также для усиления цензуры в интернете, которая и так там находится на высоком уровне. В китайских городах запускают системы для распознавания лиц и другие технологии, основанные на искусственном интеллекте. Официальная причина - для безопасности. Задействованы они были и во время протестов в Гонконге.

Китайская полицейская облачная система создана для поиска семи категорий людей, включая и тех, кто "подрывает стабильность". Страна также стремится создать систему, которая будет предоставлять каждому гражданину и каждой компании социальный кредитный рейтинг: у всех будет свой балл, отражающий покупательские привычки, историю вождения и даже отношение к политике. Почти как в "Черном зеркале".

В конце прошлого года издание The Verge опубликовало примеры фотографий людей, сгенерированных компанией Nvidia с помощью технологий искусственного интеллекта. Журналисты забеспокоились, что подделки искусственного интеллекта могут влиять на общество, ведь они могут быть использованы для дезинформации и пропаганды.

Искусственный интеллект в политике

Выборы президента США 2012 стала первыми, когда влияние искусственного интеллекта очень помогло одному из кандидатов. Все началось с того, что Барак Обама назначил главным аналитиком своей кампании эксперта с машинного обучения Раида Гане. Его команда собрала всю информацию об избирателях в одну базу данных, добавила сведения из соцсетей и стала прогнозировать четыре фактора о каждом избирателе: 1. Какова вероятность того, что он проголосует за Обаму? 2. Придет ли он вообще на выборы? 3. Откликнется ли на напоминание это сделать? 4. Изменит ли свое мнение после беседы на конкретные темы? На основе этого ежедневно проводились 66000 симуляций выборов. После получения результатов в процесс включались волонтеры - они знали, к кому идти домой, кому звонить, что говорить, а кого лучше не трогать. Это помогло Обаме пойти на второй срок.

Такие системы искусственного интеллекта будут применяться в избирательных кампаниях и политических инициативах, которые требуют обработки больших массивов данных об избирателях, еще больше и чаще. Современные системы уже способны анализировать различные наборы данных из многих источников, учиться от выборов до выборов и давать ценные советы. Аналитические группы во время президентских выборов в США 2016 использовали компьютерные алгоритмы для анализа трендов в соцсетях. История с компанией Cambridge Analytica и взломом персональных данных пользователей Facebook еще свежа в памяти.

История, мимо которой также нельзя пройти мимо. В Новой Зеландии программист Ник Гарритсен создал первого в мире виртуального политика. Это бот по имени Сэм. Пообщаться с ним можно с помощью мессенджера Facebook. Бот - виртуальная женщина-политик, которая примет участие в следующих всеобщих выборах в 2020 году.

Реакция

Международные дипломаты и эксперты уже несколько лет обсуждают вопрос автономного оружия. Уровень этих обсуждений дошел до официальных консультаций ООН. Сейчас 26 государств выступают за превентивный мораторий на автономные системы вооружения. Их поддерживает более 230 организаций и около 3000 предпринимателей и ученых со всего мира. Среди них - основатель компаний Tesla и Space X Маск, а также компания Deep Mind, принадлежащая Google. "Решение лишить человека жизни никогда не должно быть делегировано роботу", - говорится в письме. Против запрета выступают государства, которые уже активно инвестируют в использование искусственного интеллекта для военных нужд. Например, США, Израиль, Россия и Великобритания. Представители Соединенных Штатов пытаются убедить, что автономное оружие поможет избежать "сопутствующих разрушений". Ведь компьютер, в отличие от солдата, может быстрее анализировать всю ситуацию на поле боя и делать меньше ошибок.

Один из главных предпринимателей и инноваторов в мире Маск скептически относится к ИИ не только в боевых действиях, но и в политических вопросах. Он сказал, что искусственный интеллект может создать "бессмертного диктатора, от которого никуда не уйдешь". Маск допускает, что авторитарные режимы могут создать искусственный интеллект, который способен пережить отдельных лидеров или партии, и стать постоянным источником угнетения. По его словам, конкуренция в сфере развития искусственного интеллекта может стать причиной начала Третьей мировой войны.

Николас Райт, преподаватель Университетского колледжа Лондон в колонке для Foreign Affairs отметил, что в странах, которые имеют прочные традиции индивидуальной свободы, смогут давать отпор подобным инициативам правительства, если таковые будут появляться. И отметил, что такие угрозы могут идти не только от государства. "Олигополистические технологические компании концентрируют в своих руках власть, поглощая конкурентов и лоббируя принятие удобных норм регулирования их деятельности. Однако общество уже справлялось с подобными вызовами после предыдущих технологических революций", - пишет он. А усиление авторитаризма в других странах поможет еще большему становлению демократии там, где она уже существует.

"Человечество склонно загонять соперничество в определенные рамки: "мы" против "них", в результате западные страны, возможно, заново определят свое отношение к цензуре и наблюдениям. Большинство людей не погружается в детали политики в области данных и не обращает внимания на риски. Но когда эти детали превратятся в основу режима в реальном мире, они перестанут казаться скучными и абстрактными. Правительствам и технологическим компаниям придется объяснять, в чем разница", - считает ученый.

NVIDIA Tesla Дональд Трамп Илон Маск ООН