Краткая история человечества: Катастрофа наступит, когда искусственный интеллект будет взламывать людей, - историк
Историк Юваль Харари уверен - соединение машинного обучения и биологии даст разработчикам неограниченную власть над людьми. У диктаторов тогда появятся новые инструменты подавления и контроля.
Как сломать человека
Человечество стоит на пороге не только технологического, но и философского кризиса, считает историк Юваль Харари, автор книги "Sapiens: Краткая история человечества". В интервью Wired он отметил, что новые технологии формируют новые формы антиутопии. И общество пока не понимает, как адаптироваться к текущей реальности.
Харари вывел формулу будущего глобального кризиса: B * C * D = HH. В данном случае B - это познания в биологии, C - это вычислительная мощность, а D - это данные. Если умножить их друг на друга, появится возможность взламывать людей (HH - hack humans).
Под взломом исследователь имеет в виду возможность управлять человеком на глубинном уровне, то есть контролировать его желания и стремления. Харари опасается, что правительства и корпорации скоро изучат людей настолько, что смогут с легкостью регулировать их мысли.
Технологии отдаленно будут напоминать таргетированную рекламу, только их действие будет более точным, а эффект - стопроцентным.
Ранее историк отмечал, что в обстоятельствах, которые сложились, привычные философские концепции отмирают. Это касается свободы воли и свободы выбора. Люди ошибочно считают, что контролируют ситуацию, но на самом деле это не так.
Главное следствие масштабного внедрения искусственного интеллекта - это потеря человеком автономии и авторитета. При этом искусственный интеллект (ИИ) не обязательно должен выходить на один интеллектуальный уровень с людьми и иметь сознание. Алгоритмам достаточно будет изучить личность досконально, чтобы найти самую слабую точку и запустить процесс манипуляций.
Общество подвержено взлому на всех уровнях, но больше всего Хараре пугает биологический. "Эксперты по ИИ могут общаться с философами. С историками - да, пожалуйста. С литературными критиками - прекрасно. Но меня пугает их общение с биологами", - признал он в интервью Wired.
Израильский исследователь подчеркивает, что ИИ означает и массу преимуществ. Особенно это касается медицины. Харари подчеркивает, что никто не станет препятствовать внедрению технологии - ведь она способна принести столько пользу людям.
Алгоритмы-манипуляторы
Распространение ИИ в комплекте с биотехнологическими открытиями породит два возможных сценария антиутопии. Первый - надзор-капитализм - даст алгоритмам полную власть над людьми.
Машинный интеллект решит за нас, где жить, работать, с кем встречаться и за кого голосовать.
Второй сценарий предусматривает укрепление тоталитаризма и диктатуры, при которых каждый житель Земли - это объект непрерывного слежения. Особую роль в этом процессе играют биометрические системы, которые не дадут гражданину скрыться от всевидящего ока государства.
"Во времена Сталина и Гитлера таких технологий не было, но через 20-30 лет они могут появиться", - предупреждает Харари.
Историк подчеркивает: люди могут даже не заметить, как оказались во власти ИИ. Большинство не сможет понять, как работают механизмы алгоритмов и как именно нами манипулируют. Человечество привыкло к традиционным формам объяснения и речи, но машинный интеллект работает со статистическими данными и оперирует другими понятиями.
Харари считает, что чрезмерное усложнение систем - одна из главных актуальных проблем. Из-за этого, например, ученым все сложнее объяснять свои теории и доносить до аудитории суть открытий.
Важный побочный эффект этого - расцвет теорий заговора. По этой причине сейчас возникает все больше антипрививников и тех, кто не верит в глобальное потепление.
То же касается и сферы финансов - с каждым годом она усложняется, и некоторые концепции можно объяснить, только если потратить 10 лет на изучение экономики и математики. "В этом тоже выражается философский кризис", - говорит Харари.
Цифровой колониализм
Он также считает, что сегодня человек борется не с отдельными людьми, а с государствами и корпорациями. Перед лицом таких мощных соперников шансов на успех мало.
Более того, воздействие некоторых стран выходит за географические рамки. Историк обвиняет развитые государства и крупные корпорации в цифровом колониализме. Раньше империи выращивали хлопок в Индии или Египте, затем отправляли сырье в Британию, производили одежду и снова пересылали ее в Индию или Египет, вытесняя местных производителей.
Сейчас то же самое происходит и с данными. Компании "выкачивают" данные из Бразилии и Индонезии, обрабатывают их в США или Китае, а затем создают на их основе продвинутые продукты, которые в итоге распространяют в "колониях".
