Стивен Хокинг: Мировое правительство защитит нас от искусственного интеллекта

Всемирно известный физик Стивен Хокинг с энтузиазмом наблюдает за развитием искусственного интеллекта. Но вместе с тем он признает, что эта технология может принести человечеству массу неприятностей. В своем недавнем интервью он предложил довольно радикальное решение этих проблем. Речь идет о создании мирового правительства.

"Мы должны быстрее идентифицировать подобные угрозы, прежде чем они выйдут из под контроля. Это может означать необходимость создания некой формы мирового правительства", - утверждает ученый.

Бунт программного обеспечения

Уже сегодня роль искусственного интеллекта в обществе становится весьма значительной. Это означает, что разработчикам этих систем и политикам предстоит сфокусироваться на том, чтобы мощь новой технологии использовалась во благо человека. Потому идея о создании некоего общемирового контролирующего органа приходит в голову не только Стивену Хокингу. Многие крупные эксперты согласны с тем, что мировое правительство попросту необходимо для выживания человечества.

"Я думаю, что улучшенная глобальная система управления может быть необходима не только для осуществления контроля над продвинутым искусственным интеллектом, но и для решения прочих серьезных задач, которые встают перед нашим видом", - говорит Ник Бостром, преподаватель Оксфордского университета и основатель Института будущего человечества. По мнению Бострома, разделенный мир становится опаснее по мере того, как человек изобретает все более мощные технологии.

Сегодня системы искусственного интеллекта вовлечены практически во все аспекты нашей жизни. Они управляют беспилотными автомобилями, они решают, какую рекламу показывать вам в интернете, они общаются с вами голосами виртуальных ассистентов. В Нью-Йорке искусственный интеллект предсказывает пожары, в Великобритании - контролирует оплату долгов. Ранее мы приводили неполный список вещей, на которые способна эта потрясающая технология. Стивен Хокинг верит, что однажды искусственный интеллект поможет победить бедность и излечит все болезни.

Но с новыми возможностями на горизонте возникают новые проблемы. Часть экспертов опасается того, как искусственный интеллект может повлиять на мировую экономику.

"Есть два главных экономических риска: во-первых, быстрый прогресс может привести к несоответствию между навыками, которыми обладают специалисты, и навыками, которые потребуются для рабочих мест будущего; во-вторых, искусственный интеллект может увеличить экономическое неравенство, значительно обогатив владельцев капитала и наиболее квалифицированных специалистов", - говорит Эдвард Фелтен, преподаватель информатики Принстонского университета. По мнению Фелтена, эти проблемы можно будет решить только централизовано, при помощи государственных социальных программ.

Стивен Хокинг идет в своих опасениях намного дальше. Ученый уверен: без надлежащего контроля искусственный интеллект станет чересчур мощным и в определенный момент попросту перестанет подчиняться человеку.

Накапливаемая ошибка

Не все ученые разделяют опасения Стивена Хокинга. К примеру, вышеупомянутый Эдвард Фелтен, хоть и опасается побочных эффектов внедрения искусственного интеллекта, не верит в то, что машина может выйти из под контроля.

А вот Эми Уэбб, основатель и генеральный директор института Future Today, считает что угроза вполне реальна. По ее мнению, опасность заключается в алгоритмах, с помощью которых сегодня создается искусственный интеллект. Машинное обучение позволяет компьютеру связывать между собой понятия, факты и образы, учит его понимать мир. Но процесс такого обучения во многом остается бесконтрольным. Это означает, что мизерная ошибка в изначальной логике может в итоге привести к серьезным отклонениям.

"Что произойдет, если ученик ошибочно узнает, что 1+1 равно 3, а затем начнет учить этому следующую группу детей? Неправильный ответ размножится, и искаженными окажутся все решения, основанный на этом знании", - поясняет Эми Уэбб.

В случае же с искусственным интеллектом речь идет о куда более серьезных вещах. Ведь человек будет возлагать на компьютер функции идентификации личности, безопасности, управления вооружением и многое другое.

Перспективы консолидации

Вопрос о том, как контролировать искусственный интеллект, пока изучен не слишком глубоко. Тем не менее, ученые сходятся во мнении: мировое правительство или международное сотрудничество должно стать одним из решений.

Ник Бостром, к примеру, не верит в возможность каких-либо быстрых глобальных преобразований на политической арене. Тем не менее, по его мнению, нечто похожее на мировое правительство может стать следующей фазой уже существующего прогресса.

"Мы уже прошли большую часть пути - от группы охотников-собирателей к племени, к городу-государству, к этническому государству, затем к существующему сегодня коктейлю из государств и влиятельных международных организаций. Еще один скачок, и мы на месте", - говорит Бостром.

Эми Уэбб настроена более скептично: "Было бы замечательно, если бы все страны в мире договорились о стандартах использования искусственного интеллекта, но сейчас мы не можем договориться даже о решении таких проблем, как изменения климата", - говорит она. По мнению Уэбб, международные соглашения попросту не будут успевать за стремительным развитием технологии искусственного интеллекта. Таким образом, будущее пока остается не слишком ясным.