В Google начали готовиться к "восстанию машин"
В корпорации Google, совместно с Оксфордским университетом, начали разрабатывать сценарии борьбы с гипотетическим восстанием искусственного интеллекта. Подразделение DeepMind и Институт будущего человечества (FoH, Оксфорд) представили совместное исследование, в котором рассматриваются способы взять искусственный интеллект под контроль в случае неповиновения, сообщают Украинские новости со ссылкой на Zaxid.net.
Исследовали заявили о том, что в случае гипотетического бунта искусственного интеллекта (ИИ), лучше всего нажать "большую красную кнопку".
В материалах Google указано, что ИИ учится быстро и скоро сможет превзойти человечество.
Этот гипотетический момент получил название "сингулярность".
Чтобы остановить возможное восстание машин, ученые разрабатывают алгоритмы, которые в случае опасности смогут прервать работу искусственного интеллекта. Однако в DeepMind и FoH подчеркивают, что сделать это будет сложно, потому что ИИ будет автономным.
Лучший способ прервать "робокалипсис" - это запустить в машинах внутреннюю аварийную систему контроля, которая заставит ИИ остановиться. Причем отправить сигнал на эту систему сможет каждый в любой момент времени. Ученые сравнивают эту систему с пультом дистанционного управления и "большой красной кнопкой".
