Эксперт: Искусственный интеллект уже начинает управлять сознанием людей
Наука сегодня находится на таком этапе развития, когда создаваемые роботы принципиально уже ничем не отличаются от людей. Искусственный интеллект (ИИ) уже умеет блефовать, обыгрывает человека в шахматы, Го и покер, он распознает голос и синхронно переводит на множество языков.
Все чаще появляются новые сообщения о достижениях ИИ: он ставит медицинские диагнозы, рисует, поет, пишет тексты. У роботов появилась человеческая этика.
В последние годы в связи со стремительным развитием и повышением мощности компьютеров начали бурно развиваться нейронные сети. О сроках появления машин с настоящим полноценным ИИ можно спорить, но уже сейчас человечеству надо осмыслить безопасное направление развития ИИ.
Британский физик Стивен Хокинг в своей статье писал, что недооценка угрозы со стороны искусственного интеллекта может стать самой большой ошибкой в истории человечества. Обращая внимание на реальные достижения человечества, такие как суперкомпьютеры, самоуправляемые автомобили, голосовые помощники, Хокинг ожидал успешное создание ИИ в ближайшие десятилетия. Но, вместе с тем, он считал, что это может быть последним достижением человечества.
Самосовершенствование машин с ИИ будет происходить непрерывно, этот процесс не остановим, что, вполне вероятно, может привести к технологической сингулярности, когда технологический прогресс станет недоступным пониманию человека. Этот момент вполне может наступить после создания самовоспроизводящихся машин, интеграции человека с компьютерами или увеличения возможностей человеческого мозга за счет биотехнологий. А, может быть, ИИ уже начинает управлять сознанием людей.
Само собой, превосходящие человека во всем машины будут, например, управлять финансовыми рынками, людьми, разработкой оружия. Если учесть, что совокупность всех этих процессов будет недоступна пониманию человека, большой вопрос, сможет ли человечество управлять ИИ вообще. Люди ведь даже не смогут осознать цели развития и направления прогресса ИИ.
Например, легко представить машину, которая анализирует данные видеонаблюдения, телефонные переговоры, переписку, социальные сети, банковские счета и на их основе предсказывает будущие террористические акты. В дальнейшем машина также сможет предсказывать обычные гражданские преступления и их будущие жертвы. Но наступает момент, когда машина настолько превосходит человека, что проверить ее действия станет невозможно, тогда она начинает сама управлять действиями людей, ведь они привыкли доверять машине и не видят повода сомневаться в ней.
Если же задуматься над тем, говорит эксперт, что в процессе развития генной инженерии появятся новые генетические виды ДНК, то станет понятно, что в конце концов генно модифицированные человеко-машины, киборги, биороботы, чистые машины или машинно-человеческие гибриды разовьются настолько, что чисто человеческая раса не выдержит конкуренции сосуществования и вымрет, как вымерли многие представители флоры и фауны на Земле.
