«Мы сами мешаем распространению беспилотных машин»
Американский предприниматель Джон Баттель опубликовал на Medium колонку о том, почему большинство предсказаний о будущем самоуправляемых машин несостоятельны. По мнению автора, говорить о поголовном распространении беспилотных автомобилей в течение пяти лет могут только мечтатели из ИТ-сферы, незнакомые с многими моральными и социальными проблемами.
Редакция публикует адаптированный перевод заметки.
«Здесь в Долине мы представляем, что технологии, которые мы создаем, оказываются свободны от различных социальных осложнений. У нас очень хорошо получается фантазировать и представлять себе мир победивших инноваций, но не менее хороши мы и в игнорировании всех сложностей, связанных с распространением тех или иных изобретений», - пишет Джон Баттель.
«В Долине считается, что беспилотные машины уже здесь - осталось только подождать несколько лет, пока более медлительные штаты вроде Вашингтона наконец запустят аналогичные программы», - продолжает автор заметки.
По его словам, жители Кремниевой долины уверены, что в течение пяти лет все машины в Соединенных Штатах окажутся самоуправляемыми, а пассажиры вместо вождения смогут заниматься рабочими задачами, обмениваться снимками в Snapchat или разбирать электронную почту.
«Есть только одна проблема: этого никогда не случится. Во всяком случае, точно не случится в течение ближайших пяти лет. И помешаем распространению самоуправляемых автомобилей мы сами», - объясняет Баттель.
Автор замечает, что уже сейчас технология работает на высоком уровне, и в будущем разработчики будут ее только совершенствовать. Но сами беспилотные машины поднимают множество важных моральных и социальных вопросов - и чтобы найти на них ответы, человечеству понадобится гораздо больше времени. К тому же не факт, что все согласятся с предложенным решением, даже когда оно будет найдено.
В основе потенциальных разногласий, полагает Баттель, лежит так называемая «проблема вагонетки». «Этот мысленный эксперимент предполагает, что не совершив определенное действие, вы не сможете помешать смерти нескольких людей, однако совершив его, фактически толкнете на смерть нескольких других людей».
До недавнего времени эта проблема выступала в качестве философской дилеммы, пока не стала реальной задачей, которую предстоит решить разработчикам самоуправляемых машин, говорит предприниматель.
«Сейчас ответственность за действия автомобиля полностью лежит на водителе. Вы врезались в толпу школьников, потому что зачитались SMS? Это ваша вина. Выехали на встречную полосу, будучи пьяным? В тюрьму отправят вас (если, конечно, вы выживете). Беспилотные автомобили снимают ответственность с водителя, перекладывая ее на алгоритмы», - объясняет автор заметки.
«Что делать? Думаю, если бы за рулем были вы сами, вы бы сделали все, чтобы оставить детей в живых - в конце концов, это же дети. Однако разработчики из Mercedes-Benz поступили по-другому: машина поедет в толпу детей. Создатели системы автономного вождения для этого производителя решили, что жизнь пассажира важнее жизни пешехода», - рассказывает Баттель.
По мнению предпринимателя, таким образом автопроизводитель защищает свой бренд: «Mercedes уже более 100 лет обеспечивает безопасность и привелегии для своих клиентов. И ПО, разработанное в компании, ставит безопасность пассажира выше остальных. Ну и давайте будем честны друг с другом: кто стал бы приобретать беспилотную машину, которая может решить убить пассажира? Легко представить, что и другие компании последуют примеру Mercedes».
«Что мы получаем? Армию самоуправляемых машин-убийц, которые ставят своих пассажиров выше общественного блага. Звучит надуманно, но если вы потратите немного времени и повнимательнее рассмотрите этот вариант, то станет ясно, что на разработку систем беспилотного вождения придется потратить гораздо больше времени».
Человечеству придется полностью переосмыслить само дорожное движение, продолжает Джон Баттель. «Это дело не пяти лет - а как минимум одного поколения. Кроме того, разработка новой системы требует вовлечения правительства, а оно не работает так, как Кремниевая долина. Реальный мир намного грязнее и хуже, чем то, что мы нафантазировали в своем технологическом мирке».
«Когда мы думаем о самоуправляемых автомобилях, то представляем, что водителя заменил искусственный интеллект, а все остальное - дороги, правила движения и так далее, - осталось прежним, пусть и немного усовершенствованным. Не думаю, что такое видение имеет право на жизнь», - заключает Баттель.
