Этика и создание самоуправляемых автомобилей: в поиске золотой середины
Автономно управляемые автомобили прошли сотни тысяч километров, отработали ряд серьезных задач, но это еще не те самоуправляемые автомобили, которые готовы решать задачи обычных человеческих водителей, с которыми те сталкиваются ежедневно и бровью не ведут. По мере того как автономные автомобили постепенно получают разрешение на улицах, инженеры, которые их конструируют, сталкиваются с необходимостью включать этику в алгоритмы принятия решений. Для этого им приходится консультироваться с философами.
Уилл Найт так описал в MIT Technology Review систему, организованную Крисом Гердесом из Стэнфордского университета и Патриком Лином:
«Они реализуют различные этические параметры в программном обеспечении, которое управляет автоматизированными транспортными средствами, а затем тестируют код в моделях и даже реальном транспорте. Такие установки могут, к примеру, сообщить автомобилю поставить в приоритет избегание людей выше избегания припаркованных автомобилей или не обращать внимание на белок».
Изучение различных точек принятия решений и того, как самоуправляемые автомобили могут на них реагировать, нацелено на повышение сложности текущих систем, к примеру, в автомобилях Google. Инженеры пытаются создать алгоритмы, которые позволят автомобилю избегать плохого исхода - или хотя бы выбирать лучший из худших. К примеру, Гердес представляет такой сценарий, в котором самоуправляемому автомобилю нужно выяснить, что делать, когда ребенок бежит навстречу автомобилю, и чтобы его не ударить, придется столкнуться с фургоном на встречной полосе:
«С точки зрения человека, одно из этих препятствий имеет более высокую ценность, чем другое, - говорит Гердес. - Что нужно делать автомобилю?».
Гердес отмечает, что с точки зрения этики может быть допустимо подвергнуть опасности пассажиров самоуправляемого автомобиля. «Если бы можно было избежать столкновения с ребенком, если бы это спасло ему жизнь, могли бы мы травмировать пассажиров транспортного средства? Это очень сложное решение, которое ляжет в основу алгоритмов, с которыми автомобили будут работать каждый день».
Что особенно интересно в самоуправляемых автомобилях, так это технология выстраивания ценностей. Философы от технологий могут заметить, что в технологиях это происходит постоянно, но зачастую это незаметно невооруженным глазом. Выстраивание ценностей в процессе проектирования самоуправляемого транспорта более очевидно, поскольку перед инженерами стоит задача спроектировать процесс принятия решений людьми, который зависим от этической базы.
В нашем современном мире вождение может быть областью, в которой мы более всего зависим от этики - по крайней мере когда-то что-то идет не так - и эта этика является неотъемлемой частью нашего разделения мира. Сложности добавляет то, что мы делим этот мир с другими людьми (а также белками, кошками, собаками, зайцами на дорогах), некоторые из этих людей находятся в автомобилях, другие на мотоциклах или на ногах; некоторые из этих людей водят хорошо и быстро реагируют на новую информацию, другие отвлекаются или медленно реагируют; некоторые используют зеркала и сигналы, другие просто пытаются как можно быстрее добраться из пункта А в пункт Б.
Когда смесь людей и машин и, как следствие, стилей вождения приводит к столкновениям или того хуже, мы изучаем решения, которые привели к плохому результату, соответствующим образом распределяя ответственность. Мы говорим о том, что люди должны были поступить по-другому. Говорим об этике.
Тем не менее непонятно, как много явной этической установки получают люди, когда учатся водить. Помимо инструкций о том, как держать руль, и тестов на бумаге, а также водительской практики, укладывающейся в рамки конкретных законов, остальное остается на откуп нравственной интуиции каждого водителя. Глядя на некоторых водителей во время часа пик, иногда кажется, что они нарушают законы как конкретной пробки, так и законы физики. Они садятся за руль и забывают, что автомобили на их пути являются не пустыми препятствиями, а содержат людей, жизнь которых превыше всего.
Можно лишь выразить надежду, что самоуправляемые автомобили точно решат этот вопрос, станут своего рода лучшими знатоками нашей природы, принимая решения от лица самых рассудительных и справедливых водителей. Это, конечно, подразумевает определенный уровень единства среди этих знатоков. Иначе мы можем увидеть дорожные конфликты между самоуправляемыми автомобилями немецкого производства с этикой Канта и автономными британскими автомобилями с утилитарной этикой.
В самом деле, принятие решений в проектировании автомобилей не всегда соответствует моральной интуиции общественности. Классический автомобильный пример, случай Ford Pinto, когда компания оценивала потенциальные выгоды от улучшения дизайна бензобака (который предотвратил бы пару сотен смертей и серьезные травмы, не говоря уж о паре тысяч случаев возгорания транспорта), и решила, что стоимость улучшения (11 долларов на автомобиль) не позволяет внести изменения в конструкцию. Здесь польза измеряется в долларах и центах, решения принимаются из необходимости максимизировать прибыль компании, а не отсыпать счастья и улыбок пассажирам и водителям.
Можно с осторожным оптимизмом предположить, что инженеры, которые разрабатывают самоуправляемые автомобили, сделали выводы из таких исторических эпизодов и будут работать, консультируясь с философами, а не толстосумами. По мере ухода таких автомобилей из фазы исследований в фазу использования на дорогах, будет интересно наблюдать, как будет ладить юридический отдел компании-производителя с алгоритмами принятия решений - и будут ли эти этические алгоритмы, если что-то пойдет не так, доступны для открытого изучения или станут проприетарными. Самоуправляемые автомобили однозначно будут работать в рамках законов и ПДД, но законные решения не всегда должны быть этическими. Иногда этика требует большего, чем просто не нарушать закон.
Кроме того, учитывая то, что этика - это, по сути, искусство делить мир с другими, включить этику в самоуправляемые автомобили будет немного сложнее, чем задать ряд «правильных» ответов на информационные запросы. Когда такие авто появятся на рынке, в первую очередь они будут делить дорогу с водителями-людьми. Им будет очень непросто.
