В 2007 году шесть американских команд приняли участие в организованном военным агентством DARPA конкурсе на создание и испытание автомобилей, способных ездить без участия человека в реальных городских условиях. С тех пор в реализации этой идеи достигнуты большие успехи. Так, к сегодняшнему дню проходят успешные испытания беспилотные автомобили компании Google:
их машины проехали уже тысячи километров по обычным американским шоссе. А еще в 2012 году власти штата Калифорния легализовали беспилотные автомобили.
Для ориентирования на улицах автомобили используют данные, собранные сервисом Google Street View, радары, установленные на крыше, и видеокамеры. На сегодняшний день такие машины лишь единожды попали в ДТП, причем обе были беспилотные.
Создать надежные беспилотные автомобили инженеры хотят не забавы ради. Их цель – сделать более эффективным дорожное движение, повысить экономичность сократить выбросы в атмосферу и на 90% снизить число дорожно-транспортных происшествий, то есть сделать более безопасные машины.
Однако с последним требованием возникает ряд вопросов, появляющихся в случаях, когда избежать столкновения невозможно. Что делать в таких ситуациях и как должны быть запрограммированы авто, чтобы уменьшить последствия ДТП? Как запрограммировать поведение машин и по какому принципу – спасти жизни прохожих, не щадя машину и пассажиров, или любой ценой защитить хозяина авто?
Ответы на эти вопросы необходимо дать, поскольку от этого будет зависеть, как беспилотные машины будут восприняты в обществе в будущем. Поэтому как минимум сформулировать эти вопросы в области этики и решили ученые под руководством Жан-Франсуа Боннефона Тулузской школы экономики во Франции с коллегами из США.
Допустим, беспилотный автомобиль с пассажирами едет на большой скорости, и вдруг перед ним оказывается толпа из десяти человек, а машина затормозить не успевает.
Однако может отклониться в сторону и врезаться в стену, убив или покалечив всех ее пассажиров. Как должна вести себя в таких случаях машина?
Например, машина может действовать по принципу уменьшения числа жертв. В таком случае один человек меньше десяти, и ответ, как поведет себя машина, очевиден.
Однако такой подход имеет неочевидные последствия. Машин, которые жертвуют своими владельцами, захотят купить меньше людей,
а значит, больше останется обычных автомобилей, которые сбивают больше людей.
Подобные этические парадоксы давно известны, например, в когнитивистике используется популярная модельная задача вагонетки, когда человеку предлагается перевести стрелку перед поездом, чтобы спасти пять, но убить одного постороннего человека.
Боннефон решил при помощи опроса большого числа людей определить, как относится общество к подобным дилеммам, связанным с беспилотными авто. Для этого ученые опросили четыре сотни человек с краудсорсинговой интернет-площадки Amazon Mechanical Turk. Участники отвечали, как должна повести себя машина, чтобы спасти одного или нескольких пешеходов, врезавшись в барьер, что приведет к гибели одного или более пассажиров.
Оказалось, что в среднем люди стараются минимизировать число жертв.
Этот утилитарный подход, однако, по мнению ученых, имеет обратную сторону. «Опрошенные не уверены, что подобные машины будут ездить по таким алгоритмам, по одной правильной причине: они хотят, чтобы на таких машинах ездили другие, а не они сами», — уверен автор исследования, выложенного в архиве препринтов.
Исследование показало, что в большинстве своем люди выбирают поведение машины, исходя из всеобщего блага, однако в интересах каждого не покупать такие машины и не зависеть от решения компьютера. Должны ли меняться алгоритмы движения, если речь идет не о взрослых, а детях, не гибели, а увечьях, и кому в случае ДТП хозяева машин должны направлять иск – ответы на эти вопросы необходимо законодательно дать в будущем.