До широкого внедрения беспилотных технологий в реальную жизнь остается не один десяток лет, но споры о морально-этических аспектах поведения бездушной машины ведутся уже давно. И последнее время все чаще звучат версии, что решения о том, как поступать при возможных ДТП, должны приниматься именно в пользу находящихся в автомобиле без водителя пассажиров. Так, австралийский филиал премиального бренда Mercedes-Benz решил для себя моральную дилемму выбора поведения беспилотника в экстремальной ситуации.
В случае если на пути беспилотника на дороге окажется ребенок, то автомобилю следует сбить его, нежели подвергать риску жизнь пассажиров и пытаться уйти от наезда, врезаясь при этом в другое транспортное средство — говорят сотрудники компании.
«Беспилотному автомобилю следует наехать на ребенка на улице, если это будет означать спасение людей в салоне автомобиля, — цитирует Daily Mail Online слова представителя Mercedes-Benz Австралия Дэвида Маккарти. — Если кто-то буквально выпрыгивает на дорогу перед вами, то беспилотные автономные системы не могут сделать ничего, кроме того как сбросить скорость для того, чтобы снизить последствия удара, и при этом туже затянуть ремни безопасности.
Очевидно, что систем безопасности и защиты водителя в салоне больше, чем снаружи. И само транспортное средство предназначено для того, чтобы больше защитить пассажиров, а не тех, кто находится вне автомобиля».
Таким образом, Маккарти встал на позицию эксперта Mercedes по системам помощи водителю Кристофа фон Хьюго, который на прошлой неделе заявил, что беспилотные технологии будут ставить безопасность пассажиров превыше защиты пешеходов.
«Если вы уверены, что сможете сохранить жизнь по крайней мере одному человеку, то нужно это сделать, — заявлял фон Хьюго. – И это должна быть жизнь человека в машине. Если все, что вы знаете наверняка, это то, что одну смерть можно предотвратить, то именно это должно быть вашим приоритетом. При этом инженеры Mercedes-Benz делают все возможное, чтобы в принципе исключить такие ситуации».
Люди – за большинство жизней
Примечательно, что обычные люди в вопросах этики встают на сторону сохранения наибольшего количества жизней, а не пассажиров беспилотников. Так, как ранее писала «Газета.Ru», именно к такому выводу пришли ученые под руководством Жан-Франсуа Боннефона Тулузской школы экономики во Франции с коллегами из США, проведя соцопрос четырехсот человек.
Участники отвечали, как должна повести себя машина, чтобы спасти одного или нескольких пешеходов, врезавшись в барьер, что приведет к гибели одного или более пассажиров. Тогда и выяснилось, что в среднем люди стараются минимизировать число жертв.
Этот утилитарный подход, по мнению ученых, имеет обратную сторону. «Опрошенные не уверены, что подобные машины будут ездить по таким алгоритмам, по одной правильной причине: они хотят, чтобы на таких машинах ездили другие, а не они сами», — уверен автор исследования.
Таким образом, исследование показало, что в большинстве своем люди выбирают поведение машины исходя из всеобщего блага, однако в интересах каждого не покупать такие машины и не зависеть от решения компьютера.
Между тем старший вице-президент по развитию телематики Meta System Алексей Шипулин уверен, что задача автоматики — в первую очередь защищать жизни тех, кто находится в беспилотнике.
«Сейчас водитель в аварийной ситуации действует исключительно следуя инстинктам самосохранения, — говорит Шипулин «Газете.Ru». — Автоматика автомобиля при этом исключительно ориентируется на помощь водителю в сохранении контроля над управляемостью машины и безопасности ее пассажиров, особенно в критической ситуации.
Следуя этой логике, развитие технологии автономного вождения должно сохранять базовый принцип действия, в частности в критических ситуациях, исключительно в интересах пассажиров.
Рассматриваемую же коллизию должны предотвращать системы не сколько автономного вождения отдельно взятого автомобиля, сколько комплексные системы управления движением в целом и безопасности движения на дороге в частности. А вопрос о приоритете жизни пассажира (пассажиров) или пешехода (пешеходов) при принятии решения искусственным разумом автомобиля все же стоит адресовать к философскому сообществу».
Повод задуматься
Напомним, что разработками автомобилей без водителей занимаются многие автопроизводители, например Audi, BMW, Volkswagen, Nissan, General Motors. Работают в этом направлении и российский Центральный научно-исследовательский автомобильный и автомоторный институт НАМИ. На Московском международном автосалоне он показал прототип подобного транспортного средства. Его длина — 4,6 м, ширина — 2 м, высота — 2,5 м. Футуристический мини-автобус, напоминающий внешне черную космическую капсулу, может вместить 12 пассажиров.
А в Kia, к примеру, в конце 2015 года получили разрешение от штата Невада (США) на тестирование технологий полуавтономного управления, а в дальнейшем и прототипов автономного автомобиля на дорогах общего пользования. В 2030 году корейцы обещают запустить в серийное производство свой полностью автономный автомобиль.
Помимо автомобильных компаний над технологиями автономного вождения работают производители комплектующих, а также корпорации Apple и Google.
Однако именно с Tesla оказалось связано громкое ДТП в США, штате Огайо, в котором погиб 40-летний Джошуа Браун. Автопилот из-за яркого солнца не смог распознать на дороге грузовик белого цвета и протаранил его. В итоге электромобиль Tesla Model S с включенным автопилотом, где находился Браун, протаранил на шоссе тягач с прицепом, который двигался в перпендикулярном направлении, пытаясь пересечь перекресток. Последствия оказались чудовищными: автомобиль проехал под фурой, в результате чего у седана снесло крышу, затем вылетел с шоссе, протаранив два забора, и остановился, врезавшись в столб.
Эта авария с участием транспортного средства с автономным управлением стала первой, в которой погиб человек.
При этом автомобили Tesla с функцией автопилота в общей сложности проехали уже более 200 млн км. В то же время, согласно статистике, в США один смертельный случай в результате ДТП в среднем приходится на 145 млн км пробега всех автомобилей.
Примерно годом раньше оснащенный автопилотом «гугломобиль» также попал в ДТП, в котором пострадали люди. Трое сотрудников компании и водитель автомобиля, врезавшегося в беспилотную машину, получили в аварии легкие травмы. Представители IT-компании, однако, уверяли, что их беспилотное транспортное средство в инциденте не виновато.