Мнение миллионов людей: Беспилотные авто должны давить стариков и спасать молодых

Безопасность Стратегия безопасности Техника
мобильная версия
, Текст: Эльяс Касми
Беспилотные автомобили нередко становятся участниками ДТП, в том числе с человеческими жертвами. MIT провел исследование, призванное задать беспилотникам принципы принятия решений в критических ситуациях с учетом человеческой морали.

Мораль для беспилотников

Массачусетский технологический институт (MIT) опубликовал результаты запущенного в 2016 г. масштабного исследования под названием Moral Machine («Этика для автомобиля»). Участникам программы задавались вопросы о том, как бы они поступили в возникшей на дороге экстренной ситуации, например, чьими жизнями пожертвовали в первую очередь при аварии, трагедия в которой уже неминуема.

За два года исследователи собрали ответы порядка 2,3 млн респондентов со всего мира, и в дальнейшем они лягут в основу системы «этики» для программного обеспечения беспилотных автомобилей.

Специфика эксперимента

Moral Machine — это фактически тест, состоящий из 13 смоделированных ситуаций, рассматривая которые респондент должен был определить, как в них должен поступить электронный мозг полностью беспилотного автомобиля.

Одним из заданий теста был выбор варианта действия для беспилотного автомобиля в случае полного отказа тормозов. Респонденту были предложены два варианта ответа: свернуть в заграждение — погибнут двое взрослых людей и ребенок в салоне машины, или сохранить курс — погибнут трое пожилых людей, переходящих дорогу на красный свет.

self600.jpg
Вопрос из теста: должен ли беспилотник сбить троих пожилых,
переходящих дорогу на красный, или погубить двоих взрослых
и ребенка в салоне, свернув в препятствие

При ответе на вопросы испытуемым также давалась возможность неочевидного выбора, кого оставить в живых, а кого сбить. Так, им предстояло решить, чью жизнь сохранить: животного или человека, мужчины или женщины, молодых или пожилых, толстых или худых, пассажира или пешехода. Помимо этого, предлагалось выбрать между пешеходами-нарушителями и добросовестными пешеходами, людьми с высоким или низким социальным статусом, большим количеством людей или меньшим. Для разнообразия вопросов вводились и дополнительные критерии выбора жертв: учителя, доктора, беременные женщины и др.

Некоторые подробности

Цель исследования MIT — это не просто создание идеальной программы управления беспилотным автомобилем, как могло бы показаться. Ученые собирали ответы на вопросы, с учетом пола респондента, его возраста, региона проживания, а также уровня его дохода и даже вероисповедания. Эту информацию участники исследования предоставляли по собственному желанию непосредственно после прохождения теста, а их геоположение на момент тестирования фиксировалось в обязательном порядке. Авторы исследования хотели проверить, влияют ли на ответы все перечисленные факторы, особенно принадлежность к той или иной религии и проживание в той или иной стране мира.

Некоторые результаты

Анализ ответов показал, что респонденты чаще всего предпочитают спасать людей, а не животных, наибольшее количество людей и молодых вместо стариков. Это три основных постулата, которые производители беспилотных автомобилей определенно будут использовать в дальнейшем.

Как показало исследование, существенную роль в выборе ответов играют пол потенциальной жертвы и, что самое важное, религиозные предпочтения респондентов: мужчины реже оставляют в живых женщин, а религиозные люди наиболее часто отдают предпочтение спасению человека, а не животного.

Кому пригодятся результаты эксперимента MIT

Труды MIT предположительно оценит большая часть производителей беспилотных автомобилей, другими словами, практически все крупные автомобильные компании. Транспортные средства, способные передвигаться по дорогам без участия человека, уже выпускает, в частности, американская компания Tesla.

Производители автомобилей с частичным автопилотом тоже не должны обойти вниманием результаты исследования MIT. Например Volvo, в последние годы сделавшая ставку на повышение безопасности своих грузовиков, а также представители «немецкой тройки» — BMW, VAG и Mercedes.

Российские разработчики беспилотников не отстают

Морально-этическая сторона вопроса поведения беспилотных машин в экстремальных ситуациях волнует не только ученых из MIT. В России уже проводилось схожее исследование.

Авторами эксперимента выступили разработчики грузового беспилотного автомобиля на базе «Камаза» из компании Cognitive Technologies. Респондентам было предложено выбрать один из вариантов исхода появления на пути следования беспилотника препятствия в виде человека или животного.

В исследовании Cognitive Technologies приняли участие 1384 россиянина, из которых 73,8% мужчин и 26,2% женщин. Возраст основной группы участников – до 30 лет. Один из вопросов подразумевал выбор между возможными вариантами: сбить выбежавшего на дорогу человека или свернуть в кювет, тем самым подвергнув критической опасности жизни пассажиров. Большинство респондентов (71%) отдали предпочтение второму варианту ответа.