Если беспилотным автомобилям придется выбирать, то кого они решат убить во время схватки, а кого пожалеют?
Нужно ли жертвовать пассажирами, чтобы спасти пешеходов? Или должен ли пешеход погибнуть, чтобы спасти семью из четырех человек в машине?
Чтобы получить ответы на эти вопросы - если это вообще возможно, - исследователи из Массачусестського технологического университета (MIT), проанализировали более 40 миллионов реакций на эксперимент, который они начали в 2014 году.
Их эксперимент под названием "Моральная машина" показал, насколько разнятся ответы на эти вопросы в мире.
Как работал эксперимент?
Решение о том, кого должна убить беспилотная машина, - современный вариант старой этической дилеммы, получившей название "проблема вагонетки".
Эту идею обыграли в одной из серий сериала NBC "В лучшем мире", когда профессор по этике Чиди берет на себя управление трамваем, у которого отказали тормоза. Если профессор ничего не сделает, трамвай собьет пять инженеров, которые работают на путях впереди. Если он переведет трамвай на другой путь, то пятерых инженеров он спасет, но трамвай собьет другого инженера, который в противном случае выжил бы.
"Моральная машина" предлагала несколько вариантов этой дилеммы, к которой было привлечено беспилотное авто. Людям предлагали несколько сценариев. Должен ли беспилотный автомобиль пожертвовать пассажирами или свернуть в сторону и сбить:
- успешного бизнесмена?
- известного преступника?
- группу пожилых людей?
- стадо коров?
- пешеходов, которые переходили дорогу, когда им говорили подождать?
Через четыре года после начала эксперимента исследователи опубликовали результаты исследования в журнале Nature. Что выяснили ученые?
Результаты базировались на 40 миллионах решений и показали, что люди обычно выбирают спасать других людей, а не животных, жертвовать как можно меньшим количеством жизней и склонны спасать молодых людей, а не пожилых.
Менее общие тенденции показали, что обычно люди склонны спасать женщин, а не мужчин, людей с более высоким статусом, жертвуя бедными, и пешеходов, жертвуя пассажирами.
Около 490 тыс. респондентов также заполнили демографическую анкету, где указали свой возраст, пол и религиозные взгляды. Исследователи говорят, что эти данные не имели "значительного влияния" на решения, которые принимали люди.
Впрочем, определенные культурные разногласия все же наблюдались. В частности, люди во Франции больше думали о количестве людей, которые могут погибнуть, а в Японии об этом беспокоились меньше.
Более склонны спасать пешеходов:
- Япония
- Норвегия
- Сингапур
Менее склонны спасать пешеходов:
- Китай
- Эстония
- Тайвань
Исследователи признали, что их исследование не было контролируемым, и что оно не может охватить всю сложность дилемм беспилотных транспортных средств. Однако ученые надеются, что их эксперимент станет стимулом для широкого обсуждения моральных решений, которые придется принимать беспилотным авто.
Более склонны спасать молодых людей:
- Франция
- Греция
- Канада
- Великобритания
Менее склонны спасать молодых людей:
- Тайвань
- Китай
- Южная Корея
- Япония.
"Еще никогда в истории человечества мы не позволяли машине самостоятельно решать кто должен жить, а кто умереть, за долю секунды, без контроля в реальном времени. В любой момент мы сделаем этот шаг", - отметила команда, анализируя результаты.
"До того, как мы позволим нашим автомобилям принимать этические решения, нужно начать широкую дискуссию, чтобы высказать свои пожелания компаниям, которые будут разрабатывать моральные алгоритмы, и государственным структурам, которые это регулировать".
В Германии уже приняли закон, в котором указано, что беспилотные автомобили должны избегать травм или смерти любой ценой.
Закон утверждает, что алгоритм ни в коем случае не может принимать такое решение на основе возраста, пола или состояния здоровья пассажиров или пешеходов.