Печально известная "дилемма вагонетки" (trolley problem), впервые сформулированная в 1967 году британским философом Филиппой Фут, была заложена в основу глобального исследования, в котором участвовали миллионы людей. Это исследование показало, насколько моральные и этические нормы отличаются в разных странах.
В 2014 году ученые из лаборатории MIT Media Lab начали эксперимент под названием Moral Machine (Моральная машина). Идея заключалась в том, чтобы создать онлайн-платформу, подобную игровой, которая бы собрала мнения людей о том, как беспилотные автомобили должны определять, кого именно спасать в разных вариациях «дилеммы вагонетки». Предполагалось, что это исследование позволит лучше понять коллективные этические приоритеты различных культур.
Исследователи не прогнозировали, что эксперимент станет вирусным. И через четыре года после старта миллионы людей в 233 странах и территориях оставили 40 миллионов ответов, что сделало это исследование одним из крупнейших среди тех, что выполнялись в глобальном масштабе.
Новый материал, опубликованный в журнале Nature, представляет анализ этих данных и показывает, насколько межкультурная этика различается в зависимости от культуры, экономики и географического расположения страны.
Напомним, что «дилемма вагонетки» сформулирована следующим образом: тяжелая неуправляемая вагонетка несется по рельсам. На пути ее следования находятся пять человек, привязанных к рельсам. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. И на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия? Ничего не делать и позволить погибнуть тем пятерым, или все же переключить стрелку и убить одного, но спасти пятерых?
В основе Moral Machine лежит примерно та же идея, но увеличено количество вариаций: должен ли беспилотный автомобиль предоставлять приоритет человеку над домашними животными, пассажирам над пешеходами, большему количеству людей над меньшей, женщинам над мужчинами, молодым над старым, здоровым над больными, людей с высшим социальным статусом над низшим, законопослушным гражданам над нарушителями ПДД? И, наконец, должен ли автомобиль вообще делать определенные активные действия или просто держать курс (то есть избегать любых проблематичных решений)?
Но исследователи пошли дальше, и вместо того, чтобы создавать простые сравнения, комбинировали их в более сложные вопросы. Например, должна ли машина двигаться просто прямо и сбить троих пожилых пешеходов или отвернуть в сторону и врезаться в столб, убив трех молодых пассажиров.
Ученые обнаружили, что мысли в разных странах сильно отличаются между собой, а еще они также мощно коррелируют с культурой и экономикой. Например, участники опроса из коллективистских культур, таких как Китай и Япония, менее склонны спасать молодых людей вместо старых — возможно по той причине, считают исследователи, что в тех странах старикам уделяется чрезвычайно большое уважение. В странах с более индивидуалистическими культурами, скорее всего, будут спасать молодых.
Так же, участники исследования из бедных стран с менее устоявшимися правовыми нормами более толерантны к пешеходам-нарушителям в противовес тем пешеходам, которые соблюдают правила ПДД. В свою очередь участники исследования из стран с высоким уровнем экономического неравенства продемонстрировали большой разрыв в отношении к лицам с высоким и низким социальным статусом.
Кроме того, исследователи выяснили, что численность людей, которые могут пострадать от ДТП, не всегда была преобладающим фактором в выборе того, какую группу надо спасать. Результаты показали, что респонденты из индивидуалистических культур, таких как Великобритания и США, уделяли больше внимания сохранению большего количества жизней, но учитывали и все другие варианты — возможно, по мнению авторов, вследствие того, что в этих странах более распространена антропоцентричная культура.
В странах с более индивидуалистическими культурами, скорее всего, будут пытаться спасти большее количество жизней
Страны, расположенные в непосредственной близости друг от друга, также продемонстрировали примерно одинаковые результаты опроса, к тому же можно было выделить три основных кластера на Западе, Востоке и Юге.
Исследователи признают, что результаты могут быть немного необъективны, поскольку участников опроса не отбирали по каким-то критериям, а они сами изъявили желание принять участие в эксперименте. К тому же это были люди с высоким социальным статусом, тесно связаны с интернетом и технически подкованные. Но те, кто заинтересованы в эксплуатации самоходных машин, скорее всего, будут иметь аналогичные характеристики.
Исследование имеет интересные последствия для стран, которые сейчас испытывают беспилотные автомобили, поскольку собранные мнения могут сыграть определенную роль в создании конструкции и законодательных норм для таких транспортных средств. Автопроизводители, например, могут обнаружить, что китайские потребители отдают предпочтение самоходным автомобилям, в которых более приоритетным является защита пассажиров над пешеходами.
Как в разных странах делают выбор, кого спасать: пешеходов или пассажиров
Впрочем, авторы исследования подчеркнули, что результаты опроса не имеют целью диктовать, как должны действовать различные страны. Даже больше, в некоторых случаях авторы считали, что технологи и политики не должны прислушиваться к общественному мнению. Эдмон Эвад (Edmond Awad), автор статьи, в качестве примера привел результаты опроса относительно социального статуса.
«Похоже, что в некоторых странах считается нормальным, когда в случае ДТП нужно отдавать предпочтение спасению людей с более высоким социальным статусом», — сказал он. Поэтому здесь разработчикам важно заявить: «Мы можем лишь оценить количество людей на дороге [а не их социальный статус]».
Результаты опроса, по его словам, должны использоваться представителями индустрии и органов власти как основа для понимания того, как общественность будет реагировать на этику различных конструкторских и регуляторных решений. Эвад надеется, что результаты исследования также помогут технологам более глубоко задуматься об этике искусственного интеллекта (AI) за пределами беспилотных машин.
«Мы использовали дилемму с вагонеткой, поскольку это очень хороший способ собрать нужные данные, но мы надеемся, что обсуждение этических норм не останется в рамках только этой темы. Дискуссия должна перейти к анализу рисков — о том, кто больше или меньше в зоне риска — вместо того, чтобы обсуждать кто в итоге погибнет, а также о том, какие наблюдаются тренды ».
Но каким образом результаты опроса могут повлиять на формирование более этичного подхода при создании искусственного интеллекта — это вопрос, который надо изучить в будущем.
По словам Эвада, в течение последних 2-3 лет все больше людей обсуждают этику ИИ. И все чаще они осознают, что AI может иметь различные этические последствия для разных групп людей. Но сам факт, что люди начали интересоваться такой тематикой, является важным и многообещающим.