18.11.2018
беспилотные автомобили

Безопасность на дороге с беспилотниками: время притормозить вагонетку

Рейтинг:  5 / 5

Звезда активнаЗвезда активнаЗвезда активнаЗвезда активнаЗвезда активна
 

Сейчас беспилотным автомобилем уже никого не удивишь. Кажется, вот-вот наступят времена, когда роль водителя за рулем полностью будет выполнять искусственный интеллект. Готово ли человечество к таким переменам?

Как должны работать беспилотные авто? Должны ли они быть запрограммированы прежде всего на то, чтобы заботиться о жизни и здоровье пешеходов, или наоборот, заботиться о безопасности пассажиров? В последнее время крайне популярным инструментом для выяснения моральных аспектов использования таких автомобилей стал мысленный эксперимент, который называют проблемой вагонетки.

Представьте ситуацию: вагонетка сошла с рельсов и мчится в направлении, где пять человек выполняют ремонтные работы. Они однозначно погибнут, если вагонетку не перевести на другую колею, но на этом пути также работает один человек. Нажав на стрелку, вы убьете одного рабочего, а оставив все как есть, убьете аж пятерых. Какими будут ваши действия? Собственно, это самая популярная из версий упомянутого воображаемого эксперимента. Возникает вопрос, уместно ли применять популярную в 1970-х годах философскую задачу в современных условиях и пытаться с ее помощью решить морально-этические дилеммы использования искусственного интеллекта.

Мысленный эксперимент или реальность

Ученый, автор и редактор издания The Atlantic Иэн Богост (Ian Bogost) считает, что задача про вагонетку не учитывает всех особенностей функционирования беспилотных автомобилей. Применяя ее для поиска ответов на вопросы относительно моральных и правовых аспектов использования таких авто, мы рискуем получить однобокие выводы.

Благодаря философу Джудит Джарвис Томсон (Judith Jarvis Thomson), мысленный эксперимент про вагонетку приобрел необычайную популярность в середине 1970 годов, однако саму проблему еще в 1967 году сформулировала британка Филиппа Фут (Philippa Foot). Прежде всего она пыталась исследовать разницу между тем, что человек собирается сделать и тем, какие последствия она предусматривает. Ученая убеждена, что необходимо понимать разницу между действием и бездействием, избежанием вреда и оказанием помощи. Итак, центральной темой исследования Филиппы Фут был именно нравственный аспект поведения.

Но когда речь идет о будущем беспилотных транспортных средств, мораль и этика обычно остаются вне поля зрения. Несмотря на стремительное развитие технологий, людей в основном интересуют именно последствия использования робототехники. В философии такой подход называется консеквенционализмом. Пока главным аргументом в пользу беспилотных авто является повышение уровня безопасности на дорогах. В 2016 году в автокатастрофах в Америке погибло более 37 тыс. лиц. Поскольку в 94% случаев причиной аварии стала ошибка водителя, замена человека на машину имеет очевидное преимущество для общества. Но, сосредоточиваясь исключительно на последствиях, мы рискуем оставить в стороне моральных аспектов функционирования робокаров.

Недавно в штате Аризона беспилотник Uber сбил 49-летнюю Элейн Хертцберг (Elaine Hertzberg), и женщина умерла в результате несчастного случая. Существует мнение, что вскоре благодаря беспилотным авто количество смертей пешеходов значительно сократится или вообще будет равно нулю и что каждая смерть – это, конечно, большое горе, но если благодаря беспилотным автомобилям можно будет предотвратить тысячи летальных случаев, одну гибель все же можно оправдать. С этой позиции смерть Элейн Хертцберг ничем не отличается от гибели многочисленных пешеходов, сбитых живыми водителями.

Нравственная статистика и моральная машина

Возможно, с точки зрения статистики это так и есть, но с точки зрения этики – вряд ли. Чтобы применить задачу про вагонетку к этому ДТП, надо быть полностью уверенными в том, что транспортное средство видело пешехода, поэтому в этом случае проблема вагонетки – не слишком точный инструмент. К тому же, она не учитывает всех обстоятельств, которые могут возникнуть в реальной жизни. Сама автор эксперимента говорила, что на самом деле вагонетка вряд ли бы переехала человека, потому что потенциальная жертва могла бы сойти с пути перед столкновением. В любом случае необходимо принимать во внимание все факторы и факторы, которые могут повлиять на последствия, и учесть все возможные реакции, ситуации и факторы.

Именно такой подход используется на онлайн-платформе Moral Machine, которую разработали инженеры из MIT. Здесь люди могут поделиться своими мыслями о том, как в тех или иных ситуациях должен действовать искусственный интеллект. Это вполне соответствует принципам функционирования систем машинного обучения, ведь здесь мы имеем большой набор данных. Но существует также другой подход, который предусматривает рассмотрение определенных проблем с точки зрения наиболее подходящего морального аспекта.

Запутанная ситуация

В своем исследовании Филиппа Фут предлагает пример, который больше подходит к ситуации, что произошла в Аризоне, чем проблема вагонетки. Представьте, что в больничной палате находится 5 пациентов. Их можно вылечить, запустив в помещение определенное вещество, однако в то же время в соседней палате, где находится пациент, которого нельзя двигать, произойдет утечка ядовитых газов. В этом случае расчет последствий такой же, как и в проблеме вагонетки, однако для многих людей выводы не столь очевидны.

В задаче про вагонетку перед водителем встает тяжелый выбор: он должен решить, кому жить, а кто должен умереть. В примере с больницей и газом врач сталкивается с выбором между предоставлением помощи и причинением вреда. Ситуация с беспилотником Uber еще более запутанная, поскольку ни производитель, ни водитель, управляющий транспортным средством в автономном режиме, ни законодатель, который должен урегулировать соответствующие отношения, не знает наверняка, какой вред могут причинить машины с искусственным интеллектом. Учитывая это, в настоящее время проблема заключается не столько в том, что будет завтра, сколько в недостаточном правовом регулировании и недостатке информации, которую предоставляют свою продукцию производители беспилотных транспортных средств. Однако, к сожалению, эти темы интересуют меньше, чем вагонетка, что вот-вот кого-то переедет.

Моральная удача

Если мы хотим использовать ДТП в Аризоне как прецедент, возможно, лучше рассматривать его как пример моральной удачи – концепции, предложенной философом Томасом Нагелем (Thomas Nagel). Представьте, что человек сел за руль в нетрезвом состоянии, но добрался до места назначения, не причинив аварийной ситуации на дороге. Другая, сев за руль подшофе, убил ребенка, которая внезапно выбежал на дорогу. На первый взгляд кажется, что второе лицо заслуживает более суровое общественное порицание, чем первое, однако в обоих случаях водители добровольно совершили одинаковые действия. Разница лишь в последствиях.

По словам Иэна Богоста, женщина, которая погибла под колесами беспилотного авто, вряд ли является оправданной жертвой ради большего блага. Зато он утверждает, что преимущества беспилотных автомобилей, в том числе безопасность, могут быть примером нравственной удачи, которая заключается в том, что таким авто больше везет избегать ДТП.

Когда речь идет про моральную удачу в случае с беспилотниками, надо понимать, насколько сознательно совершаются те или иные действия. Водитель Uber предвидел и понимал последствия собственных действий? Может ли человек вмешаться, когда авто движется в автономном режиме? Виновата ли служба Uber в этой ситуации, учитывая, что местные власти штата Аризона позволили проводить такие эксперименты на дорогах, где двигаются другие транспортные средства и пешеходы? Для решения этических проблем не существует универсальной формулы, которую можно применить к любым ситуациям. Рассматривая проблему вагонетки как удобный подход к осмыслению работы беспилотных автомобилей, мы не берем во внимание сложные этические аспекты и условия, в которых работают эти машины.

Мысленные эксперименты используются для оценки возможных результатов и переосмысления устоявшихся концепций. Но это не готовый рецепт, который подскажет, как именно нужно действовать. Кое-кто ошибочно считает, что беспилотные авто – это надежная технология, которую уже сейчас можно смело использовать. Однако от такого благоденствия нас отделяют годы упорного труда. Тем временем производители беспилотных авто должны предоставлять больше информации о собственной продукции, законодателям следует наконец заняться нормативно-правовым регулированием, а обществу – серьезно задуматься про моральные и правовые аспекты использования беспилотных автомобилей.

  1. Последние
  2. Популярные
Загрузка...

Новости технологий сегодня

Самые популярные метки