В прошлом месяце впервые в истории, в США, пешеход погиб в ДТП с участием самоуправляемого автомобиля. Машина, которая двигалась на автопилоте, совершила смертельный наезд на женщину в г.Темпа (штат Аризона). Операто в авто не смог предотвратить аварии.
Хотя такие инциденты еще пока редки, их число может возрасти, ведь на дорогах появляется все больше машин, которые ездят без человеческого вмешательства. В прошлом году несколько стран приняли законы, которые позволили испытывать такие автомобили на дорогах общего пользования. Например, Сингапур даже изменил свои правила дорожного движения. Транспортное агентство Швеции разрешило движение самоуправляемых автобусов в северном Стокгольме, а в Соединенных Штатах Палата представителей приняла закон про самоуправляемые транспортные средства (Self Drive Act), который должен обобщить законы действующие в различных штатах. Еще больше либерализовать американское законодательство должен законопроект Autonomous Vehicle Start Act, который пока завис в Сенате США.
Многие законодатели с энтузиазмом воспринимают потенциал самоуправляемых транспортных средств. Такси “по требованию” могут уменьшить количество автомобилей у частных владельцев и, следовательно, частично решить проблему пробок и вредных выбросов в атмосферу. Искусственный интеллект может гораздо эффективнее, чем человек, контролировать расход топлива. Но самое большое преимущество таких авто заключается в том, что они потенциально способны сохранить до 1,25 млн жизней в год, которые погибают в ДТП, ведь большинство аварий происходит именно из-за человеческих ошибок.
Поэтому правительства хотят как можно быстрее принять законы, которые либерализуют такие транспортные средства и ускорят их появление на дорогах. Однако они часто делают это, освобождая производителей от определенных правил безопасности. Это, в частности, требование, чтобы человек-оператор всегда был внутри транспортного средства, который обязательно должен быть оснащен рулем, тормозами и зеркалами, и все это должно работать, даже когда машина движется на автопилоте. Некоторые производители придерживаются этих требований, ведь до сих пор нет никаких гарантий, что автономные транспортные средства будут соответствовать стандартам безопасности современных автомобилей.
В то же время правительства потеряют миллиарды долларов налогами, если меньше людей будут покупать машины. Миллионы таксистов, водителей грузовиков и автобусов потеряют рабочие места. А алгоритмы машинного обучения, которые осуществляют управление, еще отнюдь не такие совершенные, чтобы спокойно делегировать им ответственность за жизнь пассажиров и пешеходов.
Законодатели должны более тесно работать с учеными и разработчиками, чтобы создать новые правила дорожного движения для автономных транспортных средств. Это очень большой вызов, ведь он требует интеграции исследований сразу из многих сфер. Мы бы хотели обозначить только две сферы, которые требуют срочного внимания, — ответственность и безопасность.
Как и производители любых товаров, разработчики автономных автомобилей несут юридическую ответственность за ущерб, связанный с дефектами конструкции, производства или маркетинга. Потенциальный риск очень высок, ведь сложные системы, которые лежат в основе самоуправляемых автомобилей, в определенных ситуациях могут повести себя неожиданным способом.
В интересах производителя — минимизировать количество исков против себя. Ключевая стратегий — проинформировать пользователей продукта о том, как он работает. Например, разработчики лекарств подают информацию про дозирование и побочные действия; производители электроники — инструкции и предупреждения. Впрочем, как и в случае со смартфонами, технологии в основе самоуправляемых транспортных средств очень сложно объяснить и понять. Люди предпочитают покупать простые вещи, которые позволяют выполнять сложные задачи. Однако чем сложнее вещь, тем меньше у ее пользователей способности распознавать и устранять проблемы в ее функциях. Очень мало водителей, например, знают, как компьютер в их авто контролирует параметры двигателя. Поэтому и пассажир автономного транспортного средства, скорее всего, не будет знать, почему программа вдруг сделала резкий поворот на встречную полосу или почему не опережает медленную машину впереди.
Ситуация еще больше усложняется тем, что алгоритмы машинного обучения непредсказуемы. Решения, которые они принимают, определены предыдущим опытом. Никто, даже разработчик алгоритма, не может точно определить, как автомобиль себя поведет при тех или иных обстоятельствах.
На сегодня нет ни одного закона, который бы регулировал, сколько “тренироваться” нужно таким авто прежде чем разрешить им выехать на трассу. Уже сегодня разные марки по-разному реагируют на критические ситуации. Одни, например, пробуют объехать препятствие, а другие резко активируют тормоза. Некоторые дорожные ситуации, например, переворот грузовика ветром, вообще пока что не удается запрограммировать.
Чтобы проинформировать пассажиров, почему авто ведет себя в тот или иной способ, нужен сложный интерфейс. Сегодняшние панели управления содержат информацию о скорости и расходе горючего. Но завтра, наверное, появятся гораздо более сложные дисплеи, которые будут сообщать о “намерениях” и логике поведения машины. Например, пассажир имеет право знать, что машина не опережает медленного транспортного средства впереди, потому что компьютер рассчитал, что есть только 10% шансов, что маневр будет успешным.
К сожалению, люди часто игнорируют информацию, даже если от нее зависит вопрос жизни и смерти. Например, 70% авиапассажиров не читают листовок с информацией о безопасности в самолете, хотя их об этом прямо просят. Эти листовки содержат информацию о том, как одеть спасательную кислородную маску или открыть спасательный шлюз.
Зато автономные транспортные средства должны сообщать гораздо больше данных. Их сенсоры и алгоритмы должны понимать поведение пешеходов, различать разные стили вождения и приспосабливаться к изменениям в освещении. Исследования, как донести эту информацию людям доступно и понятно, сегодня имеют ключевое значение. Впрочем, как и достаточная компетентность людей, которые будут использовать эти технологии.
Преимущества безопасности и эффективности автономных машин заключаются прежде всего в том, что компьютеры принимают решения лучше и быстрее, чем люди. От человека требуется лишь внести пункт назначения, а все остальное должен сделать компьютер. Но производители целенаправленно не сделали транспортных средств полностью автономными. Люди и до сих пор лучше, чем компьютеры, реагируют на непредвиденные обстоятельства. Пилоты могут перенять управление в системе fly-by-wire, если ключевые компьютеры на борту самолета откажут.
Общество имеет право не доверять полной автоматизации. Производители должны четко объяснить, что машина сделает для безопасности пассажиров, если не сработают системы управления, сломаются камеры или “умрут” внутренние карты. Но это нелегко спроектировать. Без камер автомобиль, например, не видит, куда едет.
На наш взгляд, некоторая форма человеческого вмешательства всегда будет необходима. Самоуправляемые автомобили, скорее всего, будут напоминать самолеты, в которых от функций пилотов так и не отказались, хотя есть современные высокоавтоматизированные системы. Производители автономных транспортных средств, в целом, придерживаются этого требования. Во время тестов всегда присутствуют водители, хотя разработчики и регуляторы говорят про полную автоматизацию.
Но привлечение людей тянет за собой другие проблемы. Автономные автомобили всегда будут требовать от своих пользователей определенных знаний и умений, и некоторым людям непросто будет ими пользоваться, например, тем, у кого ослабленные когнитивные функции. Парадокс в том, что именно эти люди больше всего выигрывают от таких автомобилей. Это, в частности, пожилые люди, которые имеют повышенный риск ДТП, поскольку когнитивные способности с возрастом ослабевают. Кстати, одним из главных стимулов инвестиций в технологию в Японии является именно предоставление больше мобильности пожилым людям.
Функции вождения может на себя взять удаленный оператор, что уже давно практикуют для самолетов. Но сколько нужно таких операторов, чтобы движение сетей самоуправляемых машин было безопасным? В 1991 году слишком загруженный контролер воздушного трафика совершил аварию в Лос-Анджелесе, посадив один самолет прямо на другой. А в прошлом году среди главных причин ошибок врачей в Гонконге назвали их чрезмерную загруженность пациентами.
В рамках действующего законодательства нет ответа на эти вызовы. Законы в Соединенных Штатах требуют лишь того, чтобы пользователи были “информированы” про технологию перед тем, как ее использовать. Стандарты же этой компетентности даже не упоминаются.
Мы призываем законодателей переосмыслить подход к регулированию автономных транспортных средств и учесть следующие шесть пунктов.
Если автомобиль самоуправляемый, это не означает, что он может обойтись без человека-оператора. Автоматизация не вытесняет человеческого труда, а лишь меняет его характер.
Пользователи должны быть информированы о том, как система работает. Производители должны приложить всех усилий, чтобы ключевая для безопасности информация, включая данные с камер, лазеров и радаров, была доступной пользователям в понятной форме.
Операторы должны обладать достаточным уровнем компетентности. Сегодня еще нет консенсуса, какой должна быть эта компетентность. Однако ее проверку должны осуществлять государственные органы, выдающие удостоверение, и она должна дополнять удостоверение водителя, что уже существуют.
Регулярная проверка компетентности для операторов должна стать обязательной. Необходимо определить временные интервалы, учитывая состояние когнитивных способностей человека и технологий, которые постоянно развиваются.
Необходимо создать удаленный надзор над сетями таких авто. Обязательным требованием является определение максимального количества транспортных средств, которыми может управлять один оператор.
Для удаленных операторов необходимо установить безопасный режим работы.
Путь к автономии отнюдь не является заранее определенным. Поэтому на важные вызовы нужно уже сегодня искать ответы.