Автономное вождение: Новый алгоритм справедливо распределяет риски

Исследователи из Мюнхенского технического университета (МТУ) разработали программное обеспечение для автономного вождения, которое справедливо распределяет риски на улице. Алгоритм, заложенный в программное обеспечение, считается первым, включающим 20 этических рекомендаций экспертной группы Комиссии ЕС, что позволяет принимать значительно более дифференцированные решения, чем предыдущие алгоритмы.

Эксплуатация автоматизированных транспортных средств должна стать значительно безопаснее благодаря оценке различной степени риска для пешеходов и автомобилистов. Код доступен широкой публике как программное обеспечение с открытым исходным кодом.

Техническая реализация — не единственное препятствие, которое необходимо преодолеть, прежде чем автономно управляемые автомобили будут допущены на улицы в широком масштабе. Этические вопросы играют важную роль в разработке соответствующих алгоритмов: Программное обеспечение должно быть способно справляться с непредвиденными ситуациями и принимать необходимые решения в случае надвигающейся аварии.

Исследователи из МТУ разработали первый этический алгоритм, который справедливо распределяет уровни риска, а не действует по принципу «или-или». Было протестировано около 2 000 сценариев, связанных с критическими ситуациями, распределенных по различным типам улиц и регионам, таким как Европа, США и Китай. Исследовательская работа, опубликованная в журнале Nature Machine Intelligence, является совместным результатом сотрудничества кафедры автомобильных технологий МТУ и кафедры деловой этики Института этики искусственного интеллекта МТУ (IEAI).

Максимилиан Гайслингер, ученый кафедры автомобильных технологий МТУ, объясняет подход: «До сих пор автономные транспортные средства всегда сталкивались с выбором «или-или» при принятии этического решения. Но уличное движение не всегда можно разделить на четкие, черно-белые ситуации; гораздо важнее учитывать бесчисленные серые оттенки между ними. Наш алгоритм взвешивает различные риски и делает этический выбор из тысяч возможных вариантов поведения — и делает это всего за долю секунды».

Больше вариантов в критических ситуациях

Основные этические параметры, на которые ориентирована оценка рисков программного обеспечения, были определены экспертной группой в виде письменной рекомендации от имени Комиссии ЕС в 2020 году. Рекомендация включает в себя такие основные принципы, как приоритет для наименее защищенных и справедливое распределение риска между всеми участниками дорожного движения. Для того чтобы перевести эти правила в математические расчеты, исследовательская группа классифицировала транспортные средства и людей, движущихся в уличном движении, на основе риска, который они представляют для других, и соответствующей готовности идти на риск.

Например, грузовик может нанести серьезный ущерб другим участникам движения, в то время как сам грузовик во многих сценариях получит лишь незначительные повреждения. В случае с велосипедом все наоборот. На следующем этапе алгоритму было предложено не превышать максимально допустимый риск в различных соответствующих уличных ситуациях. Кроме того, исследовательская группа добавила в расчет переменные, учитывающие ответственность участников движения, например, обязанность соблюдать правила дорожного движения.

Предыдущие подходы рассматривали критические ситуации на улице только с небольшим количеством возможных маневров; в неясных случаях транспортное средство просто останавливалось. Оценка рисков, интегрированная теперь в код исследователей, позволяет получить больше возможных степеней свободы с меньшим риском для всех. Подход будет проиллюстрирован на примере: Автономное транспортное средство хочет обогнать велосипед, а по встречной полосе приближается грузовик. Теперь используются все существующие данные об окружающей обстановке и отдельных участниках движения.

Можно ли обогнать велосипед, не выезжая на полосу встречного движения и в то же время сохраняя безопасную дистанцию до него? Какую опасность представляет каждый отдельный автомобиль, и какую опасность эти автомобили представляют для самого автономного транспортного средства? В неясных случаях автономный автомобиль с новым программным обеспечением всегда ждет, пока риск для всех участников движения не станет приемлемым. Агрессивных маневров удается избежать, и в то же время автономный автомобиль не просто замирает и резко жмет на тормоза. Да и Нет не имеют значения, их заменяет оценка, содержащая большое количество вариантов.

‘Единственное рассмотрение традиционных этических теорий привело к тупику’

«До сих пор для выведения морально допустимых решений, принимаемых автономными транспортными средствами, часто рассматривались традиционные этические теории. В конечном итоге это приводило к тупику, поскольку во многих дорожных ситуациях не было другой альтернативы, кроме как нарушить один этический принцип», — говорит Франциска Пошлер, ученый кафедры деловой этики МТУ. «В отличие от этого, наша система ставит в центр этику риска. Это позволяет нам принимать во внимание вероятности для более дифференцированной оценки.»

Исследователи подчеркнули тот факт, что даже алгоритмы, основанные на этике риска, хотя и могут принимать решения на основе этических принципов в любой возможной дорожной ситуации, все равно не могут гарантировать безаварийное уличное движение. В будущем необходимо будет учитывать и другие различия, например, культурные различия в принятии этических решений.

До сих пор алгоритм, разработанный в МТУ, был проверен на симуляторах. В будущем программное обеспечение будет протестировано на улице с помощью исследовательского автомобиля EDGAR. Код, воплощающий результаты исследовательской деятельности, доступен как программное обеспечение с открытым исходным кодом. Таким образом, МТУ вносит свой вклад в разработку жизнеспособных и безопасных автономных транспортных средств.

Коллектив сайта

(Пока оценок нет)

Загрузка...