Исследователи из Мюнхенского технического университета (TUM) разработали программное обеспечение для автономного вождения, которое справедливо распределяет риски на улицах. Алгоритм, заложенный в программу, считается первым, включающим в себя 20 этических рекомендаций экспертной группы Комиссии ЕС, что позволяет принимать значительно более дифференцированные решения по сравнению с предыдущими алгоритмами. Эксплуатация автоматизированных транспортных средств должна стать значительно безопаснее за счет оценки различной степени риска для пешеходов и автомобилистов. Код программы доступен широкой публике как программное обеспечение с открытым исходным кодом.
Техническая реализация - не единственное препятствие, которое необходимо преодолеть, прежде чем автономные автомобили будут допущены на улицы в массовом порядке. Этические вопросы играют важную роль в разработке соответствующих алгоритмов: Программное обеспечение должно уметь справляться с непредвиденными ситуациями и принимать необходимые решения в случае надвигающейся аварии. Исследователи из TUM разработали первый этический алгоритм, который справедливо распределяет уровни риска, а не действует по принципу "или-или". Было протестировано около 2 000 сценариев, связанных с критическими ситуациями, распределенных по различным типам улиц и регионам, таким как Европа, США и Китай. Исследовательская работа, опубликованная в журнале "Nature Machine Intelligence", является совместным результатом сотрудничества кафедры автомобильных технологий ТУМ и кафедры деловой этики Института этики в искусственном интеллекте ТУМ (IEAI).
Максимилиан Гайслингер, ученый кафедры автомобильных технологий ТУМ, объясняет суть подхода: "До сих пор автономные автомобили всегда сталкивались с выбором "или-или" при принятии этических решений. Но уличное движение не всегда можно разделить на однозначные, черно-белые ситуации; гораздо большее значение имеет бесчисленное количество серых оттенков между ними. Наш алгоритм взвешивает различные риски и делает этический выбор из тысяч возможных вариантов поведения - и делает это всего за долю секунды".
Больше возможностей в критических ситуациях
Основные этические параметры, на которые ориентирована оценка рисков в программе, были определены экспертной группой в виде письменной рекомендации от имени Комиссии ЕС в 2020 году. Эта рекомендация включает в себя такие базовые принципы, как приоритет для наименее пострадавших и справедливое распределение риска между всеми участниками дорожного движения. Для того чтобы перевести эти правила в плоскость математических расчетов, исследовательская группа классифицировала транспортные средства и людей, движущихся по улицам, в зависимости от степени риска, который они представляют для окружающих, и от готовности идти на риск.
Например, грузовик может нанести серьезный ущерб другим участникам движения, в то время как сам он во многих случаях получит лишь незначительные повреждения. Для велосипеда все наоборот. На следующем этапе алгоритму было предложено не превышать максимально допустимый риск в различных ситуациях на улице. Кроме того, исследовательская группа добавила в расчет переменные, учитывающие ответственность участников движения, например, обязанность соблюдать правила дорожного движения.
Предыдущие подходы рассматривали критические ситуации на улице лишь с небольшим числом возможных маневров; в неясных случаях транспортное средство просто останавливалось. Теперь оценка рисков, интегрированная в код исследователей, позволяет получить больше возможных степеней свободы с меньшим риском для всех. Подход можно проиллюстрировать на примере: Автономный автомобиль хочет обогнать велосипед, а по встречной полосе приближается грузовик. Теперь используются все имеющиеся данные об окружающей обстановке и отдельных участниках движения. Можно ли обогнать велосипед, не выезжая на полосу встречного движения и сохраняя при этом безопасную дистанцию до него? Какую опасность представляет каждое из транспортных средств и какую опасность эти транспортные средства представляют для самого автономного транспортного средства? В неясных случаях автономный автомобиль с новым программным обеспечением всегда выжидает, пока риск для всех участников движения не станет приемлемым. Агрессивных маневров удается избежать, и в то же время автономное транспортное средство не просто замирает и резко жмет на тормоза. Варианты "да" и "нет" не имеют значения, их заменяет оценка, содержащая большое количество вариантов.
"Рассмотрение только традиционных этических теорий приводило к тупику"
"До сих пор для выведения морально допустимых решений, принимаемых автономными автомобилями, часто рассматривались традиционные этические теории. В конечном итоге это приводило к тупику, поскольку во многих дорожных ситуациях не было другой альтернативы, кроме нарушения одного этического принципа", - говорит Франциска Пошлер, научный сотрудник кафедры деловой этики ТУМ. "В отличие от этого, наша система ставит в центр этику риска. Это позволяет нам учитывать вероятности для более дифференцированных оценок".
Исследователи подчеркнули, что даже алгоритмы, основанные на этике риска, хотя и могут принимать решения на основе этических принципов в любой возможной дорожной ситуации, все равно не могут гарантировать безаварийное движение по улицам. В будущем необходимо будет учитывать и другие различия, например, культурные различия в принятии этических решений.
Теперь программное обеспечение будет протестировано в условиях уличного движения
До сих пор алгоритм, разработанный в TUM, был проверен на симуляторах. В дальнейшем программа будет протестирована на улице с помощью исследовательского автомобиля EDGAR. Код, воплощающий результаты исследований, доступен в виде программного обеспечения с открытым исходным кодом. Таким образом, TUM вносит свой вклад в разработку жизнеспособных и безопасных автономных транспортных средств.