Техническая реализация - не единственное препятствие, которое необходимо преодолеть, прежде чем автономно управляемые транспортные средства смогут быть допущены на улицу в больших масштабах. Этические вопросы играют важную роль при разработке соответствующих алгоритмов: программное обеспечение должно быть способно справляться с непредвиденными ситуациями и принимать необходимые решения в случае надвигающейся аварии. Исследователи из TUM в настоящее время разработали первый этический алгоритм, позволяющий справедливо распределять уровни риска, а не действовать по принципу "или-или". Было протестировано около 2000 сценариев, связанных с критическими ситуациями, распределенных по различным типам улиц и регионов, таких как Европа, США и Китай. Исследовательская работа, опубликованная в журнале "Природный машинный интеллект" является совместным результатом партнерства между кафедрой автомобильных технологий TUM и кафедрой деловой этики Института этики в области искусственного интеллекта TUM (IEAI).

Максимилиан Гайслингер, научный сотрудник кафедры автомобильных технологий TUM, объясняет этот подход: "До сих пор автономные транспортные средства всегда сталкивались с выбором "или / или", когда сталкивались с этическим решением. Но уличное движение не обязательно можно разделить на четкие черно-белые ситуации; более того, необходимо учитывать бесчисленные оттенки серого между ними. Наш алгоритм взвешивает различные риски и делает этический выбор из тысяч возможных вариантов поведения - и делает это всего за долю секунды".

Больше возможностей в критических ситуациях

Основные этические параметры, на которые ориентирована оценка рисков программного обеспечения, были определены экспертной группой в качестве письменной рекомендации от имени Комиссии ЕС в 2020 году. Рекомендация включает в себя основные принципы, такие как приоритет для наиболее уязвимых и справедливое распределение риска между всеми участниками дорожного движения. Чтобы перевести эти правила в математические расчеты, исследовательская группа классифицировала транспортные средства и людей, движущихся в уличном движении, на основе риска, который они представляют для других, и соответствующей готовности идти на риск. Например, грузовик может нанести серьезный ущерб другим участникам дорожного движения, в то время как во многих сценариях сам грузовик получит лишь незначительные повреждения. В случае с велосипедом все наоборот. На следующем шаге алгоритму было сказано не превышать максимально допустимый риск в различных соответствующих уличных ситуациях. Кроме того, исследовательская группа добавила в расчет переменные, которые учитывают ответственность участников дорожного движения, например ответственность за соблюдение правил дорожного движения.

Предыдущие подходы рассматривали критические ситуации на улице лишь с небольшим количеством возможных маневров; в неясных случаях транспортное средство просто останавливалось. Оценка рисков, теперь интегрированная в код исследователей, обеспечивает больше возможных степеней свободы при меньшем риске для всех. Пример проиллюстрирует подход: автономное транспортное средство хочет обогнать велосипед, в то время как грузовик приближается по встречной полосе. Теперь используются все существующие данные об окружающей среде и отдельных участниках. Можно ли обогнать велосипед, не выезжая на полосу встречного движения и в то же время сохраняя безопасную дистанцию до велосипеда? Какой риск представляет каждое соответствующее транспортное средство и какой риск эти транспортные средства представляют для самого автономного транспортного средства? В неясных случаях автономное транспортное средство с новым программным обеспечением всегда ждет, пока риск для всех участников не станет приемлемым. Агрессивных маневров удается избежать, и в то же время автономное транспортное средство не просто замирает и резко жмет на тормоза. Да и Нет не имеют значения, заменяются оценкой, содержащей большое количество вариантов.

"Единственное рассмотрение традиционных этических теорий завело в тупик"

"До сих пор часто рассматривались традиционные этические теории для вывода морально допустимых решений, принимаемых автономными транспортными средствами. В конечном счете это привело к тупику, поскольку во многих дорожных ситуациях не было другой альтернативы, кроме как нарушить один этический принцип", - говорит Франциска Пошлер, научный сотрудник кафедры деловой этики TUM. "Напротив, наша система ставит этику риска в центр. Это позволяет нам учитывать вероятности для проведения более дифференцированных оценок".

Исследователи подчеркнули тот факт, что даже алгоритмы, основанные на этике риска - хотя они могут принимать решения, основанные на основополагающих этических принципах, в любой возможной дорожной ситуации - они все равно не могут гарантировать безаварийное уличное движение. В будущем дополнительно необходимо будет рассмотреть дополнительные различия, такие как культурные различия в принятии этических решений.

Программное обеспечение теперь будет протестировано в условиях уличного движения

До сих пор алгоритм, разработанный в TUM, был подтвержден в ходе моделирования. В будущем программное обеспечение будет протестировано на улице с использованием исследовательского автомобиля EDGAR. Код, воплощающий результаты исследовательской деятельности, доступен в виде программного обеспечения с открытым исходным кодом. Таким образом, TUM вносит свой вклад в разработку жизнеспособных и безопасных автономных транспортных средств.