Как искусственный интеллект делает автономные транспортные средства более безопасными

Как искусственный интеллект делает автономные транспортные средства более безопасными

ИИ используется для имитации реальных условий для проверки безопасности автономных транспортных средств. Исследователи из Стэнфорда изучили алгоритмы и говорят, что они хороши, но работа еще впереди.

Каковы наилучшие способы тестирования автономных транспортных средств? | iStock/хапабапа

Каждый раз, когда автономный автомобиль или самолет взлетает в воздух, на карту поставлено многое. Инженеры возлагают большие надежды на интеллектуальные системы, которые видят и чувствуют мир и помогают самоуправляемым транспортным средствам избегать практически всех опасностей, которые могут встретиться на их пути.

«Наша главная задача как отрасли заключается в том, как мы можем гарантировать, что эти удивительные возможности систем искусственного интеллекта — беспилотные автомобили и беспилотные самолеты — безопасны. до мы размещаем их в местах, где на карту поставлены человеческие жизни?» — говорит Энтони Корсо, доктор наук в области аэронавтики и космонавтики и исполнительный директор Стэнфордского центра безопасности ИИ.

«Сами системы чрезвычайно сложны, но среда, в которой мы просим их работать, также невероятно сложна», — говорит Корсо. «Машинное обучение позволило роботам управлять автомобилем, например, в центре Сан-Франциско, но это огромная вычислительная проблема, которая еще больше усложняет проверку».

Дорожные испытания являются высшим арбитром безопасности, но дорожные испытания обычно проводятся только на самых последних этапах цикла проектирования и сопряжены с такими же рисками для человеческой жизни, которых исследователи надеются избежать. Ни один инженер не захочет нести ответственность за дорожные испытания, унесшие жизни или даже ценное имущество, во имя доказательства того, что технология безопасна.

В свете этих практических проблем разработчики автономных транспортных средств стали полагаться на моделирование для проверки способности автономных транспортных средств избегать опасности. Но справятся ли эти симуляции с вызовом? С статьей, опубликованной в Журнал исследований искусственного интеллекта, Корсо и его коллеги из Стэнфорда и НАСА представляют обзор этих алгоритмов проверки безопасности «черного ящика». Они находят основания для оптимизма в том, что моделирование однажды может обеспечить необходимый уровень уверенности, но работа еще впереди.

Оценка «черного ящика»

Разработчики беспилотных автомобилей и самолетов, а также других автономных транспортных средств, требовательных к вычислительным ресурсам, обратились к так называемым приложениям проверки «черный ящик». Алгоритмы черного ящика отличаются от своих братьев и сестер, методов белого ящика. Проверка «белого ящика» направлена ​​на то, что известно как «формальная проверка» безопасности системы — не только нахождение потенциальных точек отказа, но, в идеале, доказательство абсолютной безопасности. отсутствие неудачи, а также.

Однако этот более высокий стандарт невероятно интенсивен с вычислительной точки зрения и плохо масштабируется для больших и сложных задач, таких как автономные транспортные средства. Происходит слишком много всего, чтобы все рассчитать и обеспечить уверенность на уровне белого ящика. Но, срезав несколько вычислительных углов, подходы «черный ящик» надеются преодолеть эти проблемы.

Корсо сравнивает это с видеоигрой, в которую играют наоборот, где алгоритмом тестирования является игрок, а победа определяется как неудача — авария, — но, разумеется, в смоделированном мире, без риска для жизни или имущества.Только тогда, когда вы знаете, когда и почему система вышла из строя, вы можете устранить такие ситуации в механизмах безопасности, встроенных в автомобиль.

«Алгоритмы используют состязательный подход, пытаясь найти слабые места. Мы надеемся, что не найдем неудачу. Чем дольше методы «черного ящика» работают, просматривая возможные сценарии, пытаясь создать слабые места и не находя их, тем больше растет наша уверенность в общей безопасности системы», — говорит Корсо о философии, которая движет этой областью.

Триангуляция

Чтобы обеспечить максимально возможную достоверность, алгоритмы проверки выполняют своего рода триангуляцию в случае отказа. Алгоритмы валидации — это самый высокий уровень для наиболее не склонных к риску отраслей, таких как авиация. Алгоритмы валидации ищут любые причины, по которым система может выйти из строя. Этот подход известен как фальсификация. «Фальсификация спрашивает: можешь ли ты найти меня? Любые пример, когда система дает сбой?» — говорит Корсо.

Это преднамеренно заниженная планка, чтобы обеспечить наибольшую уверенность. Однако для беспилотных автомобилей этот порог слишком низок. «С беспилотным автомобилем, работающим в городской среде, всегда можно найти какую-то патологическую ситуацию, которая может привести к аварии», — говорит Корсо. «Поэтому мы немного поднимаем планку».

Следующий уровень, таким образом, включает в себя поиск сбоев, которые наиболее вероятны, чтобы помочь группе разработчиков сделать свои системы максимально безопасными. Третий уровень предназначен для оценки вероятности различных форм отказа, чтобы оценить, насколько один результат превосходит другой.

«Эти методы как бы накладываются друг на друга, чтобы повысить уверенность в общей безопасности системы», — говорит Корсо.

К более безопасным системам

В опросе не обязательно делаются оценочные суждения по рассмотренным инструментам «черного ящика», а скорее сравнивается то, как каждый из них решает проблему, какие предположения создатели встроили в свою систему, и каковы относительные сильные и слабые стороны каждого из них, чтобы разработчики автономных систем могут выбрать тот подход, который лучше всего соответствует их потребностям.

Тем не менее, из девяти протестированных систем, которые в настоящее время доступны для использования, Корсо отмечает, что только две обеспечивают что-то большее, чем проверка фальсификации, только одна предлагает тестирование наиболее вероятного отказа, а другая предлагает оценку вероятности. Так что, говорит он, есть куда расти.

В целом, Корсо и его коллеги еще не могут утвердить ни один из вариантов, но он видит, куда движется поле. По его словам, наиболее захватывающим направлением является «проверка состава», тестирование отдельных компонентов по отдельности, таких как системы визуального восприятия и датчики приближения, чтобы узнать, почему каждый компонент выходит из строя. По словам Корсо, больше информации о том, как подкомпоненты выходят из строя, можно использовать для повышения уверенности в общей безопасности системы.

«Несколько подходов, которые мы упомянули, начали затрагивать эту концепцию, — говорит Корсо, — но я думаю, что это потребует гораздо больше работы. В их нынешнем состоянии эти общесистемные алгоритмы сами по себе недостаточны, чтобы поставить на них формальную печать одобрения».

Миссия Stanford HAI состоит в том, чтобы продвигать исследования, образование, политику и практику ИИ для улучшения условий жизни людей. Учить больше.

Как самоуправляемые автомобили принимают решения

Беспилотные автомобили могут идентифицировать объекты, интерпретировать ситуации и принимать решения на основе алгоритмов обнаружения и классификации объектов. Они делают это, обнаруживая объекты, классифицируя их и интерпретируя то, чем они являются. Mindy Support предоставляет комплексные услуги аннотирования данных, чтобы помочь обучить алгоритм машинного обучения принимать правильные решения при навигации по дорогам.

Как работают беспилотные автомобили?

Чтобы водить себя, автомобилям нужны оба аппаратное обеспечение а также программного обеспечения. Аппаратное обеспечение представляет собой набор датчиков и механических частей. Это позволяет автомобилю ощущать окружающую среду и предоставлять данные для компьютера автомобиля. Это как глаза, руки и ноги водителя. Программное обеспечение — это компьютерное программирование. Это позволяет компьютеру автомобиля принимать решения. Это как мозг водителя.

Автономные автомобили используют множество технологий, чтобы ощущать окружающую среду. Это включает в себя камеры высокой четкости, ультразвуковые датчики, радар а также ЛИДАР. Радар использует радиоволны для обнаружения объектов. Лидар похож на радар, за исключением того, что он использует импульсы света для обнаружения объектов. Они позволяют машине обнаруживать светофоры, людей, едущих на велосипедах, или даже белку, переходящую улицу! Они особенно полезны, когда погодные условия ухудшают видимость.

Автономное обнаружение автомобиля включает в себя видеокамеры, лидар, ультразвуковой радар, камеры кругового обзора, GPS, а также радар среднего и дальнего действия.

Программное обеспечение автомобиля также использует информацию от GPS. Это включает в себя местонахождение автомобиля и информацию, например, ограничения скорости. Это много информации для компьютера автомобиля. Вот почему автономному автомобилю нужен мощный компьютер. Ему также нужен компьютер, который может очень быстро обрабатывать всю эту информацию. Промедление с принятием решения о том, как двигать машину, может быть очень опасным!

Программирование беспилотных транспортных средств

Когда-то мы думали, что к настоящему времени все будут использовать беспилотные автомобили. Итак, почему этого не происходит? Это довольно просто. Создать машины, способные самостоятельно принимать решения в мире людей, непросто.

Иногда во время вождения водитель попадает в сложную ситуацию. Например, водитель вдруг видит койота, стоящего посреди дороги.

На обочине дороги глубокая канава. Водитель надеется, что животное убежит, но оно не движется. Водитель не сможет вовремя остановиться. Должен ли водитель свернуть, чтобы избежать столкновения с койотом? Если они это сделают, они могут нанести вред себе и своей машине, упав в кювет. Или они должны бить собаку? Если они это сделают, собака может умереть, но человек и его машина будут в порядке. Чтобы ты делал?

Если вы думаете, что принять такое решение сложно, представьте, что вы пытаетесь создать для этого компьютерную программу! Это именно то, над чем работают инженеры ИИ.Возвращаясь к примеру с собакой, вы думаете, что все приняли такое же решение, как и вы? То, как вы приняли решение, зависит от вашего ценности. Другими словами, то, что вы считаете важным.

Не все думают, что одни и те же вещи важны. Исследование данных, собранных с помощью моральной машины Массачусетского технологического института, доказало это.

Моральная машина — это набор сценариев автомобильных аварий, в которых люди решают, что бы они сделали, будь у них выбор. Вы можете попробовать это сами по ссылке выше. Исследование показало, что люди во всем мире принимали некоторые решения совместно. Люди предпочитали спасать людей, а не животных. Они предпочли спасти больше жизней меньшему количеству жизней. И они предпочитали спасать детей, а не взрослых. Они также заметили некоторые различия между странами. Скорее всего, это связано с тем, что люди ценят в определенной стране. Например, некоторые страны ценят старейшины больше, чем другие.

В итоге

Роль ИИ в личных транспортных средствах возрастает. Когда-нибудь эти автомобили, вероятно, станут нормой. Следующее поколение людей может даже не научиться водить машину!

Влияние на нашу экономику и общество

Сторонники автономных транспортных средств утверждают, что они могут обеспечить множество преимуществ, включая топливную экономичность и безопасность. Действительно, Институт Брукингса недавно опубликовал книгу по этой теме (Winston and Karpilow, 2020). 2 Управление энергетической информации США (EIA) утверждает, что беспилотники более экономичны, чем автомобили, управляемые людьми, что означает меньше выбросов. Однако беспилотники могут увеличить трафик транспортных средств, потенциально сводя на нет сокращение выбросов за счет топливной экономичности. Крогер, Кухнимхоф и Троммер (2019) прогнозируют, что внедрение технологий автономных транспортных средств может увеличить трафик транспортных средств на 2–9 процентов в результате появления новых групп пользователей автомобилей, а также снижения общих затрат на поездки на автомобиле. 3

Беспилотники, вероятно, будут безопаснее, чем автомобили, управляемые людьми, в значительной степени за счет уменьшения человеческих ошибок, на которые, по оценкам Национальной ассоциации безопасности дорожного движения (NHTSA), приходится 94 процента аварий. Хотя широкое внедрение беспилотников должно в конечном итоге привести к повышению безопасности на дорогах, было несколько громких аварий с участием беспилотников, таких как фургон Waymo, который врезался в автомобиль в Аризоне. Возможно, в результате некоторых из этих громких аварий потребительский спрос на беспилотники оказался относительно низким. Согласно опросу, проведенному Американской автомобильной ассоциацией в 2021 году, только 14% водителей сообщают, что они доверяют езде на автомобиле, который сам себя ведет, что аналогично опросу 2020 года. Однако возможно, что отношение потребителей изменится, как только автомобили Уровня 4 и 5 станут коммерчески доступными.

Беспилотники могут помочь снизить затраты на рабочую силу в отраслях с интенсивным вождением. Однако, как отмечают Гиттлман и Монако (2017), существует несколько типов водителей, и автономное вождение, скорее всего, повлияет на некоторые типы больше, чем на другие. 4 Автономные транспортные средства с большей вероятностью будут использоваться для грузовых автомобилей и тягачей с прицепом (так называемые «дальние перевозки»), чем для местной доставки, учитывая относительную простоту навигации по автомагистралям и все другие задачи, связанные с местной доставкой, включая обработку грузов, оформление документов, и обслуживание клиентов. По оценкам Гиттлмана и Монако, автоматизация уровня 4 и 5 может в конечном итоге заменить от 300 000 до 400 000 водителей. Но авторы подчеркивают, что у автоматизации есть много практических ограничений. Например, они подчеркивают, что одной из важных функций водителя грузовика является охрана груза.

В недавней статье Gelauff, Ossokina и Teulings (2019) представлены некоторые долгосрочные результаты применения AV. 5 Авторы моделируют два уравновешивающих эффекта АВ, каждый из которых приводит к разным последствиям для распределения населения.С одной стороны, беспилотники могут привести к более эффективному использованию времени во время автомобильных поездок, что снижает стоимость жизни вдали от городов. С другой стороны, AV могут привести к улучшению вариантов общественного транспорта в городских условиях в виде автономных транспортных средств для совместного использования (SAV). Авторы утверждают, что SAV могут быть более эффективными, чем существующий общественный транспорт, и могут сделать городскую жизнь относительно более привлекательной, что приведет к большей концентрации населения в городах. Авторы утверждают, что второй эффект может перевешивать первый и в конечном итоге может привести к общему перемещению населения в сторону крупных привлекательных городов за счет более мелких городских и пригородных районов. Хотя авторы не размышляют об конечных экономических последствиях такого изменения, стоит отметить, что литература по экономической географии предполагает наличие многих агломерационных эффектов от проживания в городах или вблизи них, включая более быстрый экономический рост и инновации. 6 Также стоит отметить, что пандемия COVID-19 привела к значительному оттоку населения из многих городских районов, по крайней мере, в краткосрочной перспективе.

Короче говоря, беспилотники, вероятно, по-разному повлияют на нашу экономику и общество. Беспилотники могут привести к снижению выбросов и повышению безопасности. Уменьшая потребность людей в вождении, беспилотники, вероятно, изменят тип работы, выполняемой людьми в транспортном секторе экономики, а также могут изменить способ, которым люди добираются до работы и с работы. Однако то, как все это будет реализовано, зависит от множества факторов, включая, что немаловажно, существующие и будущие правила.

Искусственный интеллект способствует развитию автономных транспортных средств

Автономное вождение — одна из ключевых областей применения искусственного интеллекта (ИИ). Автономные транспортные средства (AV) оснащены несколькими датчиками, такими как камеры, радары и лидары, которые помогают им лучше понимать окружающую среду и планировать путь. Эти датчики генерируют огромное количество данных.Чтобы разобраться в данных, производимых этими датчиками, AV нужны суперкомпьютерные, почти мгновенные возможности обработки. Компании, разрабатывающие AV-системы, в значительной степени полагаются на ИИ в форме машинного обучения и глубокого обучения для эффективной обработки огромного объема данных, а также для обучения и проверки своих автономных систем вождения.

ИИ, машинное обучение, глубокое обучение

Хотя ИИ, машинное обучение и глубокое обучение иногда используются взаимозаменяемо, они не относятся к одним и тем же понятиям. Проще говоря, ИИ — это отрасль компьютерных наук, которая охватывает все, что связано с тем, чтобы сделать машины умными. Итак, когда машина выполняет задачи на основе набора правил, решающих проблему, такое интеллектуальное поведение можно описать как ИИ. Машинное обучение и глубокое обучение — это способы создания или обучения ИИ. Машинное обучение — это изучение структурированных данных и алгоритмов, которые машина использует для выполнения конкретной задачи без конкретных инструкций. Машинное обучение — это приложение ИИ, которое позволяет системам учиться и совершенствоваться на основе опыта.

Глубокое обучение — это подмножество машинного обучения или следующая эволюция машинного обучения. Глубокое обучение основано на шаблонах обработки информации, обнаруженных в человеческом мозгу. Он использует сложные нейронные сети, которые извлекают более подробные функции по мере того, как нейронная сеть продолжает изучать и оценивать свои входные данные. Глубокое обучение может быть контролируемым или неконтролируемым: контролируемое обучение опирается на помеченные обучающие данные, тогда как неконтролируемое обучение использует менее структурированные источники обучения.

Компании, разрабатывающие AV-технологии, в основном полагаются на машинное обучение или глубокое обучение, или на то и другое. Основное различие между машинным обучением и глубоким обучением заключается в том, что, хотя глубокое обучение может автоматически обнаруживать функцию, которая будет использоваться для классификации в неконтролируемых упражнениях, машинное обучение требует, чтобы эти функции были помечены вручную с помощью более жестких наборов правил.В отличие от машинного обучения, глубокое обучение требует значительной вычислительной мощности и обучающих данных для получения более точных результатов.

За последние несколько лет глубокое обучение помогло компаниям ускорить программы разработки AV. Эти компании все больше полагаются на глубокие нейронные сети (DNN) для более эффективной обработки данных датчиков. Вместо того, чтобы вручную писать набор правил для AV, таких как «остановитесь, если вы видите красный свет», DNN позволяют AV учиться самостоятельно перемещаться по миру, используя данные датчиков. Эти алгоритмы вдохновлены человеческим мозгом, подразумевая, что они учатся на опыте. Согласно блогу NVIDIA, специалиста по глубокому обучению, если DNN показывают изображения знака «стоп» в различных условиях, он может научиться распознавать знаки «стоп» самостоятельно. Однако компании, разрабатывающие AV, должны написать не одну, а целый набор DNN, каждая из которых предназначена для конкретной задачи, для безопасного автономного вождения. Не существует установленного предела количества DNN, необходимого для автономного вождения; список на самом деле растет по мере появления новых возможностей. Чтобы на самом деле управлять автомобилем, сигналы, генерируемые отдельной DNN, должны обрабатываться в режиме реального времени, что выполняется высокопроизводительными вычислительными платформами.

Раннее использование ИИ в автономном вождении

Первое использование ИИ для автономного вождения восходит ко второму конкурсу автономных транспортных средств Агентства перспективных исследовательских проектов Министерства обороны США (DARPA) в 2005 году, в котором победил автономный роботизированный автомобиль Stanley Racing Team Стэнфордского университета. Команда-победитель во главе с Себастьяном Турном, доцентом компьютерных наук и директором Стэнфордской лаборатории искусственного интеллекта, объяснила победу использованием машинного обучения. Стэнли был оснащен несколькими датчиками и подкреплялся специально написанным программным обеспечением, включая алгоритмы машинного обучения, которые помогали транспортному средству находить путь, обнаруживать препятствия и избегать их, оставаясь на курсе.Позже Терн возглавил проект «Самоуправляемый автомобиль» в Google, который в конечном итоге стал Waymo в 2016 году.

Waymo широко использует искусственный интеллект, чтобы сделать полностью автономное вождение реальностью. Инженеры компании сотрудничали с командой Google Brain, чтобы применить DNN в своей системе обнаружения пешеходов. Используя технологию глубокого обучения, инженеры смогли снизить количество ошибок при обнаружении пешеходов в 100 раз. Дмитрий Долгов, технический директор и вице-президент по инжинирингу Waymo, рассказал в блоге о Середина в прошлом году, как искусственный интеллект и машинное обучение помогли компании разработать AV-систему. «В то время как восприятие является наиболее зрелой областью для глубокого обучения, мы также используем глубокие сети (DNN) для всего, от прогнозирования до планирования, картирования и моделирования. С помощью машинного обучения мы можем ориентироваться в нюансах и сложных ситуациях, маневрируя в зонах строительства, уступая место чрезвычайным ситуациям. транспортных средств, а также дать место автомобилям, которые находятся на параллельной парковке», — написал Долгов в блоге.

Waymo тщательно обучила свои модули глубокого обучения, проехав более 10 миллионов миль по дорогам и наблюдая за сотнями миллионов взаимодействий между транспортными средствами, пешеходами и велосипедистами. Компания также обучает свои модули глубокого обучения в симуляции — Waymo утверждает, что преодолела более 10 миллиардов миль в автономном режиме в симуляции.

Читайте больше статей, подобных этой. Подписаться на AutoTechInsight

Приведенная выше статья взята из AutoTechInsight компании IHS Markit. AutoTechInsight предоставляет множество оригинальных передовых идей, данных и анализа по широкому спектру тем и секторов автомобильной промышленности. Контент включает новости и аналитические материалы, тематические отчеты, профили поставщиков и базу данных отношений между автопроизводителями и поставщиками в 12 доменах. Посетите AutoTechInsight, чтобы ознакомиться со всеми нашими предложениями.

Искусственный интеллект в беспилотных автомобилях: примеры

Чтобы показать вам, что эта технология находится под рукой, мы выбрали три великолепных примера автономных транспортных средств в действии.Ради этой статьи мы сосредоточились исключительно на автомобилях. Поэтому и нет дронов и прочих самоуправляемых машин/устройств. Вот так:

Уэймо

Это американская компания, которая работает над первым в мире автономным сервисом такси, а также автономными решениями для грузоперевозок и местной доставки. Они хотят разработать автономную систему вождения, способную полностью заменить водителя-человека. Такая система может применяться как в легковых, так и в грузовых автомобилях. Waymo основывала свое решение на сети радаров, лидаров и камер. Автомобили Waymo уже проехали более 20 миллиардов миль как в реальном мире, так и в симуляциях.

Их системы способны обнаруживать:

• Другие транспортные средства
• Велосипедисты
• Пешеходы
• Другие препятствия

Сегодня Waymo сотрудничает с такими производителями автомобилей, как Jaguar, Volvo и Daimler Trucks, чтобы еще больше развивать их решения и внедрять их в другие автомобили.

Это еще одна компания, работающая над автономными транспортными средствами. Знаете ли вы, что это было в 2015 году, когда автомобиль BMW (точнее, i3) впервые припарковался в гараже? Три года спустя BMW открыла свой кампус автономного вождения, где они работают над беспилотными автомобилями. Этот кампус позволяет BMW проводить все исследования и разработки в одном помещении, что ускоряет их работу.

Если вы хотите увидеть автономные автомобили BMW, посмотрите это видео:

Аурриго

В июне 2021 года появилась официальная информация о том, что на улицах британского Кембриджа будут курсировать автономные автобусы производства компании Aurigo. Эти транспортные средства в настоящее время находятся на завершающей стадии тестирования, и вскоре пользователи смогут пользоваться общественным транспортом, работа которого будет основана на искусственном интеллекте и экологии. Вы можете увидеть автобусы Аурриго в действии даже сегодня.

Просто воспроизведите это видео:

Заинтересованы ли вы во внедрении искусственного интеллекта в вашей компании? Просто позвоните нам! Мы всегда кровно заинтересованы в сотрудничестве с компаниями, желающими начать новый этап своего развития — с машинным обучением и искусственным интеллектом.