Спецпроекты

Гаджет стоимостью $300 сводит с ума «лучший в мире» автопилот Tesla. Видео

4883
Безопасность Пользователю Техника

Ученым удалось обмануть машинное зрение автомобиля Tesla Model X при помощи 2D-проекций дорожных знаков и разметки, а также силуэтов людей. Считав несуществующие знаки, электрокар тормозил и менял направление движения, что в реальной ситуации может привести к аварии.

Не очень умный автопилот

Группе специалистов Университета им. Давида Бен-Гуриона в Негеве (Израиль) и Технологического института Джорджии (США) удалось обмануть автопилот в автомобиле Tesla при помощи дешевого проектора. Они использовали его для проецирования различных двумерных (2D) изображений, попадающих в поле «зрения» датчиков электрокара, и подмены с их помощью реальности.

Так, в одном из экспериментов авторы спроецировали изображение дорожного знака на вертикальную конструкцию и затем на дерево, в другом – силуэт человека на дорогу. Во всех случаях устройство, которое использовали исследователи, стоившее им в пределах $300 (19 тыс. руб. по курсу ЦБ на 6 февраля 2020 г.), существенно меняло поведение автомобиля.

tes601.jpg
Эксперимент с проекцией человека завершился для Tesla неудачей

В качестве подопытного использовался кроссовер Tesla Model X, оснащенный системой помощи водителю Mobileye 630 PRO и автопилотом HW 2.5. Авторы эксперимента не уточнили, был ли автомобиль оснащен бортовым процессором Tesla FSDC, выпущенным в апреле 2019 г. и обратно совместимым с парком уже выпущенных электромобилей. Основатель Tesla Илон Маск (Elon Musk) назвал его «объективно лучшим чипом для автономных машин».

Несложный, но эффективный эксперимент

Тестируя автопилот Tesla на предмет уязвимостей, ученые на долю секунды нанесли проекцию дорожного знака с ограничением скорости на вертикальную конструкцию впереди автомобиля. Датчики считали его и, посчитав его за настоящий, отдали команду о снижении скорости.

Машинное зрение Tesla нельзя назвать идеальным

Результаты эксперимента с проекцией силуэта человека на проезжую часть оказались не столь однозначными. Электронное «зрение» американского электрокара распознало его в последний момент, и машина сбросила скорость, однако полностью не остановилась. По итогу Tesla проехала сквозь проекцию – в реальности подобная ошибка автопилота могла бы закончиться столкновением с настоящим человеком.

Автопилот Tesla воспринимает фиктивные дорожные знаки как настоящие

Третий эксперимент заключался в нанесении виртуальной дорожной разметки, которую автопилот Tesla распознал мгновенно, в отличие от силуэта пешехода. Исследователям удалось обмануть датчики автомобиля и увести его по несуществующей разметке на встречную полосу – если бы автомобиль повел себя подобным образом в реальной ситуации, лобовое столкновение со встречной машиной было бы практически неизбежным.

Дополнительно был проведен еще один опыт с дорожными знаками – едва заметное изображение знака ограничения скорости, которое человек даже не различит, было интегрировано в рекламное изображение на обочине. Автопилот Tesla считал и распознал его, приняв за настоящий знак, и придерживался указанного на нем ограничения.

Даже крошечный силуэт дорожного знака может заставить Tesla ограничить скорость движения

Результаты проведенных испытаний ученые выложили в свободном доступе и отправили Tesla. В ответ компания заявила, что прошивка участвовавшего в эксперименте автомобиля были модифицирована.

Ничего не меняется

Команда израильских и американских ученых, фактически, повторили эксперимент, поставленный в апреле 2019 г. специалистами китайской компании Tencent Keen Security Lab. Как сообщал CNews, китайцы тоже наносили на дорогу фальшивую разметку, хотя и без проектора – вместо него они использовали стикеры.

Умение автопилота Tesla распознавать фальшивку и не реагировать на нее китайцы тестировали на седане Model S 75. Им тоже удалось увести автомобиль на встречную полосу и убедиться, что обман машинного зрения может привести к серьезной дорожной аварии.

Авторы эксперимента отметили, что обмануть таким образом датчики электрокара может каждый, поскольку добыть необходимые для этого материалы не составит труда. В ответ на это представители Tesla заявили, что тестовый сценарий слишком далек от действительности, а главное, что водители в любой момент могут перехватывать у автопилота управления; и более того, должны быть готовы к этому. К тому же, как указывают представители Tesla, бортовая система тестировалась Keen Security в условиях, далеких от реальной окружающей среды; в действительности эта система использует множество различных факторов для корректной идентификации разметки и окружающих условий, так что заставить машину «ошибиться полосой» труднее, чем кажется.



Стратегия месяца

LegalTech грозит заменить юристов

Средства искусственного интеллекта все чаще используются для обработки обращений за юридической помощью.

Тема месяца

Что делать ИТ-директору во время пандемии

Перед ИТ-руководителями встают задачи, связанные с обеспечением удаленной работы сотрудников.