С помощью ложных меток на асфальте китайцы обманули автопилот Tesla

Китайские хакеры уже множество раз взламывали нейронную сеть Tesla

Ранее китайцы уже взламывали автомобили Tesla. Они перехватывали контроль фарами, колесами, дворниками, открывали двери и багажник, а также в любое время могли активировать тормоза. В этот раз специалисты атаковали машинное зрение автомобиля и алгоритмы искусственного интеллекта. Для успешного взлома хакеры изучили, каким образом нейросеть создает HD-карту в режиме реального времени, а затем обнаружили уязвимости, позволяющие поставлять искаженные данные.

В рамках эксперимента хакеры разместили на дороге незаметные для человеческого глаза стикеры. Однако фальшивую разметку мог распознать искусственный интеллект Tesla, после чего у него возникли проблемы с взаимодействием с объектами. Например, электрокар мог резко выскочить на встречную полосу.

Глава компании Tesla Илон Маск поблагодарил исследователей за обнаружение уязвимостей. С каждой новой версией прошивки искусственного интеллекта количество ошибок и лазеек для взлома уменьшается, но как показывает практика, полностью их устранить не удается.