Naukowcy oszukali Autopilota Tesli. Wiedzą, jak zmusić Model X do awaryjnego hamowania

Naukowcy z Uniwersytetu Ben Guriona w Beer Szewie w Izraelu przez ostatnie dwa lata bardzo intensywnie testowali możliwości Autopilota Tesli. Ich wysiłek nie poszedł na marne, bo w trakcie poszukiwań podatności udało im się opracować sposób na przymusowe zatrzymanie Tesli. Okazuje się, że wystarczy wyświetlić na ułamek sekundy na drodze postać lub znak drogowy, a Model X hamuje bez ostrzeżenia. Teraz dowiadujemy się, że do tego samego triku można wykorzystać multimedialne bilbordy.

Jak zapewnia Yisroel Mirsky z Uniwersytetu Ben Guriona, podatność jest o tyle groźna, że atakujący praktycznie nie zostawia fizycznych śladów, a kierowca ma małe szanse, żeby zauważyć wyświetlony znak. Naukowiec zwraca także uwagę na fakt, że podłączone do sieci multimedialne bilbordy są wręcz idealnym nośnikiem do podobnych ataków, ponieważ bardzo łatwo można do nich uzyskać nieautoryzowany dostęp.

Jak wyglądały badania?

Pierwsze symulacje z początku 2020 roku wykonywano na Modelu X, który wyposażony był w zestaw składający się z (wtedy) najnowszej wersji Autopilota o oznaczeniu HW2.5 oraz systemu Mobileye 630. Po wyświetleniu sylwetki pieszego na drodze samochód automatycznie się zatrzymywał. Co więcej, system udawało się równie skutecznie oszukiwać poprzez projekcję znaku z ograniczeniem prędkości.

Ostatnie testy odbyły się z Teslą, której Autopilot zaktualizowano do wersji WH3. Co prawda do badania wykorzystywano ekran wielkości telewizora, jednak jak zapewniają naukowcy, formułę można rozszerzyć do cyfrowych bilbordów. Eksperymenty dowodzą, że Teslę można oszukać znakiem, który pojawi się na 0,42 sekundy np. w trakcie emisji reklamy burgerów.

Tesla na przekór trendom

Problemem Autopilota Tesli jest fakt, system głównie polega na obrazie rejestrowanym przez kamery, a w mniejszym stopniu na radarze, co tak naprawdę stoi w opozycji do obecnie powszechnie obowiązującego trendu. Warto przypomnieć, że koncerny takie jak Waymo, Uber, czy należący do GM Cruise wdrożyły lidar, czyli odmianę radaru, który zamiast mikrofal wykorzystuje światło lasera. Zdaniem Charlie Millera z Cruise zastosowanie tak skonstruowanego systemu gwarantuje, że autopilot jest odporny na ataki, które z łatwością oszukały Teslę.

Tesla automatycznie zatrzymuje się po wykryciu znaku. | Źródło: Ben Gurion University

Portal The Wired wystosował prośbę o komentarz do Tesli oraz Mobileye, jednak firmy nie ustosunkowały się do rewelacji naukowców z Izraela. Z kolei w informacji wysłanej jeszcze w zeszłym tygodniu przedstawiciele Tesli zaznaczali, że Autopilot jest przeznaczony wyłącznie do wspomagania kierowcy, którego obowiązkiem jest trzymanie rąk na kierownicy oraz zachowanie najwyższej uwagi. Natomiast jak pokazują liczne przykłady, nie wszyscy się stosują do tych zasad. Przykład? Niedawno informowaliśmy o zatrzymaniu kierowcy, który postanowił sobie uciąć drzemkę w trakcie podróży.

Ghostbusters

Naukowcy z Uniwersytetu Ben Guriona opracowali także system Ghostbusters, którego zadaniem jest wykrywanie podobnych ataków, jakie z sukcesem udało się przeprowadzić na Modelu X. W tym przypadku znaki dodatkowo analizowane są pod kątem głębi, światła oraz najbliższego otoczenia. Twórcy zapewniają, że jest to skuteczne narzędzie, a jego działanie nie spowalnia reakcji systemów bazujących na kamerach.

Warto przypomnieć, że pracownicy Uniwersytetu Ben Guriona nie są pierwszymi, którzy dostarczyli dowodów na podatność Tesli. Już w 2016 roku chińscy naukowcy dowiedli, że sensory zainstalowane w samochodach można łatwo oszukać, wykorzystując do specjalny sprzęt emitujący m.in. światło czy dźwięk. Całkiem niedawno grupa innych chińskich pracowników naukowych zaprezentowała z kolei sposób na oszukanie asystenta pasa ruchu — by samochód zmienił kierunek jazdy, na nawierzchni wystarczyło przykleić tanie nalepki.

Źródło The Wired, Ben Gurion University Foto: Pixaby