Tým výzkumníků z čínské Zhejiang University a americké University of Michigan nalezl nový typ útoku, který se dá využít proti autonomním vozidlům. Tento typ útoku nazývají „Poltergeist“.

Ten dokáže zmást řídící systém vozidla tak, aby některé překážky neviděl nebo naopak viděl překážky, které vůbec neexistují. Poltergeist využívá zranitelnosti způsobené tím, že digitální kamery autonomních vozidel využívají ke stabilizaci obrazu inerciální měřící jednotky. Pomocí specifických zvukových vln se podařilo výzkumnému týmu kamery zmást natolik, že dokázali zamlžit obraz z digitálních
kamer. Tím dokázali donutit autonomní vozidlo ignorovat některé překážky, které se mu vyskytly v cestě. Výzkumníci sami zařadili tento typ útoku do nové větší třídy útoky nazývané „AMpLe“. Tato třída zahrnuje útoky, které využívají fyzikálních nástrojů k útoku na systémy strojového učení.

Komentář: Bezpečnost autonomních vozidel představuje jednu z hlavních výzev jejich zavádění do běžného provozu. Poukázání na tento nový typ útoku je tak důležité pro větší zabezpečení budoucnosti autonomní mobility. Poltergeist byl dokonce natolik účinný, že dokázal ve 100% pokusných případů donutit autonomní vozidlo ignorovat překážku a v 87.9% případů dokázal vozidlu vnutit do rozhodování překážku, která ve skutečnosti neexistovala. V reálném provozu by tak mohlo jít o závažný bezpečnostní problém, který by měl bezprostřední dopady na zdraví a životy lidí.

Zdroj: Petr Martinek, NÚKIB