Cercetătorii de la Universitatea din California, au demonstrat pentru prima dată că autocolante multicolore aplicate pe indicatoarele rutiere de stop sau limită de viteză pot deruta vehiculele autonome, provocând reacții imprevizibile și potențial periculoase, conform unui studiu publicat de sciencedaily.com
Studiul, prezentat la Network and Distributed System Security Symposium din San Diego, evidențiază riscul unor atacuri ieftine și ușor de implementat, care pot face ca sistemele de inteligență artificială să ignore indicatoarele sau să detecteze unele inexistente. Aceste erori pot duce la frânări de urgență nejustificate, accelerări necontrolate sau alte comportamente periculoase.
Impact asupra vehiculelor comerciale
Cercetătorii au testat aceste vulnerabilități pe sisteme de recunoaștere a indicatoarelor rutiere utilizate de branduri auto de top, fiind primul studiu de amploare realizat pe vehicule comerciale.
„Waymo efectuează peste 150.000 de curse autonome pe săptămână, iar milioane de mașini Tesla sunt echipate cu Autopilot, ceea ce demonstrează că tehnologia vehiculelor autonome devine o parte integrantă a vieții cotidiene”, a declarat Alfred Chen, profesor asistent de informatică la UC Irvine și coautor al studiului. „Această realitate subliniază importanța securității, deoarece exploatarea acestor vulnerabilități poate transforma sistemele autonome în pericole pentru siguranță.”
Ningfei Wang, autor principal al studiului și cercetător la Meta, explică faptul că atacurile au fost realizate prin autocolante cu modele multicolore, care induc erori în algoritmii de inteligență artificială. „Oricine are acces la un limbaj de programare open-source, cum ar fi Python, și la biblioteci de procesare a imaginilor poate produce aceste autocolante”, a spus Wang.
Noi descoperiri despre recunoașterea indicatoarelor
O constatare interesantă a studiului este faptul că sistemele comerciale de recunoaștere a semnelor rutiere folosesc o tehnică numită memorare spațială. Aceasta face mai dificilă eliminarea unui indicator din percepția mașinii, dar permite cu mai mare ușurință adăugarea unuia fals.
„Studiile academice anterioare nu au identificat existența acestei memorări spațiale în sistemele comerciale”, a precizat Chen. „Rezultatele noastre contestă observațiile și concluziile din cercetările anterioare, evidențiind nevoia unei analize mai aprofundate.”
Nevoia unei cercetări mai ample
Chen subliniază că acest studiu este doar un prim pas în evaluarea riscurilor de securitate ale vehiculelor autonome în scenarii reale. „Sperăm că această cercetare va inspira și alți specialiști să reevalueze impactul real al acestor amenințări, pentru a determina dacă sunt necesare măsuri de siguranță la nivel societal.”
Studiul a fost realizat în colaborare cu cercetători de la UC Irvine și Universitatea Drexel, fiind susținut de National Science Foundation și de CARMEN+ University Transportation Center din cadrul Departamentului de Transport al SUA.
