Autopilot van Tesla gemanipuleerd

Eerste poging manipuleren autopilot Tesla

Keen Labs vond twee manieren om de autopilot van Tesla met rijstrookherkenning te manipuleren door het fysieke wegdek te veranderen. Bij de eerste poging om de autopilot van Tesla in de war te brengen, maakte het gebruik van vervagende patches op de linkerrijstrook, waarvan het team zei dat het te moeilijk was om hem daadwerkelijk in de echte wereld te implementeren. Bovendien zou dit voor het systeem van de Tesla eenvoudig zijn om te herkennen. 'Het is voor een aanvaller ingewikkeld om onopvallende markeringen in de fysieke wereld in te zetten om de rijstrookherkenningsfunctie van een bewegend Tesla-voertuig uit te schakelen', aldus Keen.

Tweede pogign manipuleren autopilot Tesla

Niet afgeschrikt door de lage plausibiliteit van het eerste idee, ging Keen vervolgens van plan om Tesla's autopilot ten onrechte te laten denken dat er een rijstrook was toen er een niet echt aanwezig was. De onderzoekers schilderden drie kleine vierkanten op de rijstrook om na te bootsen met samenvoegen en ervoor te zorgen dat de auto op de linkerrijstrook tegen tegenliggers botste. 'Misleiding van het stuurautomaatvoertuig in de verkeerde richting (van het verkeer) met enkele patches gemaakt door een kwaadwillende aanvaller is soms gevaarlijker dan het laten mislukken van het herkennen van de rijstrook', zei Scher. 'Als het voertuig weet dat de nepstrook naar de achteruitrijbaan wijst, moet het deze nepstrook negeren en dan een verkeersongeluk voorkomen.'

LEES OOK: Versimpel elk kernproces met Informer Online’s API

Reactie Tesla

In antwoord op de bevindingen van Keen zei Tesla dat de problemen geen echte problemen waren en dat geen van de stuurprogramma's een van de geïdentificeerde problemen van het rapport tegenkwam. 'In deze demonstratie hebben de onderzoekers de fysieke omgeving (bijvoorbeeld het plaatsen van tape op de weg of het veranderen van rijstrooklijnen) rond het voertuig aangepast om de auto anders te laten reageren wanneer de autopilot in gebruik is', aldus het bedrijf. 'Dit is geen echte zorg, omdat een bestuurder op elk moment eenvoudig de stuurautomaat kan vervangen door het stuurwiel of de remmen te gebruiken en hij moet dit altijd kunnen doen.'