Wheels 5 apr 2019 Jan de Raab

Autopilot Tesla niet opgewassen tegen onderzoekers met stickervel

Of je nu wel of niet gek bent op elektrische wagens, wat Tesla presteert grenst aan het ongelofelijke. De wagen is niet alleen snel, slim en veilig, het is oog nog eens een prachtig voorbeeld van innovatie. Ondanks alle voordelen lijken de tesla wagens nog een gemeenschappelijke eigenschap te delen: ze zijn stuk voor stuk te foppen. Plaats doodleuk stickers op het wegdek en de Tesla wagen denkt dat het een wegmarkering is en gaat doodleuk van rijstrook wisselen.

Onderzoekers van het Tencent Keen Security Lab ontdekten de mogelijkheid om Tesla’s Autopilot van incorrecte informatie te voorzien en zo het systeem op het spreekwoordelijk verkeerde been te zetten. Hiermee toonden de onderzoekers aan dat het kinderlijk eenvoudig is om een neuraal netwerk te misleiden. Om het heel simpel te zeggen, de onderzoekers brachten ruis aan in de informatiestroom die de Autopilot gebruikt om beslissingen te nemen. Inmiddels is Tesla op de hoogte gesteld en is het ‘probleem’ door middel van een software update verholpen.

Camerabeelden bewerken

Tesla’s Autopilot gebruikt software om de camerabeelden en informatie die de sensoren doorsturen te analyseren. Het netwerk van Tesla herkent bepaalde patronen en neemt op basis daarvan beslissingen, bijvoorbeeld het wisselen van rijstrook. De onderzoekers stellen nu dat het te eenvoudig is om het systeem voor de gek te houden, in theorie is dat dus een groot veiligheidsrisico. Om hun bevindingen hard te maken werden er verschillende tests uitgevoerd zodat men zeker wist dat het geen toevalstreffer was.

De onderzoekers manipuleerden het camerabeeld door er kleine witte vlekjes aan toe te voegen. Hierdoor werd de illusie gewekt dat er een wegmarkering was aangebracht om een andere rijstrook aan te duiden. Op basis van die analyse besloot de Tesla wagen dat er van rijstrook gewisseld moest worden.

Ook de regensensor van Tesla is te misleiden

In een andere testsituatie verwijderden de onderzoekers een echte wegmarkering door er fysiek witte stickers op te plakken. Tesla bleek echter goed getraind te zijn om ook beschadigde wegmarkeringen te signaleren. In dit geval waren de stickers zo groot dat ze ook door een menselijke bestuurder zouden worden herkend.

Waar de onderzoekers wel in slaagden was het misleiden van de regensensor. Door stickers op willekeurige plekken te plaatsen werd gesuggereerd dat het regende waarop de Tesla wagen de ruitenwissers activeerde.

Lees ook: Elon Musk gooit uit het niets zijn eerste rap nummer online

Nu

Reageer op artikel:
Autopilot Tesla niet opgewassen tegen onderzoekers met stickervel
Sluiten