Wheels

Waarom een perfecte autopilot gevaarlijk zou kunnen zijn

Een vleugje 'perfectie' te midden van chaos kan het nog erger maken

Je hebt ongetwijfeld de verbazingwekkende video gezien van de Nederlandse bestuurder wiens Tesla anticipeert op een aanrijding nog voordat deze gebeurt. Een fantastisch voorbeeld van waartoe techniek in staat is, maar wellicht ook een nieuwe reden om ons zorgen te maken. Huh? Jawel, lees verder.

Voor wie de video nog niet heeft gezien, het gaat om de volgende:

En bijzonder knap staaltje technisch vernuft van Tesla. De Amerikaanse autobouwer heeft naast een hoop bewondering en lof óók een hoop kritiek gekregen. De autopilot-functie is namelijk zeker nog niet perfect en dat heeft al meerdere malen voor problemen en ongelukken gezorgd. In een triest geval zelfs met dodelijke afloop.

Deze video laat echter zien dat Tesla enorme stappen zet dankzij hun continue doorontwikkeling. Stel dat de reddingsactie van deze Tesla autopilot illustratief is voor wat de auto nu kan en laten wij er van uitgaan dat het systeem 100% stabiel en betrouwbaar is; dan brengt dit waarschijnlijk in de nabije toekomst een heel nieuw probleem met zich mee.

De Model S in deze video voorspelde op basis van zijn meetgegevens dat een ongeluk plaats zou vinden. Een zeer accurate voorspelling. Bovendien voorspelde de auto niet alleen: hij handelde ook naar de situatie die volgens de auto zou ontstaan. Het gevolg is dat de auto automatisch afremde en dus eigenlijk al op een ongeluk reageerde terwijl dit nog niet eens was gebeurd. Zet dit nu eens weg tegen wat mensen doen.

Een goed werkende autopilot zoals die van Tesla, zou best eens voor gevaar kunnen zorgen

Op het tijdstip van het ongeluk was het relatief rustig op de weg, afgaande op de videobeelden. Maar wat gebeurt er in een nabije toekomst in een drukke ochtendspits wanneer ‘mens en machine’ samen reizen?

Hoe goed auto’s ook kunnen anticiperen op mensen; mensen kunnen nooit goed anticiperen op machines.

Met mens en machine bedoelen wij het volgende: niets gaat van 0 in één keer naar 100, dus wij gaan ook niet van menselijk verkeer naar 100% geautomatiseerd, autonoom verkeer. In de nabije toekomst zal een moment aanbreken waarop het verkeer bestaat uit 50% menselijke bestuurders en 50% voertuigen die autonoom kunnen rijden. Het is niet gek om te denken dat dit helemaal mis kan gaan.

Hoe goed auto’s ook kunnen anticiperen op mensen; mensen kunnen nooit goed anticiperen op machines. Dit omdat mensen überhaupt niet goed kunnen anticiperen. Vrijwel alle ongelukken ontstaan door menselijk handelen of falen. Tesla’s autopilot kan de tekortkomingen van de mens counteren, maar hiermee vormt-ie op paradoxale wijze een zwakke schakel in de keten.

Een autonoom rijdende auto die meent een ongeluk te kunnen voorkomen, zou best wel eens een groter ongeluk kunnen creëren.

Stel je het volgende scenario voor: er rijdt een Tesla Model S (of ander autonoom voertuig) in een drukke, voornamelijk door menselijke bestuurders gedomineerde ochtendspits. Het is mistig (deze tijd van het jaar niet gek) en de weg is glad. De autopilot voorziet een ongeluk tussen twee auto’s die voor hem rijden en om niet nog meer brokken te maken, remt-ie het voertuig af. Een bestuurder achter de autopilot merkt niets van een mogelijk naderende aanrijding en wordt compleet verrast door de Tesla voor hem die vanuit het niets lijkt te remmen. Hij geeft een ruk aan het stuur, trapt op de rem en glijdt zo in de zijkant van de bestuurder naast hem. Voila: het begin van een ravage.

Een goed werkende autopilot zoals die van Tesla, zou best eens voor gevaar kunnen zorgen

Het ding is: uiteindelijk zullen robots vrijwel alles beter kunnen dan mensen. Het gedrag van mensen in plotselinge situaties is meestal niet te voorspellen. Een autonoom rijdende auto die meent een ongeluk te kunnen voorkomen, zou best wel eens een groter ongeluk kunnen creëren. Als deze auto namelijk iets ziet dat er voor menselijke bestuurders nog niet is, zullen maar bar weinig menselijke bestuurders dit verwachten, op tijd kunnen anticiperen én juist kunnen handelen. Het pijnlijke bewijs zie je nú al dagelijks op de snelwegen, waar bestuurders tientallen malen per dag zonder echte reden op elkaar klappen.

Het verkeer is op elk willekeurig moment een tikkende tijdbom met al die imperfectie en één vleugje perfectie op het ‘verkeerde’ moment kan dit alleen maar nog pijnlijker blootleggen.

Mensen zijn imperfect. Mensen zijn ongeconcentreerd. Mensen zitten te suffen in het verkeer, te appen, te bellen of nog even snel notulen door te lezen. In een gemiddelde file zie je vrouwen zichzelf opmaken en mannen zichzelf scheren…. Het verkeer is op elk willekeurig moment een tikkende tijdbom met al die imperfectie en één vleugje perfectie op het ‘verkeerde’ moment kan dit alleen maar nog pijnlijker blootleggen.

30-12-2016 - Mitchell van der Koelen