We besteden steeds meer taken uit aan de computer. Dat betekent dat we machines toestaan om morele keuzes te maken en daar zijn ze, tot nu toe, niet voor uitgerust. Remt de zelfrijdende auto voor een overstekende hond?
Veel werk besteden we uit aan computers, ongemerkt brengen ze ordening in ons leven. We zoeken niet zelf op internet. Dat doet de zoekmachine en wij snuffelen door zijn vangst. Speuren naar nieuwe muziek is een stuk eenvoudiger als streamingdiensten met suggesties komen op basis van ons luisterprofiel. Handig, het scheelt tijd. Die kun je besteden aan luisteren.
De schaduwkant is natuurlijk dat het algoritme met suggesties komt aan de hand van vroegere voorkeuren en we vandaag niet meer zijn wie we gisteren waren, dus de de hints sjokken altijd achter ons aan. Dat kun je het algoritme niet kwalijk nemen, het kent ons niet. Het kent alleen onze output: de zoekopdrachten en voorgaande luistersessies. Het bevestigt wie we zijn, niet wie we kunnen zijn.
Verrassingen zijn op die manier slechts in beperkte mate verrassend. Nooit verbluffend of oren-openend. Het algoritme filtert voor ons een gigantische hooiberg en haalt daar de naalden uit die ons eerder hebben geholpen. Niet de naalden die buiten onze bekende voorkeuren vallen. Het is een bekend gegeven van het navigeren in de digitale wereld, voor je het weet heeft het algoritme je ingenaaid in de filterbubbel. Het is de consequentie van de enorme overdaad.
Wie zich daar bewust van is en wel eens buiten zijn filterbubbel wil snuffelen, laat de ‘andere kopers van dit product hebben ook X, Y en Z aangeschaft’ suggesties achter zich en gaat zelf op onderzoek. Voor avontuur moet je niet bij een algoritme zijn.
Zelfrijdende zelfrijder
In feite gaan we al lang met computers om zoals piloten met hun automatische piloot samenwerken, tenminste als je het slim doet. De machine doet de voorwas, daarna nemen wij het over voor de hoofdwas. De zoekmachine zoekt en filtert, waarna wij de informatie verwerken. De zoekmachine vliegt, wij landen. Die methode heeft zijn beperkingen – de filterbubbel – maar het werkt.
Maar wat als we de boordcomputer niet alleen op kruishoogte laten vliegen, maar ook de regie over opstijgen en landen in handen geven? Als we in het vliegtuig stappen, de bestemming in de AirTomTom tikken en vervolgens achterover leunen en een tukje doen? Of een sapje drinken en met de stewardessen flirten?
Mercedes Benz over de zelfrijdende auto
De benaming zelfrijdende auto is een merkwaardige term, want ‘auto’, afkomstig uit het Latijn, betekent ‘zelf’ of ‘zelfstandig’ en auto’s heten ‘auto’s’ omdat ze niet door een paard worden voortgetrokken, maar ‘zelf’ rijden, dankzij een brandstofmotor. De auto is een ‘zelfrijder’, dus zelfrijdende auto’s zijn ‘zelfrijdende zelfrijders’! Zo lusten we er nog wel twee.
Aldus hint de benaming ‘zelfrijdende auto’ op onze niet helemaal doordachte, enigzins warrige omgang met technologie. We hebben onze plek ten opzichte van technologie niet goed doordacht of gedefinieerd. Want: de auto hebben we weliswaar een ‘zelfrijder’ genoemd, maar die rijdt helemaal niet zelf. Dat doen wij. Zonder ons staat de auto stil.
Maar niet lang meer, want de zelfrijdende auto komt er aan. De auto wordt inderdaad autonoom en gaat de belofte die we ruim honderd jaar geleden – met de uitvinding van de brandstofmotor en de toepassing van motorisch voortgedreven voertuigen – via de benaming ‘auto’ op de toepassing plakten dan eindelijk waarmaken. Althans, daar heeft het alle schijn van.
Gedragsbeïnvloeding
Mobiliteit is een aloud vraagstuk en wereldwijd zit Nederland – met zijn fijnmazige en intensief gebruikte wegennetwerk – in de kopgroep van landen die onderzoek doen naar mobiliteit. Hoe maak je optimaal gebruik van het asfalt? Niet alleen om de filedruk te verlagen, maar ook om het milieu te sparen. Dat probleem heeft twee aspecten: de auto en de bestuurder. De weg is het derde aspect, maar daar zullen we hier verder niet over hebben.
Aan de bestuurder valt het een en ander te sleutelen, via gedragsbeïnvloeding. Verkeersborden en wegsignalering zijn inmiddels oude koek, daar valt nauwelijks een kruimel winst meer mee te behalen. Een nieuwere aanpak die op dat idee voortborduurt, maar dan met digitale middelen, is persoonlijke, real-time informatie over de wegsituatie, direct doorsturen naar de bestuurder. Dus geen algemene file-informatie via omroepberichten, maar gepersonifieerde info via apps op basis van zijn rijgedragprofiel.
Praktijkproef Amsterdam
Het idee is enkele jaren terug in de praktijk getest, op de ringweg rond Amsterdam, door TNO, Rijkswaterstaat en ondersteunende industrie. Niet iedere automobilist is bereid en vaardig genoeg om door die extra informatievoorziening het moment waarop hij in het verkeer (in de praktijk vaak: de file) duikt, slimmer te kiezen en aldus files te ontlopen. De hoop is op die manier het rijgedrag van een op de tien automobilisten te beïnvloeden. Dat scheelt al enorm qua drukte in het spitsuur.
Zelfrijdfunctie
De grenzen van wat er mogelijk is qua capaciteitsbenutting van de weginfrastructuur zijn al bereikt wat betreft wegsignalering en qua gedragsbeïnvloeding van de automobilist komen ze in zicht. Blijft over: de auto, en daar schemert een revolutie, de zelfrijdende auto. In het najaar van 2013 begaf de minister van infrastructuur en milieu, mevrouw Schultz, zich in het Amsterdamse verkeer via een met radar, camera’s en sensoren toegeruste auto. Er karde bij die gelegenheid ook een treintje van drie zelfrijdende auto’s over de Amsterdamse ringweg.
Zelfrijdende auto’s in Wageningen
Afgelopen week is dat experiment uitgebreid. Een treintje van zes zelfrijdende auto’s reed op de A2 van Amsterdam naar Beesd (tussen Nieuwegein en Den Bosch). Ondermeer om te testen hoe de bestuurders van ‘normale’ auto’s op het zelfrijdende peleton van zes zou reageren. En hoe de zelfrijders zouden reageren als normalen tussen de auto’s van het peleton schoven. Aan de buitenkant was niets te zien, want ook in de zelfrijdende auto zat iemand achter het stuur.
Veel auto’s zijn reeds uitgerust met zelfrijdfunctie. En in het expriment op de A2 was de zelfrijdende auto ook niet echt autonoom, maar semi-autonoom. De bestuurder kon het op ieder moment het stuur overnemen, net zoals de piloot de autopilot naar behoeven uitschakelt. Voor het landen bijvoorbeeld.
Overstekende hond
Tot nu alles onder controle. Maar wat als het fout gaat? In Amerika heeft een zelfrijdende auto al een ongeluk veroorzaakt, met lichte blikschade tot gevolg. Maar waar ligt de verantwoordelijkheid als er slachtoffers vallen? En welke verzekeraar mag voor de schade opdraaien: die van de automobilist of die van de auto? Want wie heeft het ongeluk veroorzaakt: de bestuurder toen hij het stuur van de computer overnam of de computer omdat zijn algoritme niet in deze situatie had voorzien? Of beiden, omdat de interactie sub-optimaal was? En wat als het ongeval is veroorzaakt door een haperende sensor – ondergepoept door een voorbijvliegende meeuw – langs de weg? Rijkswaterstaat? De sensorfabrikant?
De verzekeraar is er klaar voor
Om nog maar te zwijgen van gehackte auto’s die brokken of slachtoffers maken. De gehackte auto als moordwapen, mooi onderwerp voor een techno-thriller. Of het gehackte smart-building als moordwapen. Iets wat daar op lijkt is al geschreven, door Philip Kerr, in 1995, onder de titel Gridiron. Daarin keert een slim gebouw zich tegen zijn eigenaar, de architect van het gebouw. Dat boek moet nodig verfilmd worden.
Met het algoritme aan het stuur geven we meer uit handen dan alleen de controle over de auto. De zelfrijdende auto remt voor een overstekende moeder met kinderwagen, maar remt hij ook voor een hond die plots de weg oprent? Bestaat er zoiets als hoffelijkheid in het zelfrijdende verkeer? Kun je een auto voor de rechter dagen?
We leggen niet alleen lijf en leden in de handen van technologie, we besteden ook onze moraliteit, onze ethische keuzes, uit aan de machine. Diens moraliteit zit ingebakken in het algoritme. Met morele keuzes zijn programmeurs doorgaans niet bezig. Hoog tijd om het denken in functionaliteit aan te vullen met denken over moraal. En dat in te programmeren in onze machines. Op naar het handvest voor de rechten van de auto.
De zelfrijdende auto bij Omroep Brabant
Meer
