Geloof in technologie is de overtuiging achter de leer van de maakbare wereld. Maar wie teveel in technologie gelooft, zet zichzelf buiten spel.
Geloof is irrationeel. Het vertrouwen absoluut. Het gelijk onbetwist. Twijfel zondig, een teken van gebrek aan geloof. Kritiek een bedreiging, want impliciet een afwijzing van het dogma. Wie gelooft, geeft zich over.
Technologie is het nieuwe geloof. Als een macht buiten (boven?) onszelf voorziet het in de verlichting van onze problemen. Strenggelovigen, de techno-utopisten, menen dat technologie alle problemen verhelpt, van lichamelijke kwalen tot klimaatverandering. Sommige technofanaten kijken uit naar het eeuwige leven, ze geloven dat technologie hen onsterfelijk zal maken. Technologie is sterker dan de natuur. Het is verbeterde natuur. Technologie is Natuur 2.0, meent men.
Het geloof in technologie geeft ons het idee dat we ‘aan de knoppen zitten’. Voor elke kwaal is er een pil, voor ieder probleem een apparaat. Dat we niet zijn overgeleverd aan willekeur of een hemelse regisseur – wat in feite hetzelfde is – maar zelf bepalen wat er gebeurt. Of niet gebeurt.
Technologie maak het leven ‘maakbaar’. We zijn vertrouwd met de doctrine dat de samenleving maakbaar is. We kennen het maakbare individu, sleutelen aan jezelf is een must. Van de opgespoten lippen en de gebotoxte smoelen tot de transhumanisten met hardware in hun lijf—ze menen stellig dat ze de natuur naar hun hand kunnen zetten en de biologische beperkingen overstijgen.
Daar houdt het niet. Wanneer samenleving en individu zijn gevallen voor de ideologie van de maakbaarheid, is na de vorm vervolgens de inhoud van het leven aan de beurt. Hoe je je bestaan inricht, hoe je je dagen vult, het is allemaal maakbaar. Life Design belooft geluk en kwaliteit van leven.
De menselijke factor
Aldus zijn technologie en maakbaarheid een keurslijf geworden. De tyrannie van het toeval verruild voor de mythe van de maakbaarheid. Succes en geluk zijn een keuze, toch?
Behalve als de technologie voor ons beslist.
In de luchtvaart geldt de menselijke factor als de zwakste schakel. Het leeuwendeel der vliegrampen kent menselijk falen als oorzaak. De automatische piloot heeft de luchtvaart aanzienlijk veiliger gemaakt. De computer neemt de mens het gevaarlijkste werk – opstijgen en landen – uit handen. De piloot is een een operateur geworden. Hij bepaalt, bijvoorbeeld de vlieghoogte of de bestemming; het systeem voert uit.
Die samenwerking verloopt al tientallen jaren voortreffelijk. Twee vrijwel identieke vliegrampen in korte tijd brengen het vertrouwen in technologie echter aan het wankelen. De oorzaak van die crashes: een overdosis technologie en een overdosis vertrouwen. Kortom, geloof in technologie.
De vliegtuigen – van een nieuw, recentelijk in gebruik genomen type – verongelukten omdat de menselijke piloot werd buitengesloten door de automatische piloot; hij kon niet ingrijpen toen het systeem faalde. De technologie bleek autonoom en had de regie overgenomen, met dramatische gevolgen.
Teveel technologie: de automatische piloot van het nieuwe type vliegtuig is uitgebreid met een algoritme dat de stand van de neus corrigeert. Teveel vertrouwen: de toevoeging aan het algoritme corrigeert een ontwerpprobleem van het vliegtuig. Technologie bedoeld om een fout af te dekken, om een slecht ontwerp te valideren.
Jacob Morgan: Wat gebeurt er als we teveel op technologie vertrouwen?
Automatische piloot
Computers en vliegtuigen groeien niet aan een boom. Technologie mag soms overkomen als magie, het is en blijft mensenwerk. En derhalve feilbaar. Blind vertrouwen – geloof – in technologie is hachelijk. Zeker wanneer de technologie waakt over leven en dood. Dan is een vergissing fataal.
Het nieuwe type vliegtuig dat binnen enkele maanden tweemaal op vrijwel identieke manier is gecrasht, beschikt – net als elk verkeersvliegtuig – over een automatische piloot. De computer verwerkt de vluchtgegevens, die worden aangeleverd door sensoren. De automatische piloot van de verongelukte vliegtuigen heeft niet goed gefunctioneerd. En kon door de menselijke piloten niet worden gecorrigeerd.
Het probleem zit of in de computer software, die de invoer foutief verwerkt, of in de sensoren, die onjuiste informatie leveren. Omdat de twee ongevallen sterke overeenkomsten vertonen, lijkt het probleem niet te schuilen in defecte sensoren. Het duidt op een ontwerpfout in de software van de boordcomputer.
Maar waarom vlogen die gecrashte vliegtuigen met aangepaste software, met een automatische piloot die afwijkt van de automatische piloten die al tientallen jaren tot volle tevredenheid in gebruik zijn, en nu opeens de piloot buiten spel blijkt te zetten?
Aangepast ontwerp
In de ongevallen schuilt een schrile ironie en een heilzame moraal. De software van de boordcomputer maakte plaats voor een nieuwe versie, nadat het ontwerp van het vliegtuig was aangepast. Het kreeg andere motoren op een andere positie, waardoor de balans van het vliegtuig werd gewijzigd (vandaar ook de vleugeltjes aan het eind van de vleugels). Het geloof in technologie bepaalt dat je technische problemen oplost met méér technologie.
Het vliegtuig werd aangepast, omdat het minder zwaar moest zijn. Met minder gewicht gebruikt het minder brandstof en vliegt dus goedkoper. Het moest goedkoper vliegen omdat de concurrent een zuiniger toestel op de markt had gebracht. Het betrouwbare model werd aangepast uit concurrentieoverwegingen.
Wie blind vertrouwt op technologie, wordt er door gebeten. Het is ironisch dat de vrije markt en ongereguleerde concurrentie de grootste vliegtuigbouwer ter wereld onderuit dreigen te halen. Het bedrijf heeft na het tweede ongeval binnen een paar maanden miljarden aan beurswaarde verloren. Zo kan geloof crashen, door er teveel van te verlangen.
Het geloof in technologie zit de entrepeneurs van Silicon Valley in het bloed. Ze zien internet en sociale media als manier om de wereld te herscheppen naar hun ideeën. Die zijn geworteld in de filosofie van Ayn Rand, waarin de staat geldt als vijand van de vrije ondernemer, egoïsme de keuzes bepaalt en de winnaar zonder scrupules de rest uitbuit. Iedereen die niet voor is, is tegen. Er is geen tussenpositie. Nuances zijn taboe.
En de moraal? Met vrijheid komt verantwoordelijkheid. Die geef je niet uit handen aan technologie.
