Slimme technologie, domme fouten

Een week nieuws leert dat digitale slimme technologie niet altijd aan mensen  is besteed. We zijn er niet slim genoeg voor.

Slimme technologie moet het leven simpeler maken. Maar niemand is vrij van domheid, ook de gebruikers van slimme apparaten niet. Ben je een paar weken weggeweest uit de wereld van Signaal & Ruis, maken de mensen die onze woon- en werkwereld aankleden met al die slimme spullen zulke brokken dat je niet weet waar je moet beginnen.

Laten we dicht bij huis blijven. Daar hangt sinds anderhalf jaar een slimme energiemeter. Niet dat ik daar om gevraagd had en ook niet omdat de niet-slimme meter van daarvoor de geest had gegeven. Of voor zijn IQ-test was gezakt. Maar omdat de energieleverancier dat nodig vond.

Ik was niet voor, maar dat telt niet. Van mij hoeft de energieleverancier niet te weten wanneer ik mijn CV-ketel laat pruttelen of de leeslamp aanklik. Ook niet handig is dat mijn slimme meter – en daarmee mijn woning – tot het internet der dingen is toegetreden. Ik heb weliswaar een computer aan het internet hangen, maar die is beveiligd tegen ongewenste meekijkers en binnensluipers. Mijn slimme meter niet.

Laat die slimme meter nu toch minder slim blijken dan de energieleverancier had beloofd. Hij kan in voorkomende gevallen veel meer of veel minder stroom registreren dan er is afgenomen. De slimme meter is onbetrouwbaar. Dat is de energieleverancier dus ook.

Dat is niet zo slim van de slimme meter en ronduit dom van de energieleverancier, die zich kennelijk in zijn eigen slimheid – en die van de meter – heeft vergist. Heel menselijk.

Clouddiensten

Het kan nog dommer. Vorige week week viel, houd je vast, een deel van internet uit. Niet dat de lokale service provider last had van een storing en de abonnees tijdelijk van hun internetlink waren verstoken (kan gebeuren). Het was erger, een deel van het internet deed het niet meer. Lag lam, was weg. En daarmee alle diensten die via dat deel van het net verliepen. Websites weg. Apps weg. In slimme huizen, die bestaan ook, werkten de lichten niet meer.

De oorzaak? Een tikfoutje van een Amazon-medewerker. Die had bij een software-update één commando verkeerd geplaatst. Zo complex zit zit onze slimme wereld tegenwoordig in elkaar: lokale blunder heeft wereldwijd consequenties. En zo kwetsbaar is onze slimme wereld. Een simpele tikfout en we zitten in het donker.

Amazon levert clouddiensten aan derden, zoals websites en producenten van apps. Die laten (delen van) hun software draaien op servers die door Amazon worden beheerd. Dat is uiteraard niet gratis, daar verdient Amazon geld aan: in 2016 goed voor zo’n tien procent van de totaalomzet van het bedrijf (een kleine 140 miljard dollar, een vijfde van het Nederlandse BNP). Amazon tekent voor 40 procent van de wereldmarkt voor serververhuur, meer dan de drie grootste concurrenten (Microsoft, Google, IBM) bij elkaar.

 

Wat is het internet der dingen? (TED lezing)

 

Slimme pop

Nu moeten we eens ernstig achter onze oren gaan krabben. Is het slim om zo afhankelijk te zijn van één bedrijf? Gaat daar iets mis, dan klapt een substantieel deel van internet eruit. En moeten we het beheer van een vitaal onderdeel van onze samenleving overlaten aan een niet via democratische weg geselecteerde partij wiens belang primair de aandeelhouder is en niet zijn klanten? Is dat slim?

En is het wel zo slim om steeds meer apparaten – omdat het technisch mogelijk is en omdat bedrijven ons slimme gadgets in de maag willen splitsen – aan het internet te hangen? Die apparaten zijn povertjes beveiligd en vormen voor kwaadwillenden de ideale toegang tot domeinen – privé en publiek – waar je ze niet wilt zien. Eén gaatje is genoeg.

De slimme pop van uw peuter is via wifi en internet gelinkt aan een kunstmatige intelligentie. Als uw peuter tegen de pop praat, geeft die antwoord. De pop is niet beveiligd en wordt gehackt. Pop vraagt: is je moeder thuis? Nee, zegt de kleine. Pop: wat is het creditcardnummer van je moeder? Oke, dat heb ik verzonnen.

De hacker kan via de slimme pop afluisteren. Of de controle overnemen van andere apparaten die aan het internet der dingen zijn gekoppeld. Het klinkt als sciencefiction, maar het is de realiteit.

 

Het internet der dingen en veiligheid

 

Manipulatie

Dat nieuws over de slimme meter en de Amazon-tikfout kwam tegen het weekeinde. Midweeks was er het tamelijk ontnuchterende nieuwsbericht dat je op bewegend beeld en in realtime de gezichtsuitdrukking van een sprekende persoon naar je hand kunt zetten. Veel gekker moet het niet worden.

Manipulatie is het wezen van digitale technologie – met enen en nullen boots je de wereld na – maar het in realtime manipuleren van videobeelden jaagt de paranoia tot hysterische hoogten. De commandant van het Nederlandse cyberleger maakt er zich ernstig zorgen over. Die technologie kan worden ingezet om politici, militairen en burgers te misleiden, om nepnieuws te verspreiden en chaos aan te richten.

 

Realtime face capture

 

Voor chaos en het verspreiden van nepnieuws hebben we die technologie helemaal niet nodig, zo bleek aan het begin van de week, tijdens de uitreiking van de Oscars. Bij de meest begeerde van alle beeldjes, die voor beste film, ging het fout. La La Land kwam uit de envelop en de winnaars stonden met het beeldje in de hand op het podium, voor het oog van de natie en de rest van de wereld, te feesten toen duidelijk werd dat er een foutje was gemaakt. Niet La La Land, maar de grote tegenstrever Moonlight was de winnaar.

Afgeleid door Twitter

Hoe dat had kunnen gebeuren werd de volgende dag duidelijk. De medewerker van het accountantskantoor dat verantwoordelijk is voor de correcte gang van zaken had abusievelijk de verkeerde envelop afgegeven aan de presentator. Hij was even afgeleid, druk doende om een foto die hij net van Emma Stone had getrokken de wereld in te twitteren.

Hier kun je grappen maken over het sprookje van het multitasken, over egocentrische dikdoenerij en de verlammende werking van Emma Stone op mannelijke fans. Maar de crux is deze: de man was bezig met technologie, niet met zijn werk. Hij gebruikte zijn telefoon op het verkeerde moment op de verkeerde manier. Hij is de Icarus van onze tijd: slimme technologie, domme gebruiker.

Zo leert een week nieuws dat digitale technologie te slim is voor ons. Het is een fantastische uitvinding, het maakt onze stoutste dromen mogelijk, maar het is aan ons niet besteed. We zijn er niet slim genoeg voor.

Ook acteurs worden afgeleid door technologie

Geef als eerste reactie