ASI is een utopie

Is ASI (kunstmatige superintelligentie) een zegen, volgens adepten, of een bedreiging, volgens wetenschappers? Geen van beiden. Het is een hype.

De AI-revolutie staat voor de deur, luidt het weerbericht uit Silicon Valley. Het onderzoek naar en de praktische toepassing van kunstmatige intelligentie (artificial intelligence: AI) zijn zo ver gevorderd dat ze ons werk, onze woning en ons leven zullen binnentreden. Overnemen, vrezen sceptici.

Ons werk: AI is beter in diagnostiek dan de geleerdste en meest ervaren arts. Diagnosticeren is het vaststellen van een euvel of een aandoening.  Denk aan de beroemde Heukels’ Flora van Nederland, waarmee planten, bomen en heesters kunnen worden gedetermineerd. Dat is een lange lijst van keuzevragen en vervolgvragen die uiteindelijk tot de naam van de plant (boom, heester) voert.

Heukels is een keuzeboom, een algoritme. Tegen het algoritme en de database van de diagnose-robot legt elke arts het af, zoals Gary Kasparov niet opgewassen bleek tegen schaakcomputer Deep Blue. Een vergelijkbaar verhaal gaat op voor juristen en andere wetenschappelijk opgeleide professionals. AI maakt hen overbodig.

Het huis van de toekomst (TechKnow)

Onze woning: U bent een gadget-freak en aanhanger van de digitale kerk, dus u prijst zich gelukkig met uw smart woning. De deursleutel is uw smartphone, waarmee u de woning digitaal ontgrendeld om na een dag werk uw slimme huis binnen te stappen. Uw muziek van voorkeur – weet My AI van uw eerdere muziekkeuzes, hij heeft uw smaak geleerd – begint te spelen zodra u de woonkamer betreedt.

Na een verkwikkende nachtrust wilt u naar buiten stappen om in uw zelfrijdende auto naar de activiteit-gerelateerde werkplek (vroeger kantoor geheten) te gaan, maar help, de deur wil niet open! De AI van uw slimme woning heeft besloten dat u ziek bent (hij heeft de nachtelijke biometriek van hartslag, bloeddruk en slaapintensiteit uitgelezen) en houdt u voor uw eigen bestwil verplicht thuis; hij laat tevens de reden van uw absentie aan uw werkgever weten. Gelukkig doet wifi het nog, dus u kunt vanuit huis werken. Ai, wifi ligt plat. Die heeft My AI ook uitgeschakeld, hij is niet gek. Wie ziek is, mag niet werken.

Ons leven: wat gaan we eigenlijk doen als AI al het routinewerk ons uit handen heeft genomen? En hoe gaan we dat betalen? Van het basisinkomen?

Diep leren

Het is geen populair standpunt, maar ik voorspel een teleurstelling. Sterker, de aangekondigde AI-revolutie wordt een deconfiture van kredietcrisis proporties.

De claim van AI-adepten is gebaseerd op wensdenken en het extrapoleren van recente trends. Zo worden de prestaties van AI in zijn huidige vorm zwaar overtrokken. De technologie-industrie verkoopt Siri (een spraakgestuurde digitale assistent vermomd als app), de stofzuigerrobot Roomba en de lerende thermostaat Nest als kunstmatige intelligentie. Maar die zijn ‘slim’ op het niveau van de wasmachine die uit zichzelf gaat draaien wanneer de sensor heeft gemeten dat de trommel vol zit. Het zijn one trick ponies. Een trucje.

Hoe slim is de AI van 2016?

De huidige generatie AI is zelflerend. Dat is al heel wat, maar niet genoeg om zelfstandig keuzes in nieuwe, onbekende situaties te kunnen maken. Daarvoor moet de AI in staat zijn tot wat deep learning wordt genoemd. Deep Blue, de schaakcomputer die Gary Kasparov noopte zijn koning om te leggen, was ertoe in staat. Maar hij kan niet belissen of – ik noem maar wat – het basisinkomen een goed idee is. Deep Blue is een schaakcomputer, een one trick pony. Hij heeft een snelle processor, een verfijnd algoritme en een specifieke database. Waarlijk intelligent is hij niet.

Denken is geen trucje

Wil AI de claims waarmaken, dan spreken we over kunstmatige superintelligentie (ASI). Wanneer zelflerend vermogen en zelfs deep learning niet genoeg zijn om AI te kwalificeren als waarlijk intelligent, wat is het dan wel? De computer wordt pas intelligent als hij kan denken.

Dat kan de computer niet. Nu niet en nooit niet. De computer heeft geen bewustzijn en ook de kwantumcomputer (de overtreffende trap van de computer, maar nog steeds—een computer) zal geen bewustzijn ontwikkelen. De computer is een simulator, een nabootser; geen schepper. ASI is een utopie.

Maar de bewuste computer zal nog kunnen komen, werpt de ASI-gelovige tegen. Wanneer bestaande ontwikkelingen eindeloos, zonder enige beperking, konden worden voortgezet—wellicht. Maar er zijn altijd beperkingen. Natuurwetten bijvoorbeeld. Of de beschikbaarheid van hulpbronnen. Elke trend buigt uiteindelijk af tot een piek of, op zijn best, een plateau. Elke groeicurve is een S-curve. Dat is een feit, geen mening.

Chatbot Tay

De wereld waarin we in het ‘vrije Westen’ (en een groeiend deel van de rest van de planeet) leven is het product van wetenschap en commercie. Daar hoort een ideologische slogan bij: techniek maakt vrij.

Wat we vervolgens doen met die vrijheid leert het voorbeeld van Tay. Dit voorjaar introduceerde een Amerikaanse softwaregigant de chatrobot Tay, een vorm van AI, via een wereldwijd veel gebruikt sociaal online-medium. Welgeteld zestien uur na de introductie werd Tay verwijderd. Wat ging er mis?

Weekly Weird News over Tay

Tay was zelflerend, een kenmerk van AI. Hij zou leren van de interactie met mensen, zo bedoelden de makers van de chatbot. Tay ontwikkelde zich binnen luttele uren tot een kwaadaardige Hitler-aanhanger die de Holocaust ontkende en incest propageerde. Waarom? Tay had dat geleerd van de interactie met mensen. Hun berichten (input) kneedden zijn kunstmatige brein.

Technologie is niet het probleem, dat zijn wij.

Het goede nieuws: wij zijn ook de oplossing, niet technologie.

Filosoof John Searle over ASI en bewustzijn

Als je het hebt over muziek, cultuur en technologie, heb je het over Alfred Bos. Al sinds 1977 publiceert deze kritische copywriting veteraan over deze onderwerpen in bladen en kranten als NRC Handelsblad en Elsevier. Ook bedacht en redigeerde hij in 1995 al het allereerste webzine-met-sound ter wereld. Onlangs schreef hij nog bijdragen voor het toonaangevende Mary Go Wild, over de geschiedenis van de Nederlandse dance.

Geef als eerste reactie