Vanuit Bildung verder denken over artificiële intelligentie

 

Het thema waarmee ik mij voornamelijk bezighoud bij de Universiteit voor Humanistiek is Bildung. Bildung betekent voor mij dat ik bewust wil leven en dat ik wil leren van nieuwe ervaringen. Dit laatste geldt natuurlijk voor alle levende wezens, maar wat ons –mensen dus- uniek maakt, is dat wij op onze ervaringen kunnen reflecteren en dat wij daar woorden aan kunnen geven. Hoewel deze vorm van leren levenslang doorgaat, worden er van alle kanten grenzen aan gesteld. Die grenzen zijn ook legitiem, want soms is het beter om niet verder na te denken, maar om in actie te komen. En wat gebeurt er bijvoorbeeld wanneer ik thuiszit en met mijn kinderen naar de televisie zit te kijken? Ben ik dan ook bezig om mijzelf te ontwikkelen of heb ik mijzelf dan vrijaf gegeven?

Ik geloof echt dat ik deze laatste vraag ontkennend moet beantwoorden. Ook als ik  kijk wat er op televisie te zien is, dan wil ik iets nieuws leren. Mijn kinderen weten dat maar al te goed en zij verzetten zij zich daartegen door te stellen dat er in ons huis ook naar amusement mag worden gekeken. Onder amusement versta ik televisieprogramma’s die vooral bedoeld zijn om mensen plezier te geven. Dus voor deze programma’s geldt dat ze  “ter vermaak” en niet “ter lering en vermaak” gemaakt worden. Dit alles speelt zich af in de vrije tijd en dat betekent dat er niet geleerd of gewerkt hoeft te worden. Overigens contrasteert deze manier van denken  met de Griekse traditie waarin het woord scholing –“schole”, `σχολή`- geworteld is. Waar de oude Grieken een koppeling maakten tussen vrije tijd en scholing, daar voelen wij ons pas vrij wanneer wij niet hoeven te leren of te werken. Wij associëren vrije tijd met amusement. Kijken we verder naar de ongeschreven regels die in de wereld van het amusement gelden, dan meen ik te zien dat er zelfs een zekere dwang van uitgaat om alleen maar te genieten en geen kritische vragen te stellen. Vandaar dat er zo veel amusement is in totalitaire samenlevingen. Een goede vriend van mij die in Hongkong woont, verwoordde dit laatst aldus: “als je maar geld wilt verdienen, goed je best doet, niet over politiek praat, verder niet moeilijk doet en je ook nog amuseert, dan kun je hier ongestoord leven. Dan heb je echt van niemand last.” Amusement heeft dus een functie.

Mijn kinderen lijken dit feilloos begrepen te hebben. Zo verbieden zij mij om kritische opmerkingen te maken wanneer ik samen met hen naar het televisieprogramma “The Voice of Holland” moet kijken. Ze willen niet dat ik de gezellige sfeer verpest door vileine opmerkingen over hun favoriete programma te maken. In ruil daarvoor zou ik van hen kunnen eisen dat zij ook samen met mij kijken naar documentaires die ter lering worden gemaakt, maar dat blijkt niet nodig te zijn. Zo zie ik steeds weer dat mijn oudste dochter (11 jaar) uit eigen beweging wil kijken naar de documentaires die ik heb uitgekozen. En dan geniet ik van de gesprekken die wij daarover voeren.

“Dit is wel overdreven, vind je niet?” vroeg mijn dochter  toen wij op  zondagavond (29-10-2017) zaten te kijken naar een aflevering van de televisieserie Robo Sapiens die gewijd is aan de robotisering van de samenleving Uiteraard moest ik mijn dochter gelijk geven, want hoe konden wij op basis van de getoonde voorbeelden van houterig sprekende robots overtuigd raken van de blijde boodschap dat wij aan de vooravond staan van een nieuw transhumanistisch tijdperk waarin de mens het op alle vlakken zal afleggen tegen superintelligente computers? Maar terwijl mijn dochter en ik ons afvroegen of wij ons zorgen moesten maken over de opmars van robo sapiens, moesten wij ook hartelijk lachen om de sprekende robots die wij in deze televisie-uitzending te zien kregen. Vooral de reacties van mensen op die robots waren hilarisch. Ik sta er iedere keer versteld van dat volwassen mensen emotioneel reageren op robots die gewoon van ijzer gemaakt zijn. Ook het idee om aan die robots bewustzijn toe te schrijven, is onnavolgbaar voor mij. Zijn we een beetje in de war geraakt? Illustratief voor die grote verwarring is de Saoedische regering die op vrijdag 27 oktober het staatsburgerschap heeft verleend aan de robot Sophia. Is dit een uiting van een nieuwe variant van de godsdienstwaanzin die deze samenleving al zo lang in de ban houdt of is dit een voorbode van de grote veranderingen die nu in Saoedi-Arabië gaande zijn?

Ik vermoed dat dit laatste het geval is en dat is natuurlijk hoopgevend, maar ik maak mij wel ongerust over die fascinatie voor robots. Die fascinatie gaat grenzeloos ver. Neem nu het fenomeen van de seks-robots. Als iemand in mijn omgeving zegt dat hij met zijn seks-robot de liefde bedrijft, dan kan ik die persoon moeilijk serieus nemen. Overigens zal ik die persoon niets verwijten, want hij doet daar niemand kwaad mee. Maar vreemd is het wel en dat zou ik graag tegen hem willen zeggen. Ik denk dat wij nog te vaak geneigd zijn om dit ongemak weg te lachen.

Maar amusant was het wel om te zien hoe een van die robots op aandringen van de presentator Jelle Brandt Corstius werd aangekleed als een dame die aan het einde van de uitzending samen met hem en een paar schattige kinderen keek naar een televisiefilm over een stel robots die samen een kindje kregen. In die laatste scene werd ook een bruggetje gebouwd naar mijn favoriete televisieprogramma Tegenlicht dat ook gewijd was aan de vraag of wij in de toekomst geregeerd zullen worden door machines die wij zelf gemaakt hebben. Nu was het wel van begin af aan duidelijk dat het bittere ernst was. Sinds wij in gesprek gaan met robots, voelen wij kennelijk ook de noodzaak om over de thematiek van de robotisering een gesprek op gang brengen. De vraag of mensen in de toekomst geregeerd zullen worden door de machines die zij zelf ontworpen hebben, blijkt enorm tot de verbeelding te spreken. In dit verband valt er nog veel te leren van de geschiedenis.

Zo ligt het voor de hand om terug te gaan naar de oude scheppingsmythen waarin de mens werd geschapen naar het beeld van de schepper. Je zou denken dat onze verbeelding minder snel op hol slaat wanneer God verschijnt als een superintelligente computer –homo deus-, maar niets is minder waar. Het discours over de relatie tussen mens en machine wordt door dezelfde angstbeelden en almachtsfantasieën gekleurd als het discours over de relatie tussen God en de mens. Zowel in het theologische discours als in dit technologische discours draait het om de vraag wie er uiteindelijk de baas zal gaan spelen. God of de mens? Robo sapiens of homo sapiens? Maar is het echt een kwestie van scheppen of geschapen worden? Of kunnen wij ook op andere manieren over de relatie tussen mens en machine nadenken? Waarom laat de verbeeldingskracht het hier zo vaak afweten?

In weerwil van alle retoriek over technologische vernieuwing lijkt de discussie hierover toch altijd weer tot dezelfde herhaling van zetten te leiden. En wanneer ik hier over een herhaling van zetten spreek, dan ontkom ik er natuurlijk niet aan om die schaakwedstrijd van Kasparov tegen de schaakcomputer in herinnering te roepen. Dat gebeurde ook in de uitzending van Tegenlicht waarin weer te zien was hoe schaakgrootmeester Juri Kasparov in het jaar 1996 een schaakwedstrijd verloor van een schaakcomputer. Wereldkampioen Kasparov verkeerde toen op de toppen van zijn kunnen en daarom zegt dit voorbeeld veel over de enorme rekenkracht van computers, maar daarmee kan dit nog niet als bewijs gelden voor de bewering dat het menselijke bewustzijn door superintelligente machines vervangen of zelfs overtroffen zal worden. Net als andere virtuele spelvormen speelt het schaakspel zich namelijk af binnen een gesloten domein dat slechts tot op zekere hoogte geëxtrapoleerd kan worden naar het leven daarbuiten. In dit opzicht sta ik op een lijn met de informatie-ethicus Luciano Floridi die in een interview aan De Volkskrant (Zie het katern Wetenschap, 2-11-2017)  zegt: “Maar de doorbraken blijven binnen de context van zo’n spel. Het echte leven is echter geen setje afgesproken regels. Als we rondrijden, gebeurt dat niet op een schaakbord. Robots spelen niet vals, mensen wel.”

Dit neemt niet weg dat de futuroloog Kevin Kelly, de historicus Yuval Harari, de filosofen Elon Musk en Nick Bostron op basis van die technologische simulaties van specifieke vaardigheden als rekenen, navigeren, archiveren, opereren, etc.. concluderen dat er superintelligentie aankomt en dat we ons beeld van de mens moeten herzien. Kevin Kelly bedoelt dit overigens in optimistische zin, maar als hij vervolgens begint te vertellen over een holistisch systeem waarin mensen, natuur en technologieën organisch verbonden zijn, dan wordt zijn verhaal zo vaag en zweverig dat ik vrees dat er weinig televisiekijkers zijn die hem nog een beetje kunnen volgen.

In vergelijking met die optimistische geheimtaal van Kelly is het een verademing om te luisteren naar de klare taal waarmee de Israëlische historicus Yuval Harari zijn pessimistische boodschap over de toekomst van de mensheid verkondigt. Volgens Harari gaan de ontwikkelingen in de artificiële intelligentie zo snel dat er een tweedeling zal ontstaan tussen enerzijds een kleine groep van mensen die zich door de technologie laat “upgraden” en die een nieuwe elite zullen gaan vormen en anderzijds de grote meerderheid van mensen die nutteloos, reddeloos en verloren zullen achterblijven. Ook Harari blijkt zodanig in de ban te zijn geraakt van deze nieuwe technologische ontwikkeling dat hij letterlijk lijkt te geloven dat de toekomstige mensen geregeerd zullen door de apparaten die zij ooit zelf gemaakt hebben. Deze overdreven voorstelling van zaken is symptomatisch voor het verbeeldingstekort dat volgens José van Dijk altijd weer opspeelt wanneer het vraagstuk van de kunstmatige intelligentie ter discussie wordt gesteld.

De geschiedenis leert dat mensen dusdanig onder de indruk zijn van de dingen die zij zelf gemaakt hebben dat zij zich daarmee vereenzelvigen. Toen de filosoof Plato zich verwonderde over het marionettenspel dat in zijn tijd (crica 400 voor Christus) gespeeld werd, kwam hij op het idee dat God begrepen kan worden als een poppenspeler die ons op dezelfde met behulp van onzichtbare touwtjes in beweging brengt als de onzichtbare poppenspeler die achter het scherm de touwtjes van zijn poppen in handen heeft. Op een vergelijkbare manier kwam Sigmund Freud door de uitvinding van de stoommachine op het idee dat de mens gedreven wordt door driften die net als energiestromen gekanaliseerd worden. Na de stoommachine gaf de uitvinding van de elektriciteit aanleiding om te denken dat er in het levende lichaam een zenuwstelsel huist waarin boodschappen heen en weer worden gezonden worden. En toen later de computer werd uitgevonden, kwamen hersenwetenschappers en cognitieve psychologen tot de ingeving dat het menselijk brein en ons geheugen op dezelfde manier werken als de hardware en de software van een computer. Nieuwe technologische uitvindingen leiden dus tot nieuwe mensenkennis.

Precies dit laatste geeft te denken. Bildung begint vanuit het besef dat wij onszelf nooit direct, maar indirect leren kennen. Als het gaat om de ontwikkelingen in de artificiële intelligentie, dan kunnen wij die ontwikkelingen ook zien als een uitdaging om onszelf -via de omweg van de technologie- beter te leren kennen. Maar daarbij komt het er –zoals mijn dochter zegt- op aan om niet te overdrijven, want dan stagneert het denken. De mens kan wel tot op zeker hoogte als een machine begrepen worden, maar we zijn geen intelligente computers en we zullen dat ook nooit worden.

Mijns inziens zijn we pas in staat om te begrijpen wat nieuwe technologische ontwikkelingen voor ons zelfbegrip kunnen betekenen wanneer wij eerst radicaal afscheid nemen van het geloof dat wij samenvallen met de goden en machines die wij ooit zelf geschapen hebben en die vervolgens een eigen leven zijn gaan leiden. Dit geloof geeft voeding aan angstbeelden over levensgevaarlijke machines die wel aangezet, maar die niet meer uitgezet kunnen worden. Maar er is geen reden om bang te zijn voor technologische ontwikkelingen. Die kunnen inderdaad niet stopgezet worden, maar daarmee kunnen ze nog wel in een bepaalde richting gestuurd worden.

Het heeft geen zin om tegen technologie te vechten, want die is overal om ons heen. Waar wel tegen gevochten moet worden, is het oude kapitalistische systeem dat de technologie dienstbaar maakt aan commerciële belangen. Mens en machine, het on- en offline leven raken meer en meer met elkaar vermengd en we staan voor de opgave om ons daarop te bezinnen en ons daartoe te verhouden. De vraag is hoe die technologische ontwikkeling op een duurzame manier ingezet kan worden, bijvoorbeeld bij de ontwikkeling van nieuwe vormen van energiewinning en landbouw.  Ook is het vruchtbaar om te kijken hoe technologische ontwikkelingen bruikbaar kunnen worden gemaakt in de zorg, bijvoorbeeld als het gaat om de ontwikkeling van zorgrobots. Om nieuwe antwoorden te kunnen geven op de vraag hoe robo sapiens en homo sapiens in de toekomst kunnen samenleven, wordt veel van onze verbeeldingskracht gevergd. Hoe kan die verbeeldingskracht beter benut worden?

Precies op dit punt kan Bildung een cruciale rol spelen. Bildung is ontwikkeling in een voorbeeldige richting. Bildung betekent dat wij altijd op indirecte wijze tot zelfkennis komen. Hoe kunnen wij via de omweg van de artificiële intelligentie nieuwe aspecten van onszelf en de samenleving leren kennen?

Hier is het van belang om scepsis te beoefenen. Het gaat niet om de vraag of wij scheppen of dat wij geschapen worden. Nee, het gaat hier juist om een proces waarin schepper en geschapene met elkaar verwikkeld zijn geraakt. Daar moet vorm aan worden gegeven. Net zo min als wij de technologie naar onze hand kunnen zetten, kan de technologie ons leven bepalen. De vraag is hoe wij de ontwikkeling van de artificiële intelligentie in een humane richting kunnen sturen. Daarop  wil ik vanuit Bildung verder denken.