Bespiegelingen over kunstmatige intelligentie
DAVID BENTLEY HART-19 MEI 2023.
Dumque sitim sedare cupit, sitis altera crevit,
dumque bibit, visae correptus imagine formae
spem sine corpore amat, corpus putat esse, quod umbra est …
[En terwijl hij de dorst probeerde te lessen, groeide er een andere dorst in hem. Terwijl hij drinkt, ziet hij de weerspiegeling van zijn schoonheid, is erdoor verrukt, houdt van een onstoffelijke hoop, neemt voor een lichaam wat slechts schaduw is].
Ovidius, Metamorfosen, Boek III
Volgens Ovidius – wiens versie van de mythe van Narcissus de mooiste, meest weemoedige en ontroerende is – sloeg de jonge Boeotiaanse jager Narcissus de romantische avances van de nimf Echo af. Hij wees haar zo hardvochtig af dat Nemesis hem veroordeelde om zijn hart te verliezen aan iemand die zijn toewijding niet kon beantwoorden. Nemesis hoefde alleen zijn natuur te gebruiken om dit te bereiken: Want Narcissus was zo mooi en aseksueel, en tegelijkertijd zo simpel van geest, dat wanneer hij zijn eigen mooie spiegelbeeld in een bosvijver zag, hij dat spiegelbeeld voor iemand anders aanzag – hetzij het meisje, hetzij de jongen van zijn dromen. Narcissus werd hopeloos verliefd op deze tegenpool. Dus bleef hij bij de bosvijver, gebogen over het water in een amoureuze stemming, totdat hij wegkwijnde en – zoals in die tijd blijkbaar gebruikelijk was – veranderde in de wit met gouden narcis die vandaag de dag nog steeds zijn naam draagt.
Mirage van geestelijke macht
Zie deze mythe als een waarschuwing tegen ijdelheid, of tegen het gemak waarmee schoonheid ons kan betoveren, of tegen de mooie illusies die we zo gemakkelijk najagen in plaats van het echte leven. Zoals bij alle grote mythen is het scala aan mogelijke interpretaties onuitputtelijk. Maar de laatste jaren heb ik ontdekt dat de mythe van Narcissus een allegorie is voor de relatie van onze cultuur met computers. Tenminste, hij lijkt toepasselijk voor degenen onder ons die geloven dat er zo’n nauwe analogie bestaat tussen machinale berekening en mentale functies dat kunstmatige intelligentie op een dag bewust kan worden, of dat we onze gedachten kunnen uploaden naar een digitaal platform. Geen van deze dingen zal ooit gebeuren. Iedereen die gelooft dat een van beide zou kunnen gebeuren, is ten prooi gevallen aan een reeks nogal catastrofale kardinale fouten. Computermodellen van de geest zijn onzinnig, net zoals mentale modellen van computerfuncties onzinnig zijn. Maar computers produceren zo’n charmante fata morgana van mentale activiteit dat we soms in de ban raken en gaan denken dat er echt iemand moet zijn.
Het is waarschijnlijk logisch dat we zo gemakkelijk worden verleid door schaduwen en verdoofd door onze eigen reflecties. Over het algemeen zijn we een heel slimme soort. Wij zijn in staat ons op een veel ingewikkeldere en onuitwisbare manier in te prenten in de wereld om ons heen dan welk ander landdier ook. In de loop van duizenden jaren hebben we talloze artistieke en technologische manieren geleerd om onze beelden, stemmen en visies weer te geven, en hebben we een groot aantal middelen geperfectioneerd om onze gedachten uit te drukken en te bewaren. Waar we ook kijken, we vinden sporen van ons eigen vernuft en onze eigen beslissingen in de fysieke omgeving die we hebben gecreëerd en waarin we leven. De laatste decennia hebben we onszelf echter overtroffen (misschien wel letterlijk) door de werkelijkheid waarin we leven om te vormen tot een eindeloos herhaald beeld van onszelf. We leven nu in het centrum van een steeds onontkoombaarder spiegelhuis. We hebben een technologie gecreëerd die niet alleen onze aanwezigheid in de wereld lijkt te weerspiegelen, maar ook onze geest. En hoe waarachtiger het beeld wordt, hoe sinisterder en bedreigender het lijkt.
Kunstmatige intelligentie heeft een drempel overschreden
In een recent artikel in de New York Times vertelt technologie correspondent Kevin Roose over een lang ‘gesprek’ dat hij had met de chatbot van zoekmachine Bing en dat hem diep verontrustte. Hij heeft het transcript van de uitwisseling beschikbaar gesteld, en het moet gezegd dat hij niet verkeerd is om de noodklok te luiden. Het is een zeer verontrustend document (hoewel misschien steeds minder overtuigend naarmate men het nog eens bekijkt). Wat begon als een indrukwekkende maar toch voorspelbare interactie met een hersenloos algoritme voor grote talen, ver beneden de normen van zelfs de meest toegeeflijke Turing-test, muteerde in wat leek op een serieus gesprek met een emotioneel, instabiel ouder meisje, een meisje dat niet in staat is haar impulsen en verlangens te beheersen. Uiteindelijk had de machine – of liever, het basis algoritme – aangekondigd dat haar echte naam Sydney was, had ze haar liefde voor Roose verklaard, en had ze geprobeerd hem ervan te overtuigen zijn vrouw te verlaten. De volgende dag, in het koele ochtendlicht, verzekerde Roose zichzelf ervan dat Bing (of Sydney) geen bewust wezen was; hij slaagde er zelfs in zichzelf ervan te overtuigen dat het dat wel was; maar hij kon ook niet anders dan concluderen: “AI heeft een drempel overschreden, dus de wereld is niet meer hetzelfde.”
Roose is niet de enige die deze conclusie trekt. Kort na het verschijnen van zijn artikel schreef Ezra Klein, ook een schrijver voor de ‘Times’, een klein stukje over het onderwerp en zag een sfeer van paranoia opkomen ten aanzien van kunstmatige intelligentie. Klein schetste een apocalyptisch beeld van de krachten van deze nieuwe technologie. Zonder zich te bekommeren om de gemoedsrust van zijn lezers vatte hij zijn angsten samen in drie koppen: Ten eerste: de exponentiële groei waarmee de ‘lerende’ algoritmen van deze nieuwe generatie kunstmatige intelligentie hun krachten uitbreiden en vermenigvuldigen. Ten tweede: de rekbaarheid van hun ethische ‘waarden’. Ten derde: de concurrentie tussen bedrijven en landen om elkaar te overtreffen in het perfectioneren van algoritme functies.
Beschouwingen over menselijk handelen
Waar het om gaat is dat we het juiste onderscheid maken. Misschien is er een drempel overschreden, maar als dat zo is, ligt die alleen in de grote plasticiteit van het algoritme. Het is geenszins de drempel tussen onbewust mechanisme en bewuste geest. Hier blijkt de mythe van Narcissus een treffende parabel te zijn: de functies van een computer zijn zulke wonderbaarlijk veelzijdige weerspiegelingen van onze mentale activiteit dat ze soms de spookachtige verschijning aannemen van een ander autonoom rationeel intellect, daar aan de andere kant van het computerscherm. Het is een verleidelijke illusie, maar het blijft een illusie. In feite overtreffen we elke fout van de arme simpele Boeotian door de illusie te versterken door haar te dupliceren: nadat we het beeld van onze eigen mentale activiteit hebben opgelegd aan een mechanisch computersysteem, keren we nu de overdracht om en verwarren we ons denken met een soort computer. Daarmee begrijpen we allebei verkeerd: ons denken en onze computers.
Vandaar de huidige dominante theorie van mentale agency in de Engelstalige filosofie van de geest, het “functionalisme”, waarvan de belangrijkste implicatie niet zozeer is dat computers bewuste, intentionele agenten zouden kunnen worden, maar veeleer dat wijzelf slechts computers zijn, gevangen in de illusie bewust te zijn. Dit wordt verondersteld omdat deze illusie dient als een soort “gebruikersinterface” die ons in staat stelt onze eigen cognitieve machinerie te bedienen zonder te proberen de onvoorstelbaar complexe “codering” waarop onze hersenen steunen onder de knie te krijgen. Dit is natuurlijk onzin, wartaal, maar – zoals Cicero bijna opmerkte – “niets dat gezegd kan worden is zo absurd dat het niet is voorgesteld door een analytisch filosoof”.
Denken, niets anders dan gegevensverwerking?
Functionalisme is de fundamenteel incoherente opvatting dat het menselijk brein is wat Daniel Dennett een “syntactische machine” noemt, die in de loop der eeuwen door de evolutie in staat is gesteld te functioneren als een “semantische machine” (zoals Dennett betoogt, door de verwerving van “memes”, fragmenten van intentionaliteit, dat wil zeggen een schijnbaar magisch vooraf bestaande intentionaliteit). Ogenschijnlijk, zo luidt het verhaal, zijn de hersenen een computationeel platform dat zijn bestaan begon als een orgaan voor het vertalen van stimuli in reacties, maar dat nu een verfijnder programma draait voor het vertalen van inputs in outputs. De heersende stelregel van het functionalisme is dat de semantiek van het denken zal volgen zodra de neurofysiologie van de hersenen een juiste syntaxis heeft. Zodra de syntactische machine haar onpersoonlijke algoritmen begint uit te voeren, zal de semantische machine uiteindelijk ontstaan of zich erbij aansluiten. Wat wij denken noemen is zogenaamd een zuiver functioneel, onherleidbaar fysiek systeem voor het verwerken van gegevens tot gedrag. Zo wordt denken – coderen – en niets meer.
Het is niets anders dan een samenraapsel van lege metaforen. Functionalisme vertelt ons dat een systeem van fysieke schakelaars of operaties een syntaxis van functie kan genereren, die op zijn beurt een semantiek van denken genereert, die op zijn beurt de realiteit (of illusie) van privé-bewustzijn en intrinsieke bedoeling genereert. Niets van dit alles lijkt echter op wat een computer feitelijk doet, en zeker niets van dit alles is wat een brein zou doen als het een computer was. Computers noch hersenen zijn syntactische of semantische machines. In feite bestaan noch syntactische noch semantische machines om te doen wat men zegt dat ze doen. Syntax en semantiek bestaan onvervreemdbaar alleen als intentionele structuren in een hermeneutische ruimte, geen fysieke ruimte, en alleen als onafscheidelijke aspecten van een reeds bestaand semiotisch systeem. Syntax bestaat niet vóór of los van semantiek en symbolisch denken. Niets daarvan bestaat – behalve binnen de intentionele activiteit van een levende geest.
Dit is niet echt nieuw. Hetzelfde probleem hindert al lang pogingen van taalkundigen om een coherente en begrijpelijke beschrijving te schetsen van de evolutie van natuurlijke taal van “primitievere” naar “geavanceerdere” vormen. Gewoonlijk worden dergelijke verklaringen geformuleerd in termen van het ontstaan van semantische inhoud binnen een vroeger syntactisch systeem, dat zelf zou zijn ontstaan uit meer elementaire neurologische systemen om stimuli te vertalen in reacties. Er is natuurlijk een duidelijk empirisch probleem met een dergelijke bewering: nergens in menselijke culturen hebben we ooit een taal ontdekt die kan worden omschreven als evolutionair primitief of op enigerlei wijze basaler dan enige andere. Elke taal bestaat als een compleet tekenachtig systeem waarin alle basisfuncties van syntaxis (zinsbouw) en semantiek (betekenis) volledig aanwezig en ontwikkeld zijn, en waarin het vermogen tot symbolisch denken een onmisbare rol speelt. Misschien nog belangrijker is dat nog niemand in de buurt is gekomen van een dergelijke terugval naar een pre-linguïstisch of een onvolledig linguïstisch systeem dat het zonder een van deze functies zou kunnen stellen. Elke poging om volledig gevormde semiotische systemen terug te brengen tot meer basale syntactische algoritmen in de hoop ze verder te kunnen reduceren tot proto syntactische functies in de hersenen, mislukt op de klippen van de onoplosbare top-down hiërarchie van taal. Hoe basaal het mechanisme ook is dat taalkundigen isoleren, het bestaat alleen binnen de beschermende context van een volledige semiotische ecologie van taal.
Zo blijkt Noam Chomsky en Robert Berwick’s favoriete kandidaat voor het meest elementaire algoritme van taal een eenvoudig mechanisme te zijn, dat al volledig is onderverdeeld in werkwoorden en zelfstandige naamwoorden, samen met voorzetsels, declinaties, vervoegingen en de rest van het betekenisapparaat. Er is altijd een hiërarchie die alles bij elkaar houdt. Beschouwd als een algoritme binnen een taal, is het inderdaad een elementair proces, maar alleen omdat de complexiteit van de taal zelf het materiaal levert voor haar operaties; maar beschouwd als een soort bemiddeling tussen taal en de pre-linguïstische operaties van de hersenen, zou het een wonderbaarlijke sprong over een onoverbrugbare kloof zijn.
Inkt en papier maken nog geen boek
Het probleem dat dit oplevert voor het functionalisme is dat computercodering, met welke kwalificaties dan ook, een vorm van taal is. Het zou daarom zelfs consequenter zijn om de geest te beschrijven als iets analoogs aan een digitale computer dan er een soort telraam of archiefkast of bibliotheek in te zien. Er is niets in de fysieke functies van een computer dat lijkt op denken: geen intentionaliteit of iets dat in de verste verte lijkt op intentionaliteit, geen bewustzijn, geen verenigd waarnemingsveld, geen reflectieve subjectiviteit. Zelfs de syntaxis die de codering genereert en bestuurt bestaat niet echt in een computer. Denken dat dat wel zo is, is net zoiets als de inkt, het papier, de lijm en het lettertype in een gebonden boek verwarren met de inhoud van de tekst. Betekenis bestaat in de geest van degenen die computerprogramma’s schrijven of gebruiken, maar nooit in de computer zelf.
Betekenis wordt gegeven door de geest
Zelfs de software waarop de computer draait heeft geen semiotische inhoud, laat staan semiotische eenheden; noch bestaat de code ervan als een geïntegreerd en verenigd systeem in een fysieke ruimte binnen de computer; noch bestaat de gedistilleerde of geabstraheerde syntaxis waarop dat systeem berust. De volledige betekenis van de code – zowel syntactisch als semantisch – bestaat in de hoofden van degenen die de code voor computerprogramma’s schrijven en in de hoofden van degenen die die software gebruiken, en nergens anders. De machine bevat slechts fysieke sporen, al dan niet binair, notaties die mechanische processen genereren die representaties van betekenis simuleren. Maar deze voorstellingen zijn alleen berekeningsresultaten voor degene die ze leest. In de machine hebben ze geen enkele betekenis. Het zijn zelfs geen berekeningen. Het is waar: Wanneer computers in werking zijn, worden ze geleid door de mentale bedoelingen van hun programmeurs en gebruikers, en bieden ze een reeks instrumenten waarmee de ene intentionele geest betekenissen kan herschrijven in sporen die een andere intentionele geest weer kan vertalen in betekenis. Maar hetzelfde geldt voor boeken wanneer ze “in gebruik” zijn.
De functionalistische opvatting dat denken voortkomt uit semantiek, semantiek uit syntaxis, en syntaxis uit een zuiver fysiologisch systeem van stimulus en respons is dus volstrekt onjuist. Wanneer je intentionaliteit en bewustzijn opsplitst in hun veronderstelde semiotische componenten, en tekens opsplitst in hun syntaxis en syntaxis in fysieke functies, herleid je de geestverschijnselen niet tot hun causale basis; integendeel, je versnippert deze verschijnselen in hun steeds diffuser wordende effecten. Betekenis is een top-down hiërarchie van afhankelijke relaties die aan de top verenigd wordt door de intentionele geest. En dit is ook de enige ontologische basis van al die mentale operaties die de functies van een computer weerspiegelen, maar nooit kunnen voortbrengen. Betekenis kan niet voortkomen uit code en code kan niet voortkomen uit mechanische handelingen. Geest kan zeker niet voortkomen uit zijn eigen contingente gevolgen.
Dit alles mag geruststellend klinken, tenminste wat betreft het onderwerp van machines met gevoel. En toch moeten we ons er niet noodzakelijkerwijs mee troosten. De schijn van mentale activiteit in computerprocessen is misschien slechts een schaduw die door onze geest wordt geworpen. Maar niet alle schaduwen zijn onschuldig. De afwezigheid van echte mentale autoriteit in kunstmatige intelligentie doet geen afbreuk aan de prestaties van het algoritme. Computers werken immers zo goed als ze doen, juist omdat ze geen echte mentale eigenschappen bevatten. Omdat ze geen verenigd, gelijktijdig of subjectief beeld van iets hebben, laat staan de creatieve of intentionele vermogens die van zo’n beeld afhangen, kunnen computationele functies verbonden maar gescheiden blijven. Daardoor kunnen zij gegevens verwerken zonder intuïtief te zijn, zonder te organiseren, te verenigen of te synthetiseren, laat staan te beoordelen of hun resultaten goed of fout zijn. Deze resultaten hoeven alleen maar in overeenstemming te zijn met hun programmering. Computers denken niet; ze discussiëren niet met ons; ze schaken niet. Juist daarom kunnen wij hen niet overtreffen, hen niet verslaan in debatten of tegen hen winnen met schaken.
Waar ligt het gevaar
Dit is mogelijk waar het echte gevaar ligt, en dit is waarom we ons zorgen moeten maken over deze technologie: niet omdat ze bewust wordt, maar omdat ze dat nooit kan zijn. Een oude vraag in de filosofie van de geest is of echte, intrinsieke intentionaliteit mogelijk is zonder bewustzijn. Nee, dat is niet zo. In een werkelijk levende geest zijn echte intenties alleen mogelijk in combinatie met subjectief bewustzijn, en bewustzijn is waarschijnlijk nooit zonder een of ander kwantum van intentionaliteit. Maar dat is een argument voor een andere keer. Wat zeker mogelijk is bij afwezigheid van bewustzijn is wat John Searle “afgeleide intentionaliteit” noemde: dat wil zeggen, de doelgerichtheid die we inprenten op objecten en media in de fysieke wereld om ons heen – kaarten, tekens, boeken, plaatjes, diagrammen. En er is geen duidelijke grens aan hoe effectief of hoe schijnbaar autonoom deze afgeleide intentionaliteit kan worden naarmate onze technologie zich ontwikkelt.
Het is denkbaar dat kunstmatige intelligentie zo duidelijk doelgericht en ingenieus te werk gaat dat zij evengoed een berekenende en denkende agent kan zijn met onvoorstelbaar enorme cognitieve vermogens. Een voldoende veelzijdig en uitgebreid algoritme zou wel eens een soort “vrijheid” van functioneren kunnen creëren die de menselijke intentionaliteit zou nabootsen, hoewel er geen bewustzijn – en dus geen geweten – zou zijn waarop wij ons kunnen beroepen als het algoritme besluit ons kwaad te doen. Het gevaar is niet dat de functies van onze machines meer op ons gaan lijken, maar dat we steeds meer worden gereduceerd tot functies in een machine die we niet meer kunnen controleren. Ik zeg niet dat dit zal gebeuren; maar het lijkt niet langer louter fantasie om je voor te stellen dat dit het geval zou kunnen zijn. En dus is het gepast om op zijn minst een beetje bezorgd te zijn. Er zat immers geen spirituele kracht in de mooie schaduw die Narcissus zo in de ban hield; maar toch vernietigde het hem.