Veel mensen denken dat een computer kan denken. Ze denken zelfs dat een computer dit beter kan dan een mens. Een computer kan immers toch ook beter schaken en bridgen? Toch knaagt er iets. Is een voorwaarde voor denken niet dat je leeft? Een computer stopt als je de stekker uit het stopcontact haalt. Hij is dus een ding dat niet denkt, net zoals een lamp of een bloempot. Als je de stekker er weer in doet, doet hij na een tijdje weer. Je kunt hem ook openmaken en onderdelen vervangen. Bij een mens lukt dat niet. Een mens kan uit zichzelf van gedachten veranderen, een computer kan niets uit zichzelf. Waar zit de geest in de computer? Een korte beschouwing over de hedendaagse Deus ex machina.
Computerpoëzie
Ik kan me nog herinneren dat ik in 1985 mijn eerste computer kocht. Dit was een Sinclair Quantum Leap en hij had een werkgeheugen van maar liefst 128 kB. Later heb ik er nog 512 Kb extra in gesoldeerd. Er zat een compleet kantoorpakket op en je kon zelf programma’s maken in de programmeertaal Super Basic. Als oefening schreef ik toen onder andere een programmaatje dat gedichten maakte. Het werkte vrij eenvoudig: ik had een bestandje aangemaakt met een aantal afzonderlijke woorden en het programma koos willekeurig telkens een van die woorden uit dit bestand en zette dit achter het vorige, waarbij het bovendien na 3 of 4 woorden aan een nieuwe regel begon. Als je het gedicht niet te lang maakte, kwam er na verloop van tijd wel eens iets uit dat zomaar door een mens had kunnen zijn geschreven.
Ik heb er toen wel eens over gediscussieerd. Een vriend van mij geloofde echt dat een computer gedichten kan schrijven, maar ik hield het erbij dat computers iets kunnen maken dat erg op een gedicht lijkt, dat ze dus een gedicht nabootsen. Later zou de Franse filosoof Jean Baudrillard een hele theorie ontwikkelen rondom de nabootsing die hij “het simulacrum” noemde.
Werkelijkheid en simulacrum
Een huis, getransformeerd door de bliksem,
de evenwichtige nissen verstikken
deze onverzadigbare aarde, onze planeet, de Aarde.
Ze vielen haar aan met mechanische hoorns,
omdat ze van je houden, liefste, in vuur en wind.
Je vraagt: waar wacht de tijd op in haar lente?
Ik zeg je: ze wacht op jouw stromende tak,
want je bent een zoetgeurende diamanten architectuur
die niet weet waarom ze groeit.
(2010, programma geschreven door Zackary Scholl student Duke University, vertaald met DeepL)
Het gedicht dat u hierboven ziet is ook door een computer geschreven. De schrijver van het programma dat het heeft gemaakt, Zackary Scoll, heeft echter een verfijning aangebracht door in het programma een serie grammaticaregels in te bouwen. Daardoor lijkt het product nog meer menselijk.
De vraag is nu: is dit echt een gedicht? Als je het uitprint en aan verschillende mensen laat zien, heb je kans dat sommigen erdoor geraakt worden en je vragen wie de dichter is. Zij herkennen met andere woorden in de tekst een gedicht dat door een mens is geschreven. Het simulacrum bestaat nu eenmaal op grond van herkenning. Van herkenning komt erkenning.
Als je het gedicht leest, begin je met het herkennen van woorden. Deze lijken eerst weinig met elkaar te maken te hebben. Opeens herken je een verband en dan erken je het als een gedicht. Het is net als wanneer je een gezicht ziet in een wolk, opeens is het er en dan blijf je het zien. Een discussie over de vraag of de tekst echt een gedicht is levert waarschijnlijk niet veel meer op dan het bekende “welles” en “nietes”. Als je de tekst eenmaal als gedicht hebt herkend, kan niemand je meer van het tegendeel overtuigen, want je ziet het gewoon duidelijk voor je.
Emergentie
Moeten we nu concluderen dat een tekst voor sommige mensen een gedicht kan zijn en voor anderen niet? Of moeten we dit misschien democratisch oplossen door middel van een meerderheid van stemmen? Het is immers moeilijk om te bewijzen dat het een gedicht is. Het dichterlijke zit niet in een van de woorden afzonderlijk of in een van de letters. Je kunt het nergens aanwijzen. Zet een hoop letters in de goede volgorde achter elkaar en opeens is er het gedicht. Dit verschijnsel, namelijk dat als je een aantal elementen bij elkaar zet er opeens iets verschijnt dat niet in de elementen apart kan worden gevonden, heet emergentie, oftewel opdoemen.
Je komt het principe van emergentie overal tegen, maar lange tijd heeft niemand zich er over verwonderd. Tegenwoordig komt het zo nu en dan weer onder de aandacht. In de Indiase filosofie is het al lang bekend, men heeft het dan over samavāya of inherentie. Als je een kleed weeft met draden van verschillende kleuren, krijg je een bont kleed. In elke draad afzonderlijk is er geen bontheid te vinden, die heeft overal dezelfde kleur. Een ander voorbeeld is het lezen, dan zit de betekenis niet in de letters of woorden, maar het spat als het ware op, men noemde dit in India sphota. Een ander voorbeeld vinden we in de Milindapanha (https://www.bps.lk/olib/bp/bp217s_Mendis_Questions-of-King-Melinda.pdf). In hoofdstuk 1 vraagt koning Milinda (ook wel Menander genoemd) waar het zelf zich bevindt. Nāgasena antwoordt dat dit zelf niet bestaat. Ook zijn eigen zelf is nergens in de persoonscomponenten (skandhas) te vinden, ze worden alleen met “Nāgasena” aangesproken als ze bij elkaar zijn . Een rijtuig bestaat bijvoorbeeld ook uit onderdelen en is als zodanig in geen van die onderdelen te vinden. De persoon of het zelf, een rijtuig en tal van andere dingen zijn emergent, ze bestaan niet naast of in de onderdelen. Meer voorbeelden van emergentie zijn te vinden in de Mūlamadhyamakakārikāh van Nāgārjuna. In hoofdstuk 1 wordt bijvoorbeeld opgemerkt dat alles een oorzaak heeft, maar dat die oorzaak nergens is aan te wijzen. Hoe kan immers een oorzaak een gevolg veroorzaken? Als het gevolg er nog niet is, is dit nog niet aan de orde. Als het gevolg er wel is, dan valt er ook niets meer te veroorzaken, want dit hoeft maar een keer te gebeuren. Later zal Immanuel Kant betogen dat oorzaken en gevolgen alleen bestaan binnen onze interpretatie van de wereld. Ze zijn dus leeg of emergent.
Een voorbeeld uit de huidige wetenschap is dat een aantal kleurloze atomen samen een felgekleurd schilderij kunnen vormen, terwijl het schilderij in geen enkel van de atomen zelf te vinden is. In het oude Griekenland gebruikte men een ander voorbeeld: de tegenspraak van de Sorites, die wordt toegeschreven aan en zekere Eubulides, die leefde tijdens de vierde eeuw v.j. Gooi een aantal graankorrels bij elkaar en je krijgt een hoop, terwijl de hoop zelf in geen van de graankorrels voorkomt. Neem een voor een de graankorrels weg en opeens is de hoop verdwenen. Toen de wetenschap hiervoor het woord “emergentie” had bedacht, vond men, net zoals in de middeleeuwen, dat het probleem hiermee was opgelost. Een wetenschapper is nu eenmaal geen filosoof. Filosofen verwonderen zich er echter al 25 eeuwen over.
Babbelautomaten
Een modern product van emergentie, dat dankzij de computer is ontstaan, is Eliza. Eliza is een computerprogramma, gebouwd door Joseph Weizenbaum (verbonden aan het MIT) in de periode 1964-1966. Het is een van de eerste chatbots, of babbelautomaten. Het programma is genoemd naar het karakter Eliza Doolittle uit de musical My Fair Lady, die eveneens een gesprek moest leren voeren (zie The Guardian, dinsdag 25 juli 2023). Een gebruiker kan met Eliza een gesprek voeren en de reacties van het programma komen tot stand door middel van een vroege vorm van patroonvergelijking. Dit laatste is ook het van de zoekfunctie zoals we die dagelijks op onze computers en mobieltjes gebruiken.
Weizenbaum werd verrast door de persoonlijkheid die de gebruikers het programma toedichtten. Toen hij het programma liet testen door zijn eigen secretaresse vroeg ze hem vrij snel om de kamer te verlaten omdat het gesprek te persoonlijk werd. Ze vond dat Eliza haar als mens kon begrijpen. Iemand anders, Ross Quillian, toonde zelfs aan dat je met een bestand van 20 woorden in een babbelautomaat al een heel eind komt (zie Wikipedia).
Het gaat er voor het programma om de juiste standaardzinnen te kunnen maken en als dit niet lukt herhaal het gewoon de input. Als iemand bijvoorbeeld intypt “ik heb geen zin in dit gesprek”, kan de computer antwoorden “hè wat vervelend voor je, waarom heb je geen zin in dit gesprek?” Wie wel eens met een babbelautomaat van een bedrijf heeft gecorrespondeerd, kan hier veel in herkennen. Ik heb trouwens iemand gekend die andragologie had gestudeerd en die ook alles herhaalde wat je tegen hem zei. Het duurde altijd dubbel zo lang om hem iets uit te leggen.
In de loop van de tijd zijn de babbelautomaten verder geperfectioneerd. De huidige LLM’s zoals Claude of ChatGPT worden soms ook hiervoor gebruikt. Jongeren houden er gesprekken mee, alsof het hun beste vriend is en ze worden er op deze manier afhankelijk van. Het is enkele malen gebeurd dat een LLM adviseerde om uit het leven te stappen en enkele ongelukkig tieners hebben dit in de VS ook echt gedaan. Hieronder nog een voorbeeld van een gesprek met een babbelautomaat:
User: Men are all alike.
Chatbot: IN WHAT WAY
User: They’re always bugging us about something or other.
Chatbot: CAN YOU THINK OF A SPECIFIC EXAMPLE
User: Well, my boyfriend made me come here.
Chatbot: YOUR BOYFRIEND MADE YOU COME HERE
User: He says I’m depressed much of the time.
Chatbot: I AM SORRY TO HEAR YOU ARE DEPRESSED
De leegte in de computer
We hebben nu gezien dat de computer een bron is van simulatie en daarmee van emergentie en dus van leegte. Zolang we de simulacra of nabootsingen niet als simulacra herkennen, maar als dat wat ze nabootsen, lijkt dit nagebootste echt te bestaan. Zodra we het simuleren herkennen, blijft er niets dan leegte over. Aan de kant van de computer zijn er alleen maar kleine stroompjes die razend snel door de chips schieten. Aan de kant van de beschouwer zijn er alleen maar denkgewoontes en overhaaste aannames en conclusies die in de meditatie kunnen worden ontmaskerd.
In een volgend artikel -komende zondag- zal ik uitleggen hoe dit werkt bij kunstmatige intelligentie in de Large Language Models als ChatGpt en Claude.
Geef een reactie