De volmaakte misdaad

Aandacht zonder aandacht

Er zijn verschillende beschrijvingen van de geschiedenis van kunstmatige intelligentie op het internet te vinden. Ze zijn vaak verschillend van opzet en diepgang, maar over één ding zijn ze het met elkaar eens: het begon allemaal met het opstel All you need is attention. Dit werd in 2017 geschreven door een collectief van acht programmeurs die allemaal bij Google werkten. In deze tekst werd een nieuwe techniek van vertalen uitgelegd, namelijk door middel van transformers.

De oude manier ging op de manier zoals mensen dat meestal doen als ze een zin in een hun onbekende taal willen vertalen: woord voor woord. De zin “ik loop nu naar de bank” wordt dus in het Engels I walk now to the bank. Dit is geen mooie zin, beter zou zijn I am walking to the bank now. Dan zijn we er nog niet, want de vertaling moet worden gecorrigeerd als de volgende zin is: because I am exhausted. In dat geval wordt het namelijk I am walking to the couch now. De computer is geen mens die de context beseft en hij weet niet van tevoren dat met het woordje bank een zitmeubel wordt bedoeld en geen financiële instelling. Hij moet het hebben van zijn woordenboek en zichzelf verbeteren als de context erom vraagt.

Een transformer pakt de vertaling daarentegen heel anders aan. Daar worden alle woorden van meerdere zinnen tegelijk opgezocht en er wordt gekeken wat ze met elkaar te maken hebben. Natuurlijk weet het programma daar niets van, het heeft geen kont en weet dus niet wat zitten is en dus ook niet dat je daar speciale meubels voor kunt kopen. Het weet ook niets van geld. Het weet helemaal niets, want het is een patroon van elektrische spanningsverschillen op een drager. Het kan echter wel zo geschreven worden dat wordt bijgehouden hoe vaak het woord bank met de woorden vermoeid of uitgeput samen voorkomt en hoe vaak samen met de woorden geld of blut. Als bijvoorbeeld het eerste het geval is, dan kent het programma een hogere statistische getalswaarde toe aan de vertaling couch. Voor de volledigheid moet ik nog zeggen dat het programma niet werkt met woorden, maar met betekeniselementen, die tokens worden genoemd.

Elk token wordt gecodeerd tot een kolom getallen, een vector. Elk getal is gerelateerd aan andere getallen van andere dingen op hetzelfde betekenisniveau of in hetzelfde aspect. Zo heeft de vector van bank een aspect van geld, een aspect van meubel, een aspect van bewaarplaats (zoals bij voedselbank), een aspect van verzamelplaats (zoals bij mosselbank) en ga zo maar door. Een aantal kolommen bij elkaar wordt dan een matrix, een getallenblok en die matrices worden op wiskundige wijze met elkaar gecombineerd.

Het programma is dus zo geschreven dat het probeert te voorspellen wat de meest waarschijnlijke juiste vertaling is, door alternatieven een statistisch lagere prioriteit te geven. Het is met andere woorden een ingewikkelde zeef. Het verfijnt zichzelf door een groot aantal teksten te vertalen en daarop gecorrigeerd te worden. Er is namelijk een ook terugkoppeling ingebouwd, die zelf-aandacht wordt genoemd. Elke keer worden de statistische voorspellingen van het programma opnieuw bijgesteld.

De illusie van bewustzijn

Het vaststellen van wat woorden met elkaar te maken hebben door middel van getallenblokken wordt nu attention, aandacht, genoemd. Normale mensen zouden dit statistische contextualisering noemen, maar de programmeurs dachten blijkbaar dat zij een soort bewustzijnsfunctie hadden geprogrammeerd. Het is en blijft echter een nabootsing van hoe wij spreken. Het programma produceert die vertaling die in de meeste gevallen correct is, het kan geen gedachtesprongen maken, het kan geen metaforen verzinnen en het heeft geen humor. Dit laatste heb ik proefondervindelijk onderzocht. In de loop van de tijd is het echter wel verfijnd doordat de procedure op verschillende lagen tegelijk plaatsvindt en in een flits van een seconde duizenden malen wordt herhaald.

De grote moeilijkheid bij het vertalen of bij NLP, Natural Language Precessing, is altijd geweest dat je voor een goede vertaling moet weten hoe de wereld in elkaar zit. Je moet bijvoorbeeld weten dat een bank een zitmeubel is en ook een financiële instelling en begrijpen wanneer het over het ene of het andere gaat. Een goede vertaalster bestudeert daarom de persoon, de tijd en het taalgebruik van de auteur die zij vertaalt. Dit probleem wordt nu omzeild door een statistiek te maken van zoveel mogelijk teksten waarin het woord wordt gebruikt. In plaats van te weten wat een bank is, kun je ook kijken met welke andere woorden samen het woord “bank” gewoonlijk wordt gebruikt door mensen die wel weten wat een bank is. Dit is dus een nabootsing van de kennis van de wereld van mensen. Het is bijvoorbeeld heel wat anders dan de kennis van een vijf jaar oud kind dat weet waar de bank in de huiskamer staat en dat het niet met zijn voeten op de bank mag.

Alan Turing vond dat een computer kan denken als je de tekst die hij produceert niet kunt herkennen als een product van een machine. John Searle bracht daar het argument van de Chinese kamer tegenin. Stel dat iemand die geen Chinees kent briefjes krijgt met Chinese tekens en andere briefjes met tekens moet terugsturen. Hij kan met behulp van puur formele regels de juiste briefjes teruggeven zonder te weten wat hij doet. Als hij bijvoorbeeld een briefje krijgt met “…好吗” (is … goed?) kan hij antwoorden met “…很好”(… is heel goed) zelfs zonder te weten dat het Chinees is en dat het iets betekent. Als je hem zegt dat het een experiment is om zijn ogen te testen heeft hij geen enkele reden om daaraan te twijfelen.

Het ergste is nu dat de programmeurs van de LLM’s er blijkbaar wel van overtuigd zijn dat het programma echt denkt en iets weet. Ze vergeten dat het alleen maar bestaat uit stroompjes die door een soort minuscule ingewikkelde gebakken zandkoekjes lopen. Ze proberen om hun programma’s met zo veel mogelijk teksten te trainen en ze hopen hiermee zelfs een universele intelligentie te kunnen kweken, een machine die alles weet. Dit doel is nog niet bereikt, maar alle techmiljardairs dromen ervan. Ze noemen het AGI, Artificial General Intelligence. Blijkbaar zijn ze ervan overtuigd dat het bezit van zo’n programma onbeperkte macht en rijkdom zal brengen. Ze gaan er blijkbaar vanuit dat alle kennis al is opgeschreven en op het internet staat en ook nog in een taal die de computer kan begrijpen en dat er bovendien niets meer bij komt. Hoe dom kun je zijn? Ondertussen staan de grote bedrijven op omvallen, de grote vijf hebben in hun race naar AGI samen een schuld van 1,65 biljoen dollar opgebouwd en niemand weet hoe je die kunt afbetalen.

Hallucinatie en schuld

Een groot struikelblok is nog steeds het hallucineren van de LLM’s, dat wil zeggen het onverwacht insluipen van verkeerde woordkeuzes en zelfs verkeerde uitspraken. Het woord “hallucineren” suggereert dat het programma even van de wereld is en waanbeelden krijgt, maar dat is natuurlijk niet waar. Als een babbelautomaat aan een depressieve tiener suggereert dat het maar beter is om uit het leven te stappen, is dit gewoon een gevolg van statistische bewerkingen. Het is dan ook principieel onmogelijk om dit helemaal te voorkomen.

We hebben dus geleerd dat de LLM’s een soort ingewikkelde filters zijn die ingebouwd worden in een babbelautomaat. Op deze manier bootsen ze een mens na die alles weet. Dit nabootsen gaat meestal vrij aardig, maar zal altijd op onverwachte momenten haperen. Daarbij komt nog dat alwetenden alleen in sprookjes voorkomen en in “Even tot hier”. Je hebt trouwens een alwetende nodig om uit te vissen of iemand echt alwetend is.

We kunnen nu ook begrijpen dat computers eigenlijk nabootsmachines zijn, die steeds verder worden verfijnd en verkleind. Een computer was vroeger een kantoorbediende die alles voor het bedrijf uitrekende, de huidige computer is daar een nabootsing van. Eerst moest je de computer bedienen met commando’s in machinetaal, toen kreeg je de verschillende computertalen zoals Pascal, Python en C++. Vervolgens kwamen er sneltoetsen en daarna de computermuis met de grafische werkomgeving. Het scherm bood eerst een blokkerige aanblik, maar al gauw kwamen er kleurenmonitors met hogere resolutie. De LLM’s krijgen nu een menselijke stem, het paperclipje dat de gebruiker moest helpen in Windows is nu een wulpse dame geworden. De laatste ontwikkeling is nu dat men robots bouwt die in alles een letterlijke nabootsing zijn van een mens.

De computers worden ook steeds kleiner en sneller en ze worden steeds meer ingebouwd en een integraal onderdeel van ons leven. Niemand kan meer zonder mobiel. De techniek verbergt zich, ze schaamt zich voor zichzelf. Dit is niet zielig, maar een sluwe tactiek om zich onmisbaar te maken en de macht over te nemen van de bedienende mens. Daarbij wordt de wereld verdubbeld in een echte wereld waarin de computer een machine is en een nagebootste of gesimuleerde wereld waarin de computer een soort scheppende God is.

Wie vroeger Pacman speelde besefte heel goed dat hij met een machine te doen had, maar wie nu een computerspel speelt, leeft zich helemaal in en vergeet alles om zich heen. De hele ontwikkeling wordt gestuurd door het verlangen naar geld. Het Amerikaanse kapitalisme is een excuus voor de techniek en de techniek is een excuus voor het kapitalisme. Beide plegen samen een volmaakte misdaad: moord op de werkelijkheid, als het lukt, als na God ook de werkelijkheid dood is, bestaat de misdaad niet meer. De misdaad is dus de perfectie van de nabootsing die alle verschillen laat verdwijnen.

Hyperrealiteit zonder lichaam

Er wordt ook een geheel nieuwe wereld gemaakt door de zogenaamde “sociale media” of maatschappelijke doorgeefkanalen zoals Facebook, Twitter, Tiktok en Instagram. Daar uiten mensen hun angsten, frustraties en dromen alsof het onomstotelijke feiten zijn, waardoor andere deelnemers zich dan weer laten meeslepen en weer nieuwe uitingen van angsten, frustraties en dromen terugsturen. Vooral veel jonge gebruikers worden hierdoor beïnvloed en dit maakt hen ongelukkig.

Het nabootsen door middel van de computer is dus verre van onschuldig. Het is een interessante vraag waarom dit gebeurt. Waarom moet een robot een menselijke gestalte hebben, waarom hebben Siri en Copilot een menselijke stem, waarom is het spannender om het licht aan te doen door het uitspreken van een commando in plaats van gewoon op het lichtknopje te drukken? Het antwoord kan alleen maar bestaan uit een bevestiging zowel als een ontkenning van onze menselijke werkelijkheid. De stem en het menselijk lichaam blijven voor ons maatgevend, ze vormen de wereld waarin we wonen en thuis zijn. De techniek is echter jaloers op ons, zij het probeert ons uit onze wereld te verdringen door onze plaats in te nemen en daarbij ons te ontmenselijken.

Als dit lukt komen we in de hyperrealiteit terecht, een stadium waarin nabootsing en werkelijkheid zo sterk verweven zijn dat ze niet meer uit elkaar kunnen worden gehouden. Er is inmiddels een kleine elite van techmiljardairs ontstaan, die zich van het nabootsen helemaal niet meer bewust is. Ze leven in een hyperrealiteit. Ze zijn trouwens niet de enige, want de oudste vorm van hyperrealiteit is het geloof. Zij die geloven moeten vergeten dat ze geloven. Het geloof is ook een nabootsing van de werkelijkheid, dat betoogde Kant al, want God is een oude man en engelen zijn mensen met zwanevleugels op hun rug.

Het geloof van de techmiljardairs komt dus uit de sciencefiction, met name films als The lord of the ring, Startrek en The Matrix. Ze geloven dat techniek de redding is van de mens en daarom onder geen enkele voorwaarde mag worden tegengehouden. Zij zijn ervan overtuigd dat zij persoonlijk de zonen van de Heilige Vooruitgang zijn. Zij zijn de vooruitgang, zoals een minister met een heel duur keukenmeidenkapsel eens zei “ik ben beleid”. Het bewijs staat voor hen vast: ze zijn immers op slag miljardair geworden, want de Heilige Vooruitgang beloont zijn zonen. Wie de enige Ware Zoon is zal spoedig blijken, want Hij zal de Computer der Wijzen bezitten, de AGI, de Artificial General Intelligence. Wij, die nog in de gewone wereld leven, zitten echter met de gebakken peren. Wij worden uitgebuit en krijgen als dank chaos en een vernielde natuur en een op hol geslagen klimaat.

Hoe kunnen we ons nog onttrekken aan deze terreur? Martin Heidegger stelt in zijn opstel over de techniek voor om gelatenheid (Gelassenheit) te betrachten. We kunnen er niet omheen machines te gebruiken, maar we bemoeien ons er verder niet mee. Dit is erg onverstandig, want het speelt de techniek in de kaart. Ons mobieltje zou heel blij zijn met zo’n voorstel. “Goed hoor, trek je niets van mij aan. Ik ben er niet,” zou het zeggen en ondertussen raken we eraan verslaafd.

De enige redding die we hebben is de natuur die we zelf zijn. Met ons lichaam zijn we verankerd in de echte wereld en daar kan geen computer tegenop. In deze echte wereld worden we overrompeld door de techniek. Je moet je vijand echter niet negeren maar leren begrijpen. We moeten begrijpen waarom we verslaafd raken. De Boeddha heeft dat al geleerd: het komt doordat we wat geen zelf heeft zien als zelf, doordat we datgene wat problemen brengt zien als de bron van geluk en doordat we wat vluchtig is zien als blijvend. Nu doen we dit ook al zonder de techniek, maar juist daar is het veel gemakkelijker te begrijpen. Als je alleen al een vaag begrip hebt van LLM’s of van hoe je mobieltje werkt kun je al zien dat hun aantrekkingskracht op bedrog berust. Je kunt ook duidelijk zien dat er iets is in jezelf dat bedrogen wil worden en dat je lichaam daar tegenin gaat. De techniek is met andere woorden een prachtige gelegenheid tot zelfonderzoek en tot de ontwikkeling van wijsheid en daar hebben we echte aandacht voor nodig.