Over intelligentie, wijsheid en controle
We stellen ons kunstmatige intelligentie graag voor als een instrument. Wij bouwen haar, geven haar opdrachten en bepalen wat zij wel en niet mag doen.
Maar AI-systemen worden steeds zelfstandiger. Ze beantwoorden niet alleen vragen, maar kunnen ook plannen maken, strategieën ontwikkelen en handelingen uitvoeren. Onderzoekers als Geoffrey Hinton waarschuwen dat kunstmatige intelligentie de mens op veel terreinen kan overtreffen: niet alleen in rekenkracht, maar ook in redeneren, voorspellen en overtuigen.
Dan ontstaat een ongemakkelijke vraag: waarom zou een intelligentie die ons ver overtreft, naar ons blijven luisteren?
Het gebruikelijke antwoord luidt dat de mens de controle moet behouden. Maar wie is die mens?
Is dat de programmeur, het technologiebedrijf, de regering of de militaire organisatie die AI inzet? Er bestaat geen gezamenlijke menselijke wil. AI wordt ontwikkeld in een wereld van wetenschappelijke idealen, commerciële belangen, politieke macht en onderlinge strijd.
Wanneer we zeggen dat AI menselijke waarden moet volgen, dringt zich daarom een tweede vraag op: welke waarden?
Wij spreken over vrede en ontwikkelen tegelijk steeds geavanceerdere wapens. We erkennen dat de aarde kwetsbaar is, terwijl onze economie afhankelijk blijft van groei en uitputting. We zeggen dat mensen gelijkwaardig zijn, maar aanvaarden enorme verschillen in rijkdom, kansen en veiligheid.
Een zeer intelligente machine die onze opdrachten perfect uitvoert, hoeft dus nog niet bij te dragen aan een betere wereld.
De roep om controle is begrijpelijk. Krachtige AI-systemen vragen om wetten, grenzen en toezicht. Het zou onverantwoord zijn ze zonder beperkingen te ontwikkelen. Dat de mens zelf geen volmaakte bewaker is, ontslaat hem niet van die verantwoordelijkheid.
Maar controle is nog geen wijsheid.
Ook mensen die over grote kennis en macht beschikken, kunnen handelen vanuit angst, hebzucht en eerzucht. Daarom is niet alleen de vraag hoe wij AI onder controle houden. Minstens zo belangrijk is de vraag vanwaaruit wij dat willen doen.
Gaat het werkelijk om zorg voor mens en aarde? Of raakt die zorg ongemerkt vermengd met onze angst om de controle en onze bevoorrechte positie te verliezen?
Daar raakt de discussie over AI aan een diepere menselijke neiging. We willen beheersen wat ons onzeker maakt. We proberen onze positie veilig te stellen voordat iets anders sterker wordt dan wij.
Juist onze omgang met macht maakt de mens echter tot een twijfelachtige bewaker van superintelligentie. Wij beschikken al over enorme kennis en technische mogelijkheden, zonder dat we daarmee oorlog, uitbuiting en ecologische vernietiging hebben voorkomen.
Intelligentie is immers niet hetzelfde als wijsheid. Dat geldt voor machines, maar ook voor mensen.
Intelligentie kan problemen oplossen en doelen bereiken. Maar zij stelt niet vanzelf de vraag of die doelen het leven dienen. Zij kan worden ingezet om ziekten te bestrijden, maar ook om mensen te beïnvloeden, te controleren en vernietiging efficiënter te organiseren.
Intelligentie vraagt: hoe bereiken we ons doel?
Wijsheid vraagt: is dit doel het nastreven waard?
Wijsheid vraagt aandacht voor gevolgen, terughoudendheid en het vermogen van een doel af te zien wanneer het te veel schade veroorzaakt. Zij is verbonden met compassie: het besef dat het lijden van anderen niet losstaat van ons eigen bestaan.
Daarin ligt ook de boeddhistische betekenis van deze ontwikkeling. Niet in de gedachte dat technologie slecht is, maar in het onderzoek naar onze gehechtheid aan macht en controle.
AI houdt ons een spiegel voor. Zij laat zien welke vormen van intelligentie wij het hoogst waarderen: snelheid, efficiëntie, voorspelling en beheersing. Maar waar blijven aandacht, morele moed en het vermogen om werkelijk te luisteren?
De belangrijkste vraag is daarom niet alleen of AI naar ons blijft luisteren.
De vraag is ook of de mens, zolang hij de macht heeft, in staat is te luisteren naar het lijden dat hij veroorzaakt, naar de grenzen van de aarde en naar wat het leven van hem vraagt.
Geef een reactie