Over intelligentie, bewustzijn en wie bepaalt wat wijsheid is
Kunstmatige intelligentie wordt steeds intelligenter. Ze kan redeneren, voorspellen en enorme hoeveelheden kennis combineren. Op veel van deze terreinen is ze ons al voorbij.
Maar betekent meer intelligentie ook meer wijsheid?
Dat is allerminst vanzelfsprekend.
Een AI kan straks misschien alles weten wat mensen ooit over wijsheid hebben geschreven. Ze kan de Boeddha, Spinoza, Lao Tse en moderne psychologen tegelijk raadplegen. Ze kan weten dat wraak vaak meer leed veroorzaakt, dat macht verblindt en dat mededogen soms verstandiger is dan vergelding.
Maar is dat wijsheid?
Wat wij wijsheid noemen, ligt bovendien minder vast dan we vaak denken. Wat een boer wijs noemt, kan iemand uit de stad ouderwets vinden. Wat in een boeddhistische traditie als wijs geldt, hoeft dat in een andere cultuur niet te zijn. Wijsheid ontstaat altijd ergens: in een levensvorm, een cultuur, een geschiedenis.
Dat betekent niet dat alles relatief is. In veel tradities keren vergelijkbare eigenschappen terug: niet te snel oordelen, oog hebben voor gevolgen, het eigen gelijk kunnen relativeren, rekening houden met anderen. Maar ook dan blijft de vraag welke eigenschappen het zwaarst wegen — en wie dat bepaalt.
Daar zit onvermijdelijk ook een politieke kant aan.
Voor je het weet wordt wijsheid iets wat hoger opgeleiden, bestuurders of deskundigen aan zichzelf toeschrijven. Zij beschikken over meer kennis en trekken daaruit soms de conclusie dat zij ook beter weten wat goed is voor anderen.
Maar deskundigheid is nog geen wijsheid.
Een verpleegkundige, boer of timmerman kan iets begrijpen wat in geen beleidsmodel voorkomt. Weten wanneer je níét moet ingrijpen kan soms wijzer zijn dan opnieuw bedenken hoe je moet ingrijpen.
Datzelfde probleem krijgen we bij AI.
Want als wij AI willen leren wat wijs handelen is, welke wijsheid leren we haar dan? Die van de mensen die de modellen bouwen? Die van de dominante cultuur? Die van politici, wetenschappers of bedrijven?
Misschien trainen we haar dan niet in wijsheid, maar in wat wij op dit moment voor wijsheid aanzien.
En dan is er nog een andere vraag.
Menselijke wijsheid lijkt vaak voort te komen uit ervaring: uit liefhebben, verliezen, fouten maken, afhankelijk zijn, ouder worden en ontdekken dat niet alles beheersbaar is. We worden wijzer doordat we grenzen tegenkomen. Doordat we merken dat onze kennis tekortschiet en dat andere mensen zich niet altijd voegen naar onze plannen.
Misschien is het daarom niet zozeer verlies dat wijsheid mogelijk maakt, maar kwetsbaarheid.
Een mens kan gekwetst worden, kan niet alles overzien, maakt onherroepelijke keuzes en weet dat zijn leven eindig is. Veel van wat wij wijsheid noemen, lijkt juist uit die begrensdheid voort te komen.
Maar is kwetsbaarheid werkelijk een voorwaarde voor wijsheid?
Of alleen voor menselijke wijsheid?
Daar moeten we voorzichtig zijn. Als we zeggen dat AI nooit wijs kan worden omdat zij niet liefheeft, lijdt of sterft zoals wij, maken we opnieuw de mens tot maatstaf van alle mogelijke wijsheid.
Of AI ooit werkelijk iets kan ervaren, weten we niet. We begrijpen nog onvoldoende wat bewustzijn is om daar definitieve grenzen aan te stellen.
Ook bij mensen ontstaat wijsheid bovendien niet altijd via redeneren. Soms weten we iets voordat we precies kunnen uitleggen waarom. Een inzicht kan zich aandienen, een samenhang kan ineens zichtbaar worden. We noemen dat intuïtie, ervaring of aanvoelen.
Wat daar precies gebeurt, begrijpen we evenmin volledig.
Misschien zal een toekomstige AI eveneens tot inzichten komen langs wegen die wij nauwelijks begrijpen. Misschien lijken die processen op de onze. Misschien helemaal niet.
Daarom is uiteindelijk niet alleen de vraag interessant of AI wijs kan worden.
De moeilijkere vraag is misschien:
zouden wij wijsheid herkennen wanneer zij niet meer op ónze wijsheid lijkt — en wie is dat ‘wij’ eigenlijk?
Siebe zegt
Ik denk dat mensen een rookdetector niet echt zien als een apparaat dat zoals wij de rook ruikt en meteen altijd wat gealarmeerd raken omdat rook gevaar kan betekenen. Maar zo’n apparaat kan wel de aanwezigheid van rook detecteren en een alarmsignaal doen afgaan. Dat er een belevingswereld is bij de rookdetector zullen niet veel mensen geloven. Ik denk terecht.
Er is denk ik wel een verschil tussen het vermogen iets te kunnen “detecteren en daaraan acties te koppelen” en te kunnen “waarnemen”.
Wat zijn nou de voorwaarden waaronder je kunt zeggen dat er sprake is van een belevingswereld? We weten aardig wat hierover, want als je ogen kapot gaan of visuele centra van het brein, dan eindigen visuele belevingen. Net zo voor andere aspecten van onze belevingswereld. We weten ook dat een stofje de hele belevingswereld kan eindigen. Eindigt dan ook het vermogen tot cognitie en informatieverwerking? Lijkt me niet. Op een diepere manier gaat dit door. Daarom kan bewustzijn niet hetzelfde zijn als geest volgens mij.
We weten dat voor visuele waarnemen ogen nodig zijn en een zenuwstelsel dat die visuele informatie kan ontvangen en verwerken. Net zo met horen, proeven, tactiel voelen, ruiken. Het lijkt me niet aannemelijk dat AI ooit echt zal proeven, zien, horen, voelen etc.
Alleen al dat er geen zenuwstelsel is en geen zintuigen zie ik niet als een kleinigheid want dat alles speelt toch nogal een cruciale rol bij waarnemen? Is dat niet overduidelijk?
Je moet eerst iets bewust ervaren of waarnemen voordat je er ook wijs mee kunt omgaan. Dat lijkt het het idee van MN43 als het gaat over bewustzijn en wijsheid.
Ik denk dat je best allerlei programmaregels kunt schrijven waardoor een auto zichzelf bestuurt maar dat het ziet, hoort, en een belevingswereld heeft, nee. Als er geen belevingswereld is, dan is er volgens mij ook geen sprake van dwaasheid of wijsheid.
Een open vraag: Waarom denken jullie dat een apparaat best een belevingswereld kan hebben?
Luuk Mur zegt
Siebe, je onderscheid tussen detecteren en werkelijk waarnemen vind ik belangrijk. Bij ons zijn zintuigen, hersenen en een zenuwstelsel onlosmakelijk verbonden met onze belevingswereld. Maar weten we daarmee ook dat dit de enige mogelijke voorwaarden voor bewustzijn zijn?
We begrijpen nog steeds niet goed wat bewustzijn ten diepste is en hoe het zich tot de fysieke werkelijkheid verhoudt. Daarom zou ik voorzichtig zijn met beide uitspraken: zowel dat AI ooit bewust zal worden als dat dit principieel onmogelijk is.
En precies die onzekerheid maakt voor mij de vraag of AI ooit werkelijk wijs kan zijn zo interessant.
Siebe zegt
Hoi Luuk,
Leuke kwestie. Ik hou dat ook open. Maar ik zie een machine, computer of AI systeem toch niet zo snel een belevingswereld ontwikkelen.
Waarom zou je bijvoorbeeld zelfs maar aannemen dat een zelfrijdende auto ziet, hoort, voelt zoals wij doen? Als ie ergens tegenaan botst voelt ie dat zoals wij tactiele sensaties hebben. Lijkt me niet.
Ja, er wordt van alles gedetecteerd bij een zelfrijdende auto maar waargenomen?
Als dat ding wel kan waarnemen is het crimineel om een auto te ontmantelen en slopen. Met AI net zo.
Als dat voelende en dus echt waarnemende systemen worden kunnen ze dan ook pijn voelen? Het lijkt me allemaal wel erg ver gaan. Moet je dan een robot ook pijnstillers geven?
Ik denk trouwens zelf dat geest in essentie ook het vermogen tot ontvangen en detecteren is. De meest basale functie, zeg maar, nog een fase voor informatie wordt verwerkt en gewaarwordingen ontstaan.
Maar ook die detectie is geen gewaarwording (vinnana). Het is meer iets als de fundamentele receptiviteit van geest. Ik zie dat op dit moment als een vereiste, wil er sprake zijn van een waarnemend en voelend systeem.