Het bedrieglijke genius: wat René Descartes ons over AI te vertellen heeft

Beeld je even in dat er een overheersende kracht in de wereld bestaat die er alles aan doet om je te bedriegen zodat je nooit zeker bent van je kennis, hoe kunnen we dan ooit de waarheid kennen? Die vraag ligt aan de basis van een gedachte-experiment over le mauvais génie (het bedrieglijke genius) van René Descartes in zijn boek Méditations Métaphysiques (1641). Zijn vraag is actueler dan ooit tevoren en is de ideale opstap om na te denken over hoe we met AI kunnen omgaan.

Voor Descartes was zijn experiment een cruciale fase in een redenering die hem uiteindelijk zou brengen tot de beroemdste oneliner uit de geschiedenis van de filosofie: ik denk dus ik besta. Descartes redeneerde dat zelfs als er een almachtige boze geest zou bestaan die hem de hele tijd zou bedriegen waardoor hij twijfelt of zijn kennis wel klopt, hij zelf wel moet bestaan om bedrogen te kunnen worden. De handeling van het twijfelen bewijst het bestaan van de denker. Vandaar zijn uitspraak: ik twijfel, dus ik denk, dus ik besta. 

Wat kan dit experiment ons leren over GEN AI? (ik beperk me hier even tot GEN AI omdat daar de meeste verwarring over bestaat en vooral dit door de meesten wordt gebruikt). 

Welnu, van alle schitterende eigenschappen die GEN AI heeft, staat het cultiveren van twijfel niet hoog op de lijst. GEN AI draait wat wij vragen: geef me dit, doe dat, zoek dit op voor mij, schrijf een paper. Niet alleen beantwoordt GEN AI al mijn vragen; bij elke vraag krijg ik gratis de felicitaties van de jury erbij: ‘uitstekende vraag’ of ‘prima inzicht’. Zelfs mijn domste vragen worden op applaus onthaald.

Dat is goed voor mijn ijdelheid maar slecht voor mijn denkvermogen en creativiteit. We allemaal zullen bij GEN AI niets nieuws lezen want het leeft van de data die wij op het net hebben geplaatst. Hoogstens zullen we door de combinatie van data tot andere inzichten komen. Dus herhaalt AI ook onze fouten en in zekere zin is AI daarom ook altijd een beetje AD: artificiële domheid. 

Dom zijn we natuurlijk allemaal in die zin dat we het, ondanks onze kennis, nooit helemaal juist weten en dus altijd ook onwillekeurig een beetje liegen. Daarom moeten we blijven studeren en de foutenmarge – onze domheid – tot een minimum beperken. Is dat geen mooie missie voor onze universiteit: iedereen student. Van daaruit is en blijft de universiteit een interessante vrijplaats: hier mogen we kennis uitwisselen, elkaar wijzen op wat we niet weten én op de fouten die we maken. Wetenschapper zijn, student zijn dus, leeft van de vaststelling dat de kloof tussen wat we weten en wat er te weten valt, nooit volledig te dichten valt. Uiteraard is de opgave om die kloof zo klein mogelijk te houden. 

De Argentijnse schrijver Jorge Luis Borges schreef daarover een fantastisch boek met als titel De Aleph. Daarin ontdekt iemand in een kelder in Buenos Aires een mysterieus punt – dat punt heet de Aleph – van waaruit je het hele universum tegelijk zou kunnen zien. Wie op dat punt staat, zou elke plaats, elk moment, elk detail en zonder tijdsverloop tegelijk kunnen zien. Borges omschreef dat als een ‘Archimedisch’ punt, een plaats van waaruit je van buitenaf de hele wereld zou kunnen kennen. Die metafoor is gebaseerd op het werk van Archimedes van Syracuse, het wiskundig genie uit de Griekse Oudheid. 

Zowel Borges als Descartes leggen ons een interessante vraag voor: hoe verwerven wij kennis? Die vraag belangt ons vandaag allemaal aan. Terwijl doorheen de geschiedenis de vraag luidde ‘hoe raak ik aan informatie?’ is vandaag de uitdaging ‘hoe raak ik er doorheen?’. Er bestaat immers zoveel dat het bijna onvermijdelijk is geworden om hierbij technologie in te schakelen. 

Die technologie is op enkele decennia tijd spectaculair veranderd. Tot aan de eeuwwisseling kon je bij de inkomhal van onze boekentoren grote fichebakken consulteren om een bron op te zoeken. Daarna moest je uiterlijk om 15u40 naar de balie stappen met een ingevuld formulier van het boek dat je wou lezen. Later ging niet meer want de heren in bruine stofjassen moesten dat boek nog ophalen van de zoveelste verdieping van de toren en die wilden het risico niet lopen dat ze mogelijk 1 minuut langer dan 16u aan het werk zouden zijn. Ik spreek dus over een kwarteeuw terug, niet de late renaissance.

Vandaag werkt het gelukkig anders maar net omdat het zo makkelijk gaat is het ook moeilijker geworden. We worstelen allemaal met de volgende vraag: wat is betrouwbare kennis en wat niet? En ook: wat kan technologie van ons overnemen en wat moeten we zelf blijven doen? Zeker voor wetenschappers is die vraag cruciaal. Wetenschap leeft van twijfel en onzekerheid, van interpretatie en voorlopigheid. 

Dat is meteen de eerste les van Descartes: wees nooit zonder meer zeker van je stelling. Gen AI zet ons niet aan tot reflectie daarover. Het is een soort kenniscloaca. Zoals kunstenaar Wim Delvoye ooit een echte cloaca maakte, een machine die fecaliën kan produceren, zo lijdt Gen AI – als u mij deze scatologische metafoor toestaat – aan een niet te stuiten kennisdiarree. Die kennis bevat veel fouten en tekortkomingen maar Gen AI heeft tot vandaag niet echt geleerd om af en toe een halt hieraan toe te roepen. In die zin is Gen AI heel duidelijk een machine: het stelt geen vragen aan zichzelf, het leeft van de vragen die wij eraan stellen en het trekt zich geen moer aan van de kwestie of wij onszelf daarna nog vragen stellen.

Dat brengt mij bij de tweede les van Descartes: AI geeft een antwoord op onze vragen maar het bevraagt zichzelf niet, het is geen twijfelend wezen, het luistert niet naar wat er tussen of achter onze vraag verscholen zit. Wij hebben minstens het potentieel in zich om dat wel te doen. 

Tegelijk lijkt Gen AI verdacht veel op mensen: het liegt dat het kraakt. Bovenop de niet-intentionele domheid waarvan zowel wij als AI last hebben, is AI behoorlijk goed bedreven in het doelbewust fabuleren of hallucineren – het verzinnen van niet-bestaande zaken. Nog meer dan mensen – wij liegen ook behoorlijk veel om de meest uiteenlopende redenen – is de kenniscloaca zeer bedreven in het verzinnen van niet-bestaande kennis of het legt het verbanden tussen zaken die niets met elkaar te maken hebben. Dat komt natuurlijk deels doordat wij sluitende antwoorden eisen van Gen AI.

Fabuleren of hallucineren is niet het privilege van Gen AI maar het is er wel goed in en het heeft vooral geen last van zichzelf. AI heeft alle eigenschappen van het bedrieglijke genius van Descartes. Als mensen liegen en ze hebben een minimum aan geweten ontwikkeld, voelen ze zich daar altijd wat ongemakkelijk bij. Gen AI kent geen schaamte- of schuldgevoel, het heeft geen besef van z’n eigen tekort. Mensen daarentegen hebben doorgaans wel last van hun tekortkomingen.

Dat brengt mij terug bij de wetenschap, die sector van de samenleving die veel last heeft van zichzelf en dat is maar goed ook. Wetenschappers kunnen immers niet zomaar iets beweren. Alles wat ze aannemen, moet door anderen te controleren zijn, zowel qua resultaat als proces. Dat is niet evident maar het perkt de leugens wel in, net zoals de jongen die je hier op de slide ziet.

AI kan ons helpen de leugens in te perken. Tegelijk moeten we AI geen hogere autoriteit toekennen dan het woord van onze medemensen. We mogen onze twijfel niet uitschakelen of teruggaan naar wat in scholastieke handboeken tijdens de middeleeuwen gebruikelijk was met de formule ‘auctoritas est’: door te verwijzen naar een grote naam zoals Aristoteles, zei men in feite: wat hierna volgt, klopt omdat Aristoteles het heeft gezegd.

Vaak gebruiken wij Gen AI nochtans op die manier en dat is wat mij betreft de grote valkuil waarin we vandaag lopen: we zijn kritisch voor onze medemensen maar we leggen ons lot in handen van een nog te ontwikkelen technologie. Daarmee ben ik aangekomen bij de derde en laatste les van Descartes: zekerheid kan er maar kan komen door en nadat je eerst zeer hard hebt getwijfeld aan wat je denkt dat juist is. Daarom moeten we niet alleen over de wereld nadenken maar ook over de plaats van waaruit we dat doen. Een vraag stellen aan de wereld vooronderstelt altijd ook een vraag stellen aan jezelf. Zeker wetenschappers moeten die twijfel of onzekerheid centraal blijven stellen in wat ze doen. Als het fout loopt, moeten wij verantwoordelijk blijven. Als de kennis onvolledig is – en zal dat niet altijd zo zijn? – moeten wij aan zet blijven; en daarna weer verder gaan. 

Anders gezegd: net omdat AI zo menselijk is, moeten we het niet meer vertrouwen dan onszelf.