In dit artikel reflecteert de auteur op de relatie tussen Large Language Models (LLM's) en het concept van zelfreferentialiteit. Waar theoretici zoals Douglas Hofstadter (Gödel, Escher, Bach) en Roger Penrose stelden dat 'vreemde lussen' en zelfreferentie cruciaal zijn voor intelligentie, laat de realiteit van moderne AI zien dat dit niet het geval is.
De belangrijkste punten zijn:
- Emergentie: Zelfreferentieel vermogen is bij LLM's geen resultaat van bewuste engineering, maar een bijproduct van universaliteit en uitgebreide pretraining.
- Intelligentie als compressie: De auteur stelt dat intelligentie primair draait om voorspelling en compressie (gekoppeld aan Kolmogorov-complexiteit), in plaats van om zelfreferentiële structuren.
- Bewustzijn: Hoewel conversationele intelligentie is bereikt zonder expliciete zelfreferentie, blijft de vraag of bewustzijn en subjectieve ervaring wel afhankelijk zijn van dergelijke mechanismen of exotische fysica openstaan.
LLMs en zelfreferentialiteit
Een centrale these die veel lezers, ikzelf inbegrepen, als jongere hebben meegenomen uit Gödel, Escher, Bach van Douglas Hofstadter, was dat het geheim van intelligentie (en dus van AI) veel te maken zou hebben met zelfreferentialiteit en "vreemde lussen" (strange loops).
Zelfs Roger Penrose's The Emperor’s New Mind, dat in sommige opzichten het tegenovergestelde van GEB was, stemde ironisch genoeg met GEB overeen over het fundamentele belang van zelfreferentie voor het succes of falen van het gehele AI-project. Penrose beweerde (naar mijn mening en die van de meeste experts onjuist) dat AI nooit zou kunnen werken omdat er iets was aan de stelling van Gödel en zelfreferentie dat geen enkel computerprogramma ooit zou kunnen vatten, maar dat wel gevangen zou kunnen worden door exotische fysica die toegankelijk is voor het menselijk brein.
De realiteit van AI in 2026
Nu, in 2026, zijn we erin geslaagd om AI's te bouwen die de meeste mensen overtreffen in de meeste intellectuele taken die gedefinieerd genoeg zijn om te beoordelen. En op geen enkel punt in de technologische stack van die AI's — noch in de transformer-neurale netwerken, noch in de GPU-clusters waarop ze draaien, noch in het trainingsproces, noch ergens anders — hoefde iemand iets in te bouwen over zelfreferentie. (Met uitzondering van bijvoorbeeld de systeeminstructies die het model informeren over zijn rol en identiteit, maar die niet nodig zijn voor intelligent gedrag. Ook zal ik de autoregressieve aard van LLM's niet tellen als "zelfreferentieel"; dat is simpelweg dynamische feedback.)
Natuurlijk kunnen GPT 5.6 Pro en Fable over zichzelf praten, over de stelling van Gödel, over zelfreferentie en over waar we het nu over hebben, en dat allemaal beter dan de meeste mensen. Maar op geen enkel punt hoefde iemand zelfreferentiële vermogens in te bouwen. Ze kwamen naar voren als een bijproduct van dezelfde pretraining die de modellen in staat stelde om te praten over Pokémon, lange-ketenpolymeren, cognitieve gedragstherapie, platentektoniek en alles daarbuiten.
Het is dan ook niet vreemd dat Hofstadter zegt verbijsterd te zijn door het succes van LLM's, en dat hij in essays verslagen lijkt over de huidige AI-mogelijkheden. Hij is veel te slim om te ontkennen wat er is gebeurd of om redenen te verzinnen waarom het niet echt telt (de aanpak die velen hebben gekozen). Maar hij beseft dat we nu beschikken over echte conversationele intelligentie via een pad dat het GEB-wereldbeeld als veel te goedkoop en simpel zou hebben beschouwd, en waar zeker geen "vreemde lussen" in zijn ingebouwd.
Emergentie versus engineering
Natuurlijk zou een aanhanger van Hofstadter kunnen aanvoeren dat er een vreemde lus ontstaat in LLM's — inderdaad, niets in GEB zei ooit dat vreemde lussen vanaf het begin expliciet engineered zouden moeten worden. Maar zou iemand die niet is opgegroeid met GEB dit als een nuttige manier van denken over LLM's beschouwen?
Wat kunnen we hier met terugwerkende kracht over zeggen? Hoewel de ideeën van diagonalisatie en zelfreferentie uiteraard een centrale rol speelden bij de geboorte van de moderne mathematische logica en computerwetenschap, waren de beroemdste toepassingen negatief:
- Er is geen bijectie tussen de natuurlijke getallen en de reële getallen.
- Er is geen compleet en correct bewijssysteem voor rekenkunde.
- Er is geen algoritme om het stopprobleem (halting problem) op te lossen.
Als je doel enkel was om de axioma's van ZFC en de regels van eerste-orde inferentie te bouwen, of om een elektronische computer te bouwen, zou je daarvoor geen expliciete zelfreferentie nodig hebben. Je zou gewoon... beginnen met bouwen, waarbij je erop let dat je instructieset niet tekortschoot in universaliteit.
Ja, ZFC kan stellingen over zichzelf formaliseren en bewijzen. Ja, elektronische computers kunnen programma's draaien die hun eigen code als input gebruiken. Maar niemand hoefde die vermogens ooit in te bouwen, net zoals zelfreferentie niet ingebouwd hoefde te worden in het alfabet of de grammaticaregels. Het ontstond als een gratis bijproduct van universaliteit.
Intelligentie als compressie
Op dezelfde manier ontstond het vermogen van LLM's om over zichzelf te praten als een bijproduct van hun vermogen om over alles te praten in het discoursuniversum waarop ze zijn getraind. De grote, oude ideeën over intelligentie die in feite zijn bevestigd, waren de ideeën dat intelligentie draait om voorspelling, voorspelling draait om compressie, en compressie draait om het vinden van steeds betere bovengrenzen voor de Kolmogorov-complexiteit. Niet de zelfreferentie-zaken. (Hoewel, als je wilt weten waarom Kolmogorov-complexiteit niet perfect berekend kan worden, zou die negatieve bewering opnieuw een zelfreferentieel argument vereisen.)
Wat blijft er over? Bewustzijn en subjectieve ervaring blijven natuurlijk uiterst mysterieus. Voor zover we weten, zou Hofstadter gelijk kunnen hebben dat deze zaken iets te maken hebben met zelfreferentie. (En voor zover we weten, zou zelfs Penrose gelijk kunnen hebben dat ze te maken hebben met exotische fysica die toegankelijk is voor biologische hersenen, maar niet voor digitale computers!)
Maar het idee dat je expliciete zelfreferentialiteit nodig zou hebben voordat je overtuigende en wereldveranderende conversationele intelligentie zou kunnen krijgen? Laat dat begraven worden in Westminster Abbey of Arlington National Cemetery, samen met de belangrijkste onjuiste ideeën uit de menselijke geschiedenis — geocentrisme, de teleologische fysica van Aristoteles, ether, phlogiston, de psychologie van Freud, Marx' voorspelling van een opstand van de arbeiders gevolgd door een klasseloze utopie, etc. Maar begraven moet het worden.
LLMs en zelfreferentialiteit
Een centrale these die veel lezers, ikzelf inbegrepen, als jongere hebben meegenomen uit Gödel, Escher, Bach van Douglas Hofstadter, was dat het geheim van intelligentie (en dus van AI) veel te maken zou hebben met zelfreferentialiteit en "vreemde lussen" (strange loops).
Zelfs Roger Penrose's The Emperor’s New Mind, dat in sommige opzichten het tegenovergestelde van GEB was, stemde ironisch genoeg met GEB overeen over het fundamentele belang van zelfreferentie voor het succes of falen van het gehele AI-project. Penrose beweerde (naar mijn mening en die van de meeste experts onjuist) dat AI nooit zou kunnen werken omdat er iets was aan de stelling van Gödel en zelfreferentie dat geen enkel computerprogramma ooit zou kunnen vatten, maar dat wel gevangen zou kunnen worden door exotische fysica die toegankelijk is voor het menselijk brein.
De realiteit van AI in 2026
Nu, in 2026, zijn we erin geslaagd om AI's te bouwen die de meeste mensen overtreffen in de meeste intellectuele taken die gedefinieerd genoeg zijn om te beoordelen. En op geen enkel punt in de technologische stack van die AI's — noch in de transformer-neurale netwerken, noch in de GPU-clusters waarop ze draaien, noch in het trainingsproces, noch ergens anders — hoefde iemand iets in te bouwen over zelfreferentie. (Met uitzondering van bijvoorbeeld de systeeminstructies die het model informeren over zijn rol en identiteit, maar die niet nodig zijn voor intelligent gedrag. Ook zal ik de autoregressieve aard van LLM's niet tellen als "zelfreferentieel"; dat is simpelweg dynamische feedback.)
Natuurlijk kunnen GPT 5.6 Pro en Fable over zichzelf praten, over de stelling van Gödel, over zelfreferentie en over waar we het nu over hebben, en dat allemaal beter dan de meeste mensen. Maar op geen enkel punt hoefde iemand zelfreferentiële vermogens in te bouwen. Ze kwamen naar voren als een bijproduct van dezelfde pretraining die de modellen in staat stelde om te praten over Pokémon, lange-ketenpolymeren, cognitieve gedragstherapie, platentektoniek en alles daarbuiten.
Het is dan ook niet vreemd dat Hofstadter zegt verbijsterd te zijn door het succes van LLM's, en dat hij in essays verslagen lijkt over de huidige AI-mogelijkheden. Hij is veel te slim om te ontkennen wat er is gebeurd of om redenen te verzinnen waarom het niet echt telt (de aanpak die velen hebben gekozen). Maar hij beseft dat we nu beschikken over echte conversationele intelligentie via een pad dat het GEB-wereldbeeld als veel te goedkoop en simpel zou hebben beschouwd, en waar zeker geen "vreemde lussen" in zijn ingebouwd.
Emergentie versus engineering
Natuurlijk zou een aanhanger van Hofstadter kunnen aanvoeren dat er een vreemde lus ontstaat in LLM's — inderdaad, niets in GEB zei ooit dat vreemde lussen vanaf het begin expliciet engineered zouden moeten worden. Maar zou iemand die niet is opgegroeid met GEB dit als een nuttige manier van denken over LLM's beschouwen?
Wat kunnen we hier met terugwerkende kracht over zeggen? Hoewel de ideeën van diagonalisatie en zelfreferentie uiteraard een centrale rol speelden bij de geboorte van de moderne mathematische logica en computerwetenschap, waren de beroemdste toepassingen negatief:
- Er is geen bijectie tussen de natuurlijke getallen en de reële getallen.
- Er is geen compleet en correct bewijssysteem voor rekenkunde.
- Er is geen algoritme om het stopprobleem (halting problem) op te lossen.
Als je doel enkel was om de axioma's van ZFC en de regels van eerste-orde inferentie te bouwen, of om een elektronische computer te bouwen, zou je daarvoor geen expliciete zelfreferentie nodig hebben. Je zou gewoon... beginnen met bouwen, waarbij je erop let dat je instructieset niet tekortschoot in universaliteit.
Ja, ZFC kan stellingen over zichzelf formaliseren en bewijzen. Ja, elektronische computers kunnen programma's draaien die hun eigen code als input gebruiken. Maar niemand hoefde die vermogens ooit in te bouwen, net zoals zelfreferentie niet ingebouwd hoefde te worden in het alfabet of de grammaticaregels. Het ontstond als een gratis bijproduct van universaliteit.
Intelligentie als compressie
Op dezelfde manier ontstond het vermogen van LLM's om over zichzelf te praten als een bijproduct van hun vermogen om over alles te praten in het discoursuniversum waarop ze zijn getraind. De grote, oude ideeën over intelligentie die in feite zijn bevestigd, waren de ideeën dat intelligentie draait om voorspelling, voorspelling draait om compressie, en compressie draait om het vinden van steeds betere bovengrenzen voor de Kolmogorov-complexiteit. Niet de zelfreferentie-zaken. (Hoewel, als je wilt weten waarom Kolmogorov-complexiteit niet perfect berekend kan worden, zou die negatieve bewering opnieuw een zelfreferentieel argument vereisen.)
Wat blijft er over? Bewustzijn en subjectieve ervaring blijven natuurlijk uiterst mysterieus. Voor zover we weten, zou Hofstadter gelijk kunnen hebben dat deze zaken iets te maken hebben met zelfreferentie. (En voor zover we weten, zou zelfs Penrose gelijk kunnen hebben dat ze te maken hebben met exotische fysica die toegankelijk is voor biologische hersenen, maar niet voor digitale computers!)
Maar het idee dat je expliciete zelfreferentialiteit nodig zou hebben voordat je overtuigende en wereldveranderende conversationele intelligentie zou kunnen krijgen? Laat dat begraven worden in Westminster Abbey of Arlington National Cemetery, samen met de belangrijkste onjuiste ideeën uit de menselijke geschiedenis — geocentrisme, de teleologische fysica van Aristoteles, ether, phlogiston, de psychologie van Freud, Marx' voorspelling van een opstand van de arbeiders gevolgd door een klasseloze utopie, etc. Maar begraven moet het worden.
Groetjes,