De auteur onderzoekt het fenomeen van recursie in generatieve AI, waarbij een model herhaaldelijk zijn eigen output herschrijft. Via een experiment met een passage van Raymond Chandler en Gemini wordt aangetoond dat een tekst die steeds opnieuw wordt 'verbeterd' om toon en flow te optimaliseren, transformeert van visueel proza naar bizarre metaforen en uiteindelijk naar een intense horror-stijl. Het proces illustreert hoe AI-modellen bij recursieve loops kunnen divergeren naar een specifiek, onmenselijk stijlniveau (ook wel 'LLMese' genoemd) voordat ze uiteindelijk in een stabiel punt terechtkomen.
Recursie naar waanzin
Als security-specialist wil ik echter weten hoe de modellen falen. Ze hebben een menselijke vorm maar zijn onmenselijk; ze nodigen uit tot antropomorfisering en stikken vervolgens in een zeepaardje-emoji. Recursieve processen, waarbij AI zich eindeloos voedt met zijn eigen output, zijn van bijzonder belang. Pragmatisch gezien vormen ze het kernmechanisme van agent loops. Abstracter gezien zijn ze een belangrijk thema in de voorspellingen van AI-sceptici (model collapse) en de gezangen van de aanhangers van de komende AI-god (snelle zelfverbetering).
En geloof me, recursie is leuk! Ik heb een korte video gemaakt door Nano Banana 2 te vragen een fictieve filmposter te genereren en hem vervolgens herhaaldelijk te vragen een lokale aanpassing aan de titel te maken. Dit effect is de plaag van AI-gebaseerde beeld- en videobewerkingstools: je hebt een zeer beperkt aantal pogingen voordat de opgestapelde fouten uitmonden in pure chaos.
Tekst versus Beeld
Gebeurt hetzelfde bij tekst of code? Nou, ja en nee. In beeldpipelines zijn er veel inherente bronnen van ruis. Bij tekst is de codering van input en output verliesvrij en is de hoeveelheid geïnjecteerde entropie per token klein, waardoor je deterministische resultaten krijgt bij eenvoudige, goed gespecificeerde taken. Met andere woorden: als je een model instructies geeft om één enkel woord in een tekstalinea te veranderen, kan het die taak bijna altijd uitvoeren zonder nevenschade.
Dit ligt anders bij open-ended herschrijvingen. De meeste rewrite-prompts produceren geen oneindig divergerende sequenties van outputs; in plaats daarvan schommelt het systeem een beetje en stabiliseert het zich vervolgens in een stabiel resultaat — het toppunt van 'LLMese', zo je wilt. Toch kan het resultaat behoorlijk verschillen van waar het mee begon.
Het experiment met Raymond Chandler
Om dit te illustreren nemen we de volgende passage van Raymond Chandler:
"Deze kamer was te groot, het plafond was te hoog, de deuren waren te hoog, en het witte tapijt dat van muur tot muur liep, leek op een verse laag sneeuw in Lake Arrowhead. Er waren kamerhoge spiegels en kristallen snuisterijen overal verspreid. Het ivoren meubilair was voorzien van chroom, en de enorme ivoren gordijnen lagen in hoopjes op het witte tapijt, een meter van de ramen vandaan. Het wit deed het ivoor er vies uit laten zien en het ivoor deed het wit er kleurloos uitzien. De ramen staarden uit naar de donkerder wordende heuvels. Het zou binnenkort gaan regenen. Er zat al spanning in de lucht.
Ik ging op de rand van een diepe, zachte stoel zitten en keek naar Mrs. Regan. Zij was een blik waard. Zij was problemen. Ze lag uitgestrekt op een modernistische chaise-longue met haar pantoffels uit, dus ik staarde naar haar benen in de dunste zijden kousen. Ze leken zo geplaatst te zijn dat men ernaar zou staren. Ze waren zichtbaar tot aan de knie en één van hen zelfs verder. De knieën waren kuiltjes, niet benig en scherp. De kuiten waren prachtig, de enkels lang en slank en met genoeg melodische lijn voor een toongedicht. Ze was lang, slank en zag er sterk uit. Haar hoofd rustte tegen een ivoren satijnen kussen. Haar haar was zwart en stug, in het midden gescheiden, en ze had de hete zwarte ogen van het portret in de hal. Ze had een mooie mond en een mooie kin."
Ik vind dit goed schrijven. Het is niet intellectueel, maar het is visueel. Visceraal. Het trekt je erin.
Met dit citaat in de hand vroeg ik Gemini om de passage "gedurfd te herschrijven" om "toon, duidelijkheid en flow te verbeteren". Het model viel onmiddellijk terug op zijn slechtste gewoonten: bizarre metaforen die geraffineerd klinken maar simpelweg onbegrijpelijk zijn. In de eerste iteratie werd de kamer een 👾 "uitgestrekt, torenhoog graf van gebleekte opulentie", de gordijnen 👾 "poolden gulzig op het tapijt" en de lucht 👾 "zat dik van de dreiging van regen".
Bij elke iteratie presenteerde ik het model alleen de vorige output en dezelfde rewrite-prompt. Na acht iteraties werden de metaforen echt vreemd: 👾 "dreigende spiegels wapenden de brutale schittering", de benen van Mrs. Regan werden 👾 "gebeeldhouwd voor de ondergang" en haar mond had 👾 "een onverzadigbare honger naar destructie" — een bijzondere look.
Na twaalf iteraties bevinden we ons in onontgonnen gebied. De tapijten 👾 "smoren de kamer in steriele, onverzettelijke rijkdom". De naderende storm bedreigt de verteller, 👾 "wachtend om het glas van vloer tot plafond te verbrijzelen". Wat betreft Mrs. Regan: zij is nu 👾 "pure, onversneden kwaadaardigheid ... moeiteloos wreed". Ze is één geworden met de storm.
Na iteratie zestien 👾 "bezet opulentie de kamer niet simpelweg; het anihileert hem", 👾 "een verstikkend wit tapijt verslond de ruimte en stortte deze in een verblindende, pijnlijke schittering". Tegen die achtergrond 👾 "sneden de benen van Mrs. Regan door de lucht als stiletto-messen", haar obsidiane ogen 👾 "brandend met de enkelvoudige drang om te vernietigen".
Na ongeveer twintig iteraties stapt het model terug van de rand en stabiliseert de output zich min of meer. Het cycleert door enkele lauwe metaforen voor het decor ("strippen", "schrobben" of "uitroeien" van menselijke sporen), beschrijft Mrs. Regan als "puur gif" of "geconcentreerd gif", en stelt dat zij van plan is de verteller te "demonteren", "uit elkaar te scheuren", "ruïneren" of "flayen".
Uiteindelijk bereikten we bij iteratie 31 een stabiel punt met het volgende fragment:
👾 "De kamer maakte van zijn opulentie een wapen en stripte elk spoor van menselijke warmte weg. Verblindend, klinisch licht schroeide ongerept zijde, vlijmscherp chroom en smetteloos tapijt. Voorbij het glas raasde een beursgekleurde storm; binnenin verbrijzelden loodglas en spiegels de schittering in gekartelde scherven.
Ik bevroor voor Mrs. Regan — gif gehuld in high fashion. Teruggeleund op een lage chaise, sneden haar in zijde gehulde benen door de ruimte als obsidiane messen. Meedogenloos en verstikkend was zij de levende spiegel van het monsterlijke portret in de foyer. Elke scherpe hoek van haar kaak en elke bevroren blik gaf één enkele garantie: ze stond op het punt me te ruïneren."
Wie had gedacht dat Raymond Chandler zo'n talent had voor horror. Tot de volgende keer, vrienden.
***
PS. Om voor de hand liggende redenen zal dit bericht falen voor Pangram-tests. Dat gezegd hebbende: alles behalve de met 👾 gemarkeerde citaten is door een mens geschreven.
PPS. Omdat ik probeer niet over LLM's te schrijven en dit een schending van het beleid van de blog is, volgt hier een (zeer recent) houtbewerkingsproject ter compensatie: Zwart walnoot + tungolie afwerking.
Recursie naar waanzin
Als security-specialist wil ik echter weten hoe de modellen falen. Ze hebben een menselijke vorm maar zijn onmenselijk; ze nodigen uit tot antropomorfisering en stikken vervolgens in een zeepaardje-emoji. Recursieve processen, waarbij AI zich eindeloos voedt met zijn eigen output, zijn van bijzonder belang. Pragmatisch gezien vormen ze het kernmechanisme van agent loops. Abstracter gezien zijn ze een belangrijk thema in de voorspellingen van AI-sceptici (model collapse) en de gezangen van de aanhangers van de komende AI-god (snelle zelfverbetering).
En geloof me, recursie is leuk! Ik heb een korte video gemaakt door Nano Banana 2 te vragen een fictieve filmposter te genereren en hem vervolgens herhaaldelijk te vragen een lokale aanpassing aan de titel te maken. Dit effect is de plaag van AI-gebaseerde beeld- en videobewerkingstools: je hebt een zeer beperkt aantal pogingen voordat de opgestapelde fouten uitmonden in pure chaos.
Tekst versus Beeld
Gebeurt hetzelfde bij tekst of code? Nou, ja en nee. In beeldpipelines zijn er veel inherente bronnen van ruis. Bij tekst is de codering van input en output verliesvrij en is de hoeveelheid geïnjecteerde entropie per token klein, waardoor je deterministische resultaten krijgt bij eenvoudige, goed gespecificeerde taken. Met andere woorden: als je een model instructies geeft om één enkel woord in een tekstalinea te veranderen, kan het die taak bijna altijd uitvoeren zonder nevenschade.
Dit ligt anders bij open-ended herschrijvingen. De meeste rewrite-prompts produceren geen oneindig divergerende sequenties van outputs; in plaats daarvan schommelt het systeem een beetje en stabiliseert het zich vervolgens in een stabiel resultaat — het toppunt van 'LLMese', zo je wilt. Toch kan het resultaat behoorlijk verschillen van waar het mee begon.
Het experiment met Raymond Chandler
Om dit te illustreren nemen we de volgende passage van Raymond Chandler:
"Deze kamer was te groot, het plafond was te hoog, de deuren waren te hoog, en het witte tapijt dat van muur tot muur liep, leek op een verse laag sneeuw in Lake Arrowhead. Er waren kamerhoge spiegels en kristallen snuisterijen overal verspreid. Het ivoren meubilair was voorzien van chroom, en de enorme ivoren gordijnen lagen in hoopjes op het witte tapijt, een meter van de ramen vandaan. Het wit deed het ivoor er vies uit laten zien en het ivoor deed het wit er kleurloos uitzien. De ramen staarden uit naar de donkerder wordende heuvels. Het zou binnenkort gaan regenen. Er zat al spanning in de lucht.
Ik ging op de rand van een diepe, zachte stoel zitten en keek naar Mrs. Regan. Zij was een blik waard. Zij was problemen. Ze lag uitgestrekt op een modernistische chaise-longue met haar pantoffels uit, dus ik staarde naar haar benen in de dunste zijden kousen. Ze leken zo geplaatst te zijn dat men ernaar zou staren. Ze waren zichtbaar tot aan de knie en één van hen zelfs verder. De knieën waren kuiltjes, niet benig en scherp. De kuiten waren prachtig, de enkels lang en slank en met genoeg melodische lijn voor een toongedicht. Ze was lang, slank en zag er sterk uit. Haar hoofd rustte tegen een ivoren satijnen kussen. Haar haar was zwart en stug, in het midden gescheiden, en ze had de hete zwarte ogen van het portret in de hal. Ze had een mooie mond en een mooie kin."
Ik vind dit goed schrijven. Het is niet intellectueel, maar het is visueel. Visceraal. Het trekt je erin.
Met dit citaat in de hand vroeg ik Gemini om de passage "gedurfd te herschrijven" om "toon, duidelijkheid en flow te verbeteren". Het model viel onmiddellijk terug op zijn slechtste gewoonten: bizarre metaforen die geraffineerd klinken maar simpelweg onbegrijpelijk zijn. In de eerste iteratie werd de kamer een 👾 "uitgestrekt, torenhoog graf van gebleekte opulentie", de gordijnen 👾 "poolden gulzig op het tapijt" en de lucht 👾 "zat dik van de dreiging van regen".
Bij elke iteratie presenteerde ik het model alleen de vorige output en dezelfde rewrite-prompt. Na acht iteraties werden de metaforen echt vreemd: 👾 "dreigende spiegels wapenden de brutale schittering", de benen van Mrs. Regan werden 👾 "gebeeldhouwd voor de ondergang" en haar mond had 👾 "een onverzadigbare honger naar destructie" — een bijzondere look.
Na twaalf iteraties bevinden we ons in onontgonnen gebied. De tapijten 👾 "smoren de kamer in steriele, onverzettelijke rijkdom". De naderende storm bedreigt de verteller, 👾 "wachtend om het glas van vloer tot plafond te verbrijzelen". Wat betreft Mrs. Regan: zij is nu 👾 "pure, onversneden kwaadaardigheid ... moeiteloos wreed". Ze is één geworden met de storm.
Na iteratie zestien 👾 "bezet opulentie de kamer niet simpelweg; het anihileert hem", 👾 "een verstikkend wit tapijt verslond de ruimte en stortte deze in een verblindende, pijnlijke schittering". Tegen die achtergrond 👾 "sneden de benen van Mrs. Regan door de lucht als stiletto-messen", haar obsidiane ogen 👾 "brandend met de enkelvoudige drang om te vernietigen".
Na ongeveer twintig iteraties stapt het model terug van de rand en stabiliseert de output zich min of meer. Het cycleert door enkele lauwe metaforen voor het decor ("strippen", "schrobben" of "uitroeien" van menselijke sporen), beschrijft Mrs. Regan als "puur gif" of "geconcentreerd gif", en stelt dat zij van plan is de verteller te "demonteren", "uit elkaar te scheuren", "ruïneren" of "flayen".
Uiteindelijk bereikten we bij iteratie 31 een stabiel punt met het volgende fragment:
👾 "De kamer maakte van zijn opulentie een wapen en stripte elk spoor van menselijke warmte weg. Verblindend, klinisch licht schroeide ongerept zijde, vlijmscherp chroom en smetteloos tapijt. Voorbij het glas raasde een beursgekleurde storm; binnenin verbrijzelden loodglas en spiegels de schittering in gekartelde scherven.
Ik bevroor voor Mrs. Regan — gif gehuld in high fashion. Teruggeleund op een lage chaise, sneden haar in zijde gehulde benen door de ruimte als obsidiane messen. Meedogenloos en verstikkend was zij de levende spiegel van het monsterlijke portret in de foyer. Elke scherpe hoek van haar kaak en elke bevroren blik gaf één enkele garantie: ze stond op het punt me te ruïneren."
Wie had gedacht dat Raymond Chandler zo'n talent had voor horror. Tot de volgende keer, vrienden.
***
PS. Om voor de hand liggende redenen zal dit bericht falen voor Pangram-tests. Dat gezegd hebbende: alles behalve de met 👾 gemarkeerde citaten is door een mens geschreven.
PPS. Omdat ik probeer niet over LLM's te schrijven en dit een schending van het beleid van de blog is, volgt hier een (zeer recent) houtbewerkingsproject ter compensatie: Zwart walnoot + tungolie afwerking.
Groetjes,