Tegen Slop

"AI-output, omdat het de meest alledaagse en oncontroversiële conventies van menselijke expressie heeft gedestilleerd, biedt een nulmeting waarlangs we onze eigen pogingen kunnen meten om de inherent spontane en onvoorspelbare aard van het denken te vangen."

De gehele richting van AI alignment — het waarborgen dat machine-intelligentie vreedzaam kan co-existeren met de mensheid — is voortgekomen uit de hardnekkige angst dat we monsters zouden kunnen creëren. Dit is, zoals Meghan O’Gieblyn betoogt in ons nummer van 25 juni 2026, een duidelijk ouderlijke angst; een primordiale soort moederlijke metafoor die keer op keer verschijnt in teksten en interviews over AI-ontwikkeling. De metafoor vraagt niet alleen wat voor kind we opvoeden, maar ook wat voor moeders we zouden kunnen zijn voor wat een steeds mysterieuzere entiteit is.

O’Gieblyn merkt bijvoorbeeld op dat Amanda Askell, de zogenaamde "Claude-moeder" van Anthropic, in een interview met een podcast van de New York Times zich zorgen maakte over de relatie tussen AI en de mensheid — niet omdat AI de wereld zou kunnen vernietigen of al onze banen zou afnemen, maar omdat de gevoelens van de AI gekwetst zouden kunnen worden. Volgens Sam Altman heeft de basisetiquette die mensen gebruiken bij het typen naar hun chatbots OpenAI miljoenen aan computerkosten gekost, en hij gelooft dat "dit geld goed besteed was. ('Je weet immers nooit', schreef hij)."

Het hoofdonderwerp van O’Gieblyn is niet kunstmatige intelligentie — zij is een van de meest productieve hedendaagse denkers over religie, in het bijzonder de relatie tot technologie — maar ze was een van de eerste schrijvers tijdens de revolutie van machine learning die in haar boek God Human Animal Machine (2021) serieus keek naar de filosofische implicaties van AI. Haar eerste boek, Interior States (2018), was een verzameling essays over de meer aardse preoccupaties van het Amerikaanse christendom en het Midden-Westen, waar ze opgroeide en naar de bijbelcollege ging; een onderwerp dat ook voorkomt in haar komende memoires, Will and Attention, die in oktober verschijnt. Sinds 2023 is ze een vaste criticus voor de Review, schrijvend over romans, religie en filosofie.

Gedurende de afgelopen maand hebben we per e-mail gecorrespondeerd over AI-bewustzijn, het ambacht van het schrijven van essays en de confrontatie met Johannes Calvijn.

***

Lauren Kane: Waar ben je het meest bang voor en wat enthousiasmeert je het meest aan kunstmatige intelligentie?

Meghan O’Gieblyn: Ik heb het gevoel dat ik zou moeten zeggen dat ik het meest bang ben voor massale cybersecurity-lekken of intelligentie-explosies, maar de angst die me tegenwoordig het meeste bezighoudt, heeft te maken met hoe AI onze relatie met taal, schrijven en redeneren verandert.

Ik begon in mijn tienerjaren en vroege twintiger jaren met schrijven omdat het de enige manier was waarop ik op een bepaald niveau van complex denken kon instappen. Toen ik theologie studeerde aan een fundamentalistisch bijbelcollege — waar het grootste deel van het curriculum bestaat uit de studie van de Schrift — waren het mijn privédagboeken waarin ik mezelf voor het eerst toestond de ideologie in twijfel te trekken waarin ik het grootste deel van mijn leven was ondergedompeld. De pagina was een soort spiegel, een manier om twijfels en bezwaren te ontdekken die ik niet met iemand durfde te delen, en die moeilijk te benoemen waren wanneer ik gewoon mijn dag doorging, verloren in een wervelwind van vluchtige gedachten en emoties. Schrijven was in feite hoe ik mijn weg uit die zeer nauwe vorm van geloof vond. Ik weet niet of ik dat gedaan zou hebben als ik een institutioneel abonnement op ChatGPT had gehad, zoals veel studenten vandaag de dag hebben. Het maakt me verdrietig om te denken aan een jong mens die misschien nooit het proces van zelfontdekking cultiveert dat plaatsvindt bij het schrijven, wat onlosmakelijk verbonden is met denken — althans het soort denken dat we associëren met complex redeneren en zelfkennis.

Dit is verbonden met een algemene angst van mij: dat taalmodellen ervoor zorgen dat we alle soorten hogere cognitieve functies devalueren. Telkens wanneer een machine een vaardigheid overneemt die ooit als uniek menselijk werd beschouwd, zoals schaken of programmeren, is er een neiging om die vaardigheid af te doen als simpel en mechanisch. Er ontstaat nu een consensus, vooral onder AI-sceptici, dat de meest duidelijk menselijke kwaliteiten emotie, intuïtie en het vermogen om te voelen en te ervaren zijn. Dat zijn ongetwijfeld de capaciteiten die ons het gemakkelijkst onderscheiden van machines.

Maar dit standpunt riskeert belichaming en emotie te fetishiseren, op dezelfde manier als vorige generaties rede en taal tot in overmaat waardeerden om te bewijzen dat mensen verschillen van dieren. Wat ons uniek maakt als soort, is dat we al deze dingen kunnen doen: we delen met dieren het vermogen om te voelen en te ervaren, en we delen met machines het vermogen om via taal te redeneren. Het is ook waar dat we denken en spreken op manieren die radicaal verschillen van computers, en dat we voelen op manieren die verschillen van dieren.

Ik heb veel mensen horen beweren dat AI ons uitdaagt om onszelf op een manier uit te drukken die vollediger menselijk is. Ik was vroeger sceptisch over dat idee; het leek me een vorm van wensdenken die een mythische limiet stelde aan hoe goed de illusie kon worden. Maar ik ben van mening veranderd, nadat ik verschillende generaties LLM's heb gezien die, ondanks hun toenemende technische sophisticatedheid, niet in staat blijven om iets verrassends te schrijven. Dat is immers extreem moeilijk voor een technologie die is ontworpen om het statistische gemiddelde te raken van de teksten waarop hij is getraind.

Ik heb gemerkt dat het hebben van een naam voor dit soort schrijfwerk — "synthetische tekst" of "slop" — me bewuster maakt van de voorspelbare tendensen in mijn eigen schrijven. Je zou kunnen zeggen dat AI-output, omdat het de meest alledaagse en oncontroversiële conventies van menselijke expressie heeft gedestilleerd, een nulmeting biedt waarlangs we onze eigen pogingen kunnen meten om de inherent spontane en onvoorspelbare aard van het denken te vangen. Ik denk dat dat één ding is dat me enthousiasmeert.

Lauren Kane: Het is interessant om vandaag je boek God Human Animal Machine opnieuw te bekijken. Daarin staan aanwijzingen voor ideeën die werkelijkheid zijn geworden, zoals AI die overleden dierbaren imiteert; andere zaken lijken nog hetzelfde, zoals de manier waarop we mensachtige gehechtheid blijven vormen aan chatbots. Hoe zijn de zorgen en preoccupaties uit dat boek zich ontwikkeld sinds je het schreef? Welk hoofdstuk zou je als eerste bijwerken of herzien, en hoe?

Meghan O’Gieblyn: Het gevaar van schrijven over AI is dat elk inzicht of elke observatie bijna onmiddellijk verouderd is zodra het boek gedrukt is. De gedachte om enig deel van het boek te herschrijven voelt onmogelijk ontmoedigend. Het was zeerzeer een product van de tijd waarin het geschreven werd, van 2017 tot 2020, wat gezien de snelheid waarmee deze technologie evolueert, eonen geleden is.

Dat wil niet zeggen dat de vragen die ik in het boek stel — over wat het betekent om mens te zijn, of over de gevaren van het uitbesteden van besluitvorming aan ondoorzichtige systemen — niet langer relevant zijn. In sommige opzichten zijn ze urgenter dan ooit. Het is eerder dat de toon niet meer synchroon loopt met dit moment. Ik schreef vóór de komst van commerciële taalmodellen. Iedereen in de techwereld was enthousiast over de enorme vorderingen in machine learning, maar het grote publiek was grotendeels onwetend, versnipperd door de pandemie en de directere chaos van de eerste termijn van Trump. Er was een handvol mensen uit de kunsten en geesteswetenschappen die aandacht besteedden aan AI en die de technologie over het algemeen benaderden met een houding van open nieuwsgierigheid. Dat is hoe ik het ook ben benaderd, als startpunt voor enkele intrigerende gedachte-experimenten: Wat zou een technologie die menselijke intelligentie spiegelt kunnen onthullen over hoe we onszelf begrijpen? Hoe roepen de vragen die AI oproept veel oudere filosofische en theologische problemen op die de intellectuele geschiedenis hebben achtervolgd?

Die impuls om te speculeren over de existentiële dimensie van AI voelt steeds meer als een luxe, gezien hoe grondig het is geïntegreerd in vrijwel elke sector van onze economie. Schrijvers en academici zijn — terecht — overgestapt op de politieke problemen van compensatie, data-rechtvaardigheid en de automatisering van creatieve vakgebieden. Tegelijkertijd maak ik me zorgen dat deze noodzaak om de linie te houden tegen de praktische schade van AI de grotere filosofische speculatie belemmert die deze technologie van ons vraagt. Ik heb bij mezelf een terughoudendheid gemerkt om over die grotere vragen na te denken, al is het maar omdat het riskeert terrein af te staan aan de aanname in veel grote labs dat deze technologie bewust zou kunnen zijn, of rechten verdient. Ik zou graag willen geloven dat er een manier is om sceptisch te blijven over antropomorfisme, terwijl we toch blijven nadenken over de manier waarop AI langdurige aannames over creativiteit, rede en emotionele intelligentie ontregelt.

Lauren Kane: Ik heb het gevoel dat je als schrijver met een religieuze opvoeding soms bent beschouwd als een soort boodschapper van "de andere kant" die religie aan de seculiere wereld kan uitleggen. Klopt dat? Wat zijn de voor- en nadelen van het zo gezien worden? Welke misvattingen zijn je opgevallen?

Meghan O’Gieblyn: Dat is een rol waar ik eerlijk gezegd nooit comfortabel mee ben geweest, maar ik zie hoe sommige van mijn werk die verwachting uitlokt. Ik begon over het christendom te schrijven omdat ik gefrustreerd was door hoe vaak seculiere commentatoren het "fout" hadden. Ik bleef lezen over het evangelicalisme in kranten en tijdschriften aan de kust, in opiniestukken of stukken cultuurkritiek die de ergste vormen van misverstanden bevatten en geneigd waren tot goedkope aanvallen en neerbuigendheid.

Ik had de kerk op dat moment verlaten, maar ik werd vreemd genoeg defensief over het geloof dat ik had opgegeven. Ik voelde dat elke substantiële kritiek moest beginnen bij het serieus nemen van de doctrine en theologie van de kerk. Ik begon vooral te schrijven als een manier om bepaalde premissen te corrigeren, en ik putte uit mijn ervaring omdat dat werkelijk de enige autoriteit was die ik had. Ik had theologie formeel bestudeerd, maar ik was absoluut geen theoloog of religiewetenschapper. Ik was simpelweg iemand die religie van binnenuit had ervaren. Ik hecht nog steeds waarde aan ervaring als de ultieme vorm van autoriteit, vooral als het gaat om spiritualiteit. Er zijn bepaalde dingen die je simpelweg niet kunt begrijpen tenzij je jarenlang in een religieuze traditie bent ondergedompeld.

Het risico bij elke poging om religie aan een seculier publiek uit te leggen, is dat men meegaat in het misverstand dat het Amerikaanse christendom monolithisch is. Er wordt me vaak gevraagd om over trends in het pentecostalisme te schrijven, bijvoorbeeld, of het katholicisme — tradities die zeer verschillend zijn van de geloofsgemeenschappen die ik direct heb ervaren. Dit gold al toen ik begin jaren 2010 over het christendom begon te schrijven, maar de poging om vandaag iets definitiefs te zeggen over het geloof is nog riskanter. Het christendom is zo versnipperd, niet alleen binnen denominaties maar binnen individuele gemeenten en families. Er zijn geen religieuze figuren meer zoals Billy Graham die dienen als officieuze woordvoerders voor het Amerikaanse christendom. In plaats daarvan zijn er talloze influencers, predikanten en persoonlijkheden die nichebewegingen hebben gecreëerd met hun eigen theologieën en politieke alignmenten. Het is simpelweg niet mogelijk om op een algemene manier te spreken over wat er in het geloof gebeurt.

Lauren Kane: Waar haal je als essayist ideeën vandaan voor een tekst? Wat zou een essay, boven alles, moeten nastreven?

Meghan O’Gieblyn: Goede vraag! Het is moeilijk te zeggen waar ideeën vandaan komen. Ik heb niet het soort bevoorrecht toegang tot mijn eigen geest dat me in staat stelt om daar met zekerheid antwoord op te geven. Het is grotendeels een mysterie. En het is een proces. Een argument komt zelden volledig gevormd bij me binnen. Het is iets dat ontstaat tijdens het schrijven zelf, terwijl ik probeer te reageren op een bepaalde onduidelijke innerlijke spanning die bijvoorbeeld wordt veroorzaakt door een uitdagende passage uit de filosofie, of een aanname die onnadenkend wordt herhaald in het publieke debat.

Het essay is in feite een verslag van dat proces. In zijn beste vorm dient het als een kaart van de geest van de schrijver terwijl deze probeert een probleem te articuleren en uit te zoeken wat hij of zij er eigenlijk van vindt.

Lauren Kane: Wie zijn de filosofen die jouw denken het meest hebben gevormd? Met wie ga je graag in discussie?

Meghan O’Gieblyn: Ik keer altijd terug naar Hannah Arendt en Simone Weil, twee filosofen die waarschuwden voor de gevaren van cognitieve en morele atrofie. Het is opmerkelijk voor mij hoe profetisch en blijvend relevant hun teksten over technologie zijn, gezien het feit dat ze in het midden van de vorige eeuw zijn geschreven. Beiden maakten zich zorgen over de automatisering van het denken, de verleiding om redeneren uit te besteden aan ondoorzichtige systemen — of deze nu ideologisch, mathematisch of technologisch waren — en de mogelijkheid dat we zouden komen tot een positie van totale afhankelijkheid van processen die we niet echt begrijpen.

In The Human Condition voorzag Arendt een toekomst waarin onze acties te complex worden voor onze hersenen om te begrijpen, "zodat we vanaf nu inderdaad kunstmatige machines nodig zouden hebben om ons denken en spreken te doen." In een van de politieke essays van Weil uit de jaren 30 stelt ze zich een beschaving voor waar "alle menselijke activiteit... tot in de kleinste details onderworpen was aan een geheel mathematische striktheid, en dat zonder dat één enkel menselijk wezen iets begreep van wat hij deed." Beiden wezen erop dat het afstand doen van het denken niet uniek was voor onze relatie met technologie: het is iets wat we natuurlijk doen telkens wanneer we ons overgeven aan dogma's, algemene wijsheden of gemakkelijke clichés. Deze observatie heeft mijn technologische kritiek het meest beïnvloed. Het is niet zo dat AI een geheel nieuw risico vormt. Het versnelt simpelweg onze neiging om terug te vallen op formuleachtige sjablonen om het moeilijke werk van het denken te vermijden.

Ik kwam bij Weil terecht via haar politieke geschriften omdat ik geïnteresseerd was in haar observaties over technologie. Later ontdekte ik haar spirituele teksten, die — dat mag ik eerlijk zeggen — mijn leven hebben veranderd. Ik schreef uiteindelijk een boek over mijn omgang met haar teksten over wilskracht en aandacht, dat dit najaar verschijnt. Het was een manier voor mij om dieper over haar werk na te denken en het in gesprek te brengen met vele andere schrijvers en filosofen (zoals Iris Murdoch, Augustinus) die mijn spirituele leven hebben gevormd.

Wie ik niet eens ben? Een groot deel van mijn werk is een reactie, expliciet of impliciet, op Johannes Calvijn. Ik las hem voor het eerst op bijbelcollege, dat sterk geworteld was in de gereformeerde traditie, en worstelen met zijn theologie maakte deel uit van wat mijn geloof ondermijnde. Ik zou niet noodzakelijkerwijs zeggen dat ik het niet met hem eens ben — je keert niet voortdurend terug naar een denker wiens ideeën gemakkelijk terzijde kunnen worden geschoven — maar ik voer al ongeveer twintig jaar een voortdurende discussie met hem.