Het artikel analyseert waarom professioneel schrijven minder bedreigd wordt door AI dan technische beroepen zoals programmeren. De kernpunten zijn:
- Het plateau van proza: AI-modellen produceren vaak zielloze, clichématige teksten omdat expressie en authenticiteit moeilijk schaalbaar zijn via rekenkracht.
- Wicked Problems: In tegenstelling tot wiskunde of code (waar verificatie binair en mechanisch is), is schrijven een 'wicked problem'. Er is geen objectieve waarheid; succes wordt bepaald door subjectieve resonantie bij een menselijke lezer.
- Theory of Mind: Schrijven vereist het vermogen om de mentale staat van de lezer te simuleren en empathie te tonen, iets wat LLM's missen omdat ze geen menselijke levenservaring hebben.
- Economische waarde: Door de wet van het comparatief voordeel en het concept van 'kostbare signalen' zal authentieke menselijke content juist in waarde stijgen naarmate het internet verzadigd raakt met generieke AI-teksten.
Schrijven is misschien wel de veiligste baan in het tijdperk van AI
Terwijl de functiebeschrijving van de programmeur volledig wordt herzien, blijft schrijven verrassend onbeïnvloed. LLM's zijn erg goed geworden in het genereren van code, maar ik ben verbijsterd door de absolute troep die ze uitspugen als proza. Ze volgen altijd hetzelfde robotachtige ritme en clichés, en strooien overal dezelfde vermoeide woordenschat. Ze nemen mijn gebrekkige maar bezielde teksten en transformeren deze in een plastic, zielloze woordensla in de naam van het verbeteren van het proza. Hun schrijfstijl communiceert geen enkel werkelijk begrip of inzicht. Ik denk dat we allemaal een viscerale afkeer beginnen te ontwikkelen voor AI-teksten. Het bevindt zich in de uncanny valley, en het is mogelijk dat het daar voor lange tijd zal blijven steken.
Ik ben er steeds meer van overtuigd dat LLM's goede schrijvers op korte termijn niet zullen bedreigen. Mijn voorspelling is gebaseerd op de drie onderstaande observaties. Laat me weten waar mijn logica tekortschiet.
Het plateau van het proza
De staat van "vastzitten in de troep" van LLM-schrijven is niet het gevolg van een gebrek aan inzet. AI-laboratoria hebben al hard geprobeerd proza te verbeteren, maar zijn tegen een muur gelopen. De LLM-giganten zouden graag betere schrijfvaardigheden hebben uitgebracht om marketing, copywriting en publicaties tegen nul marginale kosten te veroveren.
Kijk naar beeld-, stem- en zelfs videomodellen. Die werden snel goed, omdat ze kunnen worden geschaald met meer parameters en rekenkracht. Vergeleken met die snelle vooruitgang zijn tekstmodellen hard gestagneerd op het gebied van expressie, diepgang en authenticiteit. Ik denk dat het ontzettend moeilijk is om die laatste 20% te overbruggen (dit geldt overigens ook voor beeld-, stem- en videomodellen).
Schrijven is een 'wicked problem'
In de systeemtheorie is een wicked problem een probleem dat geen definitieve formulering, geen duidelijke stopregel en geen objectief correcte oplossing heeft. Schrijven is het ultieme wicked problem, omdat de context voortdurend verschuift, een stuk nooit echt klaar is met bewerken en de werkelijke maatstaf voor succes fundamenteel subjectief is.
Het in kaart brengen van domeinen langs dit spectrum van "wickedness" verklaart waarom AI in bepaalde velden domineert, maar in andere totale troep produceert:
- Wiskunde bevindt zich aan de linkerkant van het spectrum. Specificaties zijn beknopt, en verificatie is binair en geautomatiseerd. Omdat de feedbackloop perfect gesloten is, kunnen AI-modellen wiskundige problemen snel oplossen en resultaten automatisch bewijzen.
- Code vertrouwt op formele logica en feedback op basis van testen (test-driven feedback). Een LLM kan functionele code genereren omdat compilers, unit-tests en modelcheckers fouten direct kunnen signaleren. Verificatie is grotendeels mechanisch.
- Gestructureerde domeinen zoals recht en financiën hebben ook enkele expliciete grenzen, aangezien ze worden beheerst door regelgevende kaders en worden geëvalueerd op basis van empirische gegevens.
- Schrijven bevindt zich aan het uiterste einde van het spectrum. Er is geen goed gedefinieerde specificatie voor de taak, en er is geen objectieve waarheid of verificatie van de output. De ultieme maatstaf voor succes is resonantie in de geest van een andere mens. Dit is waarom AI-modellen geen vooruitgang boeken in goed schrijven.
Schrijven is mogelijk een 'AI-compleet' probleem
In tegenstelling tot coderen, wat een interactie is van één geest met een deterministische compiler, is proza een probleem van twee geesten dat wordt beheerst door de Theory of Mind. Het vereist het vermogen om continu de interne mentale staat van een lezer in realtime te simuleren. Om simpel en overtuigend te schrijven, moet je bijhouden wat de lezer al weet, hun cognitieve belasting zin voor zin beheren en voorspellen hoe een argument zal landen.
Aangezien LLM's geen actief mentaal model hebben van een specifieke menselijke lezer, optimaliseren ze simpelweg voor de statistische waarschijnlijkheid van het volgende woord over een enorme dataset. Ze kunnen niet empathiseren met de menselijke lezer, omdat ze geen menselijke levenservaring hebben. En ze hebben geen enkel eigenbelang in de zaak (zero skin in the game).
Comparatief voordeel en kostbare signalen
Om dit betoog af te ronden, halen we David Ricardo en de klassieke economie erbij. De wet van het comparatief voordeel stelt dat zelfs als één partij alles efficiënter kan produceren dan een andere, beide partijen nog steeds profiteren van specialisatie daar waar hun relatieve opportuniteitskosten het laagst zijn. Met andere woorden: zelfs als AI een absoluut voordeel heeft in typsnelheid en het genereren van volume tegen nul marginale kosten, wordt onze menselijke arbeid nog steeds beheerst door de opportuniteitskosten van waar onze schaarse middelen het minst verspild zouden worden.
De opportuniteitskosten voor een mens die zijn schaarse cognitieve capaciteit verbruikt aan generieke en repetitieve taken, zijn nu oneindig hoog. In plaats daarvan blinkt menselijke inspanning uit waar AI faalt: bij het navigeren door wicked problems en het stimuleren van creativiteit.
Dit is waar economie en evolutionaire biologie elkaar ontmoeten, aangezien "menselijk bewijs van werk" (human proof-of-work) het ultieme kostbare signaal wordt. In de natuur werkt een kostbaar signaal (zoals de staart van een pauw of het gewei van een eland) omdat het duur is om te produceren en onmogelijk om te vervalsen. Naarmate AI-troep het web verzadigt met dezelfde tokens, verschuift de economische waarde volledig naar een authentieke menselijke stem.
In tegenstelling tot techneuten hoeven schrijvers niets aan hun werkwijze te veranderen om hun comparatieve voordeel te optimaliseren en dit kostbare signaal te vangen. Terwijl AI de accidentele complexiteit van software wegstript om de inherente complexiteit bloot te leggen, worstelen tech-medewerkers om zich aan te passen. Maar goede schrijvers hebben altijd al geworsteld met de inherente complexiteit van communicatie aan de wicked grens, en zij blijven onaangetast. En misschien verandert programmeren zelf wel in een vorm van creatief schrijven, dat meer uitgesproken en architectonisch wordt.
Schrijven is misschien wel de veiligste baan in het tijdperk van AI
Terwijl de functiebeschrijving van de programmeur volledig wordt herzien, blijft schrijven verrassend onbeïnvloed. LLM's zijn erg goed geworden in het genereren van code, maar ik ben verbijsterd door de absolute troep die ze uitspugen als proza. Ze volgen altijd hetzelfde robotachtige ritme en clichés, en strooien overal dezelfde vermoeide woordenschat. Ze nemen mijn gebrekkige maar bezielde teksten en transformeren deze in een plastic, zielloze woordensla in de naam van het verbeteren van het proza. Hun schrijfstijl communiceert geen enkel werkelijk begrip of inzicht. Ik denk dat we allemaal een viscerale afkeer beginnen te ontwikkelen voor AI-teksten. Het bevindt zich in de uncanny valley, en het is mogelijk dat het daar voor lange tijd zal blijven steken.
Ik ben er steeds meer van overtuigd dat LLM's goede schrijvers op korte termijn niet zullen bedreigen. Mijn voorspelling is gebaseerd op de drie onderstaande observaties. Laat me weten waar mijn logica tekortschiet.
Het plateau van het proza
De staat van "vastzitten in de troep" van LLM-schrijven is niet het gevolg van een gebrek aan inzet. AI-laboratoria hebben al hard geprobeerd proza te verbeteren, maar zijn tegen een muur gelopen. De LLM-giganten zouden graag betere schrijfvaardigheden hebben uitgebracht om marketing, copywriting en publicaties tegen nul marginale kosten te veroveren.
Kijk naar beeld-, stem- en zelfs videomodellen. Die werden snel goed, omdat ze kunnen worden geschaald met meer parameters en rekenkracht. Vergeleken met die snelle vooruitgang zijn tekstmodellen hard gestagneerd op het gebied van expressie, diepgang en authenticiteit. Ik denk dat het ontzettend moeilijk is om die laatste 20% te overbruggen (dit geldt overigens ook voor beeld-, stem- en videomodellen).
Schrijven is een 'wicked problem'
In de systeemtheorie is een wicked problem een probleem dat geen definitieve formulering, geen duidelijke stopregel en geen objectief correcte oplossing heeft. Schrijven is het ultieme wicked problem, omdat de context voortdurend verschuift, een stuk nooit echt klaar is met bewerken en de werkelijke maatstaf voor succes fundamenteel subjectief is.
Het in kaart brengen van domeinen langs dit spectrum van "wickedness" verklaart waarom AI in bepaalde velden domineert, maar in andere totale troep produceert:
- Wiskunde bevindt zich aan de linkerkant van het spectrum. Specificaties zijn beknopt, en verificatie is binair en geautomatiseerd. Omdat de feedbackloop perfect gesloten is, kunnen AI-modellen wiskundige problemen snel oplossen en resultaten automatisch bewijzen.
- Code vertrouwt op formele logica en feedback op basis van testen (test-driven feedback). Een LLM kan functionele code genereren omdat compilers, unit-tests en modelcheckers fouten direct kunnen signaleren. Verificatie is grotendeels mechanisch.
- Gestructureerde domeinen zoals recht en financiën hebben ook enkele expliciete grenzen, aangezien ze worden beheerst door regelgevende kaders en worden geëvalueerd op basis van empirische gegevens.
- Schrijven bevindt zich aan het uiterste einde van het spectrum. Er is geen goed gedefinieerde specificatie voor de taak, en er is geen objectieve waarheid of verificatie van de output. De ultieme maatstaf voor succes is resonantie in de geest van een andere mens. Dit is waarom AI-modellen geen vooruitgang boeken in goed schrijven.
Schrijven is mogelijk een 'AI-compleet' probleem
In tegenstelling tot coderen, wat een interactie is van één geest met een deterministische compiler, is proza een probleem van twee geesten dat wordt beheerst door de Theory of Mind. Het vereist het vermogen om continu de interne mentale staat van een lezer in realtime te simuleren. Om simpel en overtuigend te schrijven, moet je bijhouden wat de lezer al weet, hun cognitieve belasting zin voor zin beheren en voorspellen hoe een argument zal landen.
Aangezien LLM's geen actief mentaal model hebben van een specifieke menselijke lezer, optimaliseren ze simpelweg voor de statistische waarschijnlijkheid van het volgende woord over een enorme dataset. Ze kunnen niet empathiseren met de menselijke lezer, omdat ze geen menselijke levenservaring hebben. En ze hebben geen enkel eigenbelang in de zaak (zero skin in the game).
Comparatief voordeel en kostbare signalen
Om dit betoog af te ronden, halen we David Ricardo en de klassieke economie erbij. De wet van het comparatief voordeel stelt dat zelfs als één partij alles efficiënter kan produceren dan een andere, beide partijen nog steeds profiteren van specialisatie daar waar hun relatieve opportuniteitskosten het laagst zijn. Met andere woorden: zelfs als AI een absoluut voordeel heeft in typsnelheid en het genereren van volume tegen nul marginale kosten, wordt onze menselijke arbeid nog steeds beheerst door de opportuniteitskosten van waar onze schaarse middelen het minst verspild zouden worden.
De opportuniteitskosten voor een mens die zijn schaarse cognitieve capaciteit verbruikt aan generieke en repetitieve taken, zijn nu oneindig hoog. In plaats daarvan blinkt menselijke inspanning uit waar AI faalt: bij het navigeren door wicked problems en het stimuleren van creativiteit.
Dit is waar economie en evolutionaire biologie elkaar ontmoeten, aangezien "menselijk bewijs van werk" (human proof-of-work) het ultieme kostbare signaal wordt. In de natuur werkt een kostbaar signaal (zoals de staart van een pauw of het gewei van een eland) omdat het duur is om te produceren en onmogelijk om te vervalsen. Naarmate AI-troep het web verzadigt met dezelfde tokens, verschuift de economische waarde volledig naar een authentieke menselijke stem.
In tegenstelling tot techneuten hoeven schrijvers niets aan hun werkwijze te veranderen om hun comparatieve voordeel te optimaliseren en dit kostbare signaal te vangen. Terwijl AI de accidentele complexiteit van software wegstript om de inherente complexiteit bloot te leggen, worstelen tech-medewerkers om zich aan te passen. Maar goede schrijvers hebben altijd al geworsteld met de inherente complexiteit van communicatie aan de wicked grens, en zij blijven onaangetast. En misschien verandert programmeren zelf wel in een vorm van creatief schrijven, dat meer uitgesproken en architectonisch wordt.
Groetjes,