De auteur ervaart een fenomeen dat hij "AI-blindheid" noemt: het onvermogen om zich te concentreren op documenten die duidelijk door AI zijn gegenereerd. Dit uit zich in het negeren van essentiële informatie in werkdocumenten, wat leidt tot onnodige discussies met collega's.
Volgens de auteur zijn AI-teksten vaak herkenbaar aan specifieke lingo, een omslachtige schrijfstijl en het presenteren van triviale details als grote doorbraken. Hij vergelijkt dit met "banner blindness", waarbij het brein irrelevante informatie wegfiltert als overlevingsmechanisme. De paradox is dat de technologie die productiviteit had moeten verhogen, in dit geval het werkproces juist vertraagt.
Ik word AI-blind
Onlangs merkte ik dat ik op het werk momenten heb waarop ik probeer een document te lezen dat iemand mij heeft gestuurd, maar mijn brein weigert het simpelweg te analyseren. Het voelt alsof ik het lees, maar ik ben niet in staat me op de inhoud te concentreren.
Ik beland vervolgens in een eindeloze heen-en-weer discussie met de verzender, waarbij ik vragen stel over zaken die al beantwoord zijn in de tekst die ze me al hadden gestuurd. Dit is nogal zorgwekkend, want ik heb het afgelopen jaar geprobeerd opnieuw te leren hoe ik me moet concentreren, en deze situaties laten precies het tegenovergestelde zien.
Toen ik ging analyseren waar deze situaties vandaan kwamen, realiseerde ik me dat ze allemaal één gemene deler hebben: de documenten vertonen allemaal een sterk spoor van AI.
Bijvoorbeeld:
- Een designdocument dat eruitziet als een kopie-plaksel uit Claude. Hoewel het het ontwerp van de specifieke functie in kwestie wel behandelt, bevat het ook veel Claude-specifieke analyses en lingo. "This cuts just through it", "The first gate is real".
- Een marketingconcept-deck van 20 pagina's dat een (redelijk redelijke) marketingstrategie mengt met onzin over producttechnische architectuur. Hoe wordt het idee gepitcht? "It's not selling X, it's selling Y". "The Redis backbone redefines the product".
- Een document met technische vereisten dat een vrij simpel concept op een zeer omslachtige manier beschrijft. Het punt is dat een groot deel van dit document leest als de "interne" redenering van iemand die niet volledig zeker is van bepaalde beslissingen. Dat klinkt voor mij als een LLM.
Er is een voortdurende discussie over de vraag of mensen goed zijn in het herkennen van door AI gegenereerde tekst. Hoewel het meeste onderzoek beweert dat mensen daar niet echt goed in zijn, ben ik het daar niet mee eens. Het is niet zo moeilijk, althans wanneer we het hebben over resultaten waar weinig moeite in is gestoken. Florian Roth schreef een vrij goede samenvatting van de veelvoorkomende patronen in de context van sociale media.
Ik zie iets soortgelijks gebeuren bij werkgerelateerde teksten. Naast de overduidelijke woordkeuze verraden de algemene flow van de zinnen en de poging om elk klein detail als een doorbraak te presenteren het al snel. Als je document de selectievakjes in een RBAC-configuratieoverzicht voor een bedrijfsapplicatie beschrijft, verkoop het dan niet alsof je zojuist het vuur hebt uitgevonden.
Ik heb het gevoel dat ik ben "voorgeprogrammeerd" door alle door AI gegenereerde LinkedIn-berichten, e-mails en websites die vol tekst zitten maar leeg zijn qua betekenis. Mijn brein heeft geleerd om snel tekenen van AI-gegenereerde inhoud te spotten — althans, inhoud die met weinig moeite is gegenereerd — en negeert dit nu en gaat verder zonder er veel over na te denken.
Ik heb gehoord dat sommige mensen dit vergelijken met "banner blindness" (bannerblindheid). Dat is niet verrassend. Met de hoeveelheid content die op ons wordt afgestuurd, is het wegfilteren ervan de manier waarop we mentaal gezond blijven.
Wat ik fascinerend vind, is dat dezelfde AI die me productiever had moeten maken, nu op een onverwachte manier mijn tempo vertraagt.
Ik ga normaal gesproken niet op vakantie, maar dit jaar had ik echt een pauze nodig. Op een avond had ik grote honger en liep ik langs enkele restaurants aan de Oostzeekust. Er was er één die ik onmiddellijk negeerde, maar een minuut later vroeg iets in mijn hoofd: "Hé, hebben ze daar echt een foto van een quiche met schimmel opgehangen?" Ik liep terug, puur om dit te controleren.
AI AI AI
Ik word AI-blind
Onlangs merkte ik dat ik op het werk momenten heb waarop ik probeer een document te lezen dat iemand mij heeft gestuurd, maar mijn brein weigert het simpelweg te analyseren. Het voelt alsof ik het lees, maar ik ben niet in staat me op de inhoud te concentreren.
Ik beland vervolgens in een eindeloze heen-en-weer discussie met de verzender, waarbij ik vragen stel over zaken die al beantwoord zijn in de tekst die ze me al hadden gestuurd. Dit is nogal zorgwekkend, want ik heb het afgelopen jaar geprobeerd opnieuw te leren hoe ik me moet concentreren, en deze situaties laten precies het tegenovergestelde zien.
Toen ik ging analyseren waar deze situaties vandaan kwamen, realiseerde ik me dat ze allemaal één gemene deler hebben: de documenten vertonen allemaal een sterk spoor van AI.
Bijvoorbeeld:
- Een designdocument dat eruitziet als een kopie-plaksel uit Claude. Hoewel het het ontwerp van de specifieke functie in kwestie wel behandelt, bevat het ook veel Claude-specifieke analyses en lingo. "This cuts just through it", "The first gate is real".
- Een marketingconcept-deck van 20 pagina's dat een (redelijk redelijke) marketingstrategie mengt met onzin over producttechnische architectuur. Hoe wordt het idee gepitcht? "It's not selling X, it's selling Y". "The Redis backbone redefines the product".
- Een document met technische vereisten dat een vrij simpel concept op een zeer omslachtige manier beschrijft. Het punt is dat een groot deel van dit document leest als de "interne" redenering van iemand die niet volledig zeker is van bepaalde beslissingen. Dat klinkt voor mij als een LLM.
Er is een voortdurende discussie over de vraag of mensen goed zijn in het herkennen van door AI gegenereerde tekst. Hoewel het meeste onderzoek beweert dat mensen daar niet echt goed in zijn, ben ik het daar niet mee eens. Het is niet zo moeilijk, althans wanneer we het hebben over resultaten waar weinig moeite in is gestoken. Florian Roth schreef een vrij goede samenvatting van de veelvoorkomende patronen in de context van sociale media.
Ik zie iets soortgelijks gebeuren bij werkgerelateerde teksten. Naast de overduidelijke woordkeuze verraden de algemene flow van de zinnen en de poging om elk klein detail als een doorbraak te presenteren het al snel. Als je document de selectievakjes in een RBAC-configuratieoverzicht voor een bedrijfsapplicatie beschrijft, verkoop het dan niet alsof je zojuist het vuur hebt uitgevonden.
Ik heb het gevoel dat ik ben "voorgeprogrammeerd" door alle door AI gegenereerde LinkedIn-berichten, e-mails en websites die vol tekst zitten maar leeg zijn qua betekenis. Mijn brein heeft geleerd om snel tekenen van AI-gegenereerde inhoud te spotten — althans, inhoud die met weinig moeite is gegenereerd — en negeert dit nu en gaat verder zonder er veel over na te denken.
Ik heb gehoord dat sommige mensen dit vergelijken met "banner blindness" (bannerblindheid). Dat is niet verrassend. Met de hoeveelheid content die op ons wordt afgestuurd, is het wegfilteren ervan de manier waarop we mentaal gezond blijven.
Wat ik fascinerend vind, is dat dezelfde AI die me productiever had moeten maken, nu op een onverwachte manier mijn tempo vertraagt.
Ik ga normaal gesproken niet op vakantie, maar dit jaar had ik echt een pauze nodig. Op een avond had ik grote honger en liep ik langs enkele restaurants aan de Oostzeekust. Er was er één die ik onmiddellijk negeerde, maar een minuut later vroeg iets in mijn hoofd: "Hé, hebben ze daar echt een foto van een quiche met schimmel opgehangen?" Ik liep terug, puur om dit te controleren.
AI AI AI
Groetjes,