In dit artikel betogen Emily M. Bender en Nanna Inie dat het gebruik van anthropomorfiserende taal — taal die menselijke eigenschappen toekent aan machines — de discussie over de werkelijke werking van AI-technologie vertroebelt. Ze stellen een proces voor om deze gewoonte te doorbreken door anthropomorfiserende termen te herkennen en te vervangen door beschrijvingen die gebaseerd zijn op functionaliteit.
De auteurs categoriseren anthropomorfisering in verschillende vormen:
- Cognitie: Termen als 'intelligentie' of 'hallucinatie' vervangen door 'probabilistische automatisering' en 'ongewenste output'.
- Emotie: Het vermijden van woorden die suggereren dat software een emotioneel leven heeft, zoals 'worstelen'.
- Communicatie: 'Vragen' of 'antwoorden' vervangen door termen als 'invoer' en 'output' om te benadrukken dat het om een simulatie gaat.
- Agency: De handelingsbekwaamheid terugleggen bij de menselijke gebruiker in plaats van bij de 'AI-agent'.
- Rollen & Namen: Systemen niet presenteren als 'tutors' of 'co-creators' en het vermijden van menselijke voornaamwoorden.
- Biologische metaforen: 'Neurale netwerken' herdefiniëren als 'gewogen netwerken'.
Het uiteindelijke doel is om taal te gebruiken die de technologie accuraat beschrijft als een instrument, waardoor de menselijke verantwoordelijkheid en de feitelijke werking van de systemen centraal blijven staan.
Hoe over "AI" te praten zonder bij te dragen aan anthropomorfisering
In ons opiniestuk voor Tech Policy Press ("We Need to Talk About How We Talk About 'AI'") hebben we gepleit tegen het gebruik van anthropomorfiserende taal (taal die menselijke eigenschappen toekent aan niet-menselijke zaken). Deze taal maakt het moeilijker om heldere discussies te voeren over wat zogenaamde "AI"-technologieën daadwerkelijk doen, en wanneer en of we ze moeten gebruiken.
Omdat deze manier van spreken inmiddels diep is ingesleten, kost het werk om nieuwe gewoonten in spreken en schrijven te ontwikkelen. Dit proces bestaat uit ten minste drie stappen:
- Opmerken welke woordkeuzes anthropomorfiserend zijn.
- Alternatieven vinden.
- De gewoonte ontwikkelen om deze alternatieven te gebruiken.
In ons onderzoek hebben we gewerkt aan de eerste twee stappen door soorten anthropomorfiserende taal te categoriseren en deze categorieën te gebruiken om mogelijke alternatieven te organiseren.
De-anthropomorfiserende taal beschrijft computersystemen in termen van hun functionaliteit (wat mensen bouwen en/of ermee doen), kent de handelingsbekwaamheid (agency) toe aan de mensen die de systemen gebruiken en niet aan de systemen zelf, en vermijdt grootse metaforen over cognitie.
Ons doel is om vervangingen te vinden die zo zelfverklarend mogelijk zijn, zodat je ze direct kunt gebruiken zonder ze te hoeven uitleggen. Sommige van deze herformuleringen kunnen wat onhandig aanvoelen en langer zijn dan de anthropomorfiserende afkortingen. Dat vereist meer toewijding, maar dat is niet noodzakelijkerwijs een slecht ding; we zouden moeten stilstaan bij de technologie die we gebruiken of bespreken en wat deze feitelijk doet.
Hieronder volgen de categorieën anthropomorfiserende taal die we hebben geïdentificeerd, inclusief voorbeelden van de-anthropomorfiserende versies.
Cognitie en producten van cognitie
Deze categorie komt zeer vaak voor, mede omdat het direct in de marketingterm "kunstmatige intelligentie" (artificial intelligence) zit. Dit is taal die denkprocessen lokaliseert in een algoritme. In plaats daarvan raden we aan om software te beschrijven als het uitvoeren van berekeningen of andere algoritmische operaties, en het "denken" toe te schrijven aan de mensen die het systeem gebruiken.
Voorbeelden:
- Kunstmatige intelligentie → probabilistische automatisering
- Hybride intelligentie → uitgebreide menselijke intelligentie (augmented human intelligence)
- Beeldherkenning → beeldlabeling
- Spraakherkenning → automatische transcriptie
- Het model vertoont bias → het model weerspiegelt bias
- Model-fouten (mistakes) → model-fouten (errors)
- Chatbots zijn goed in... → chatbots zijn handig voor...
- Hallucinatie → ongewenste output
- Doel → succesvoorwaarde
In het algemeen raden we aan om de termen "kunstmatige intelligentie" of "AI" niet te gebruiken in referentie tot technologieën. We spreken nog wel over de "AI-industrie", omdat dat de naam van een sector is, en over "AI als ideologie". Maar wanneer de referent een specifiek technologisch systeem is, is het altijd beter om dat systeem zelf te benoemen (bijvoorbeeld een specifiek product of een systeem met een specifieke functie zoals automatische transcriptie). Indien een algemenere term nodig is, is "probabilistische automatisering" geschikt voor veel (maar niet alle) zaken die als "AI" worden verkocht.
Ook "hallucinatie" valt in deze categorie. In de oorspronkelijke betekenis verwijst dit naar het waarnemen van dingen die er niet zijn, maar softwaresystemen (en met name conversatiesimulatoren) nemen niets waar. Onze voorgestelde vervanging is "ongewenste output". Het is daarnaast belangrijk om te weten dat alle LLM-output probabilistisch geproduceerde synthetische tekst is; er is vanuit het systeem geen fundamenteel verschil tussen gewenste en ongewenste output, dat verschil bestaat alleen voor de mensen die de output interpreteren.
Emotie
Dit zijn formuleringen die suggereren dat softwaresystemen een emotioneel leven hebben. We hebben hier geen specifieke herformuleringen voor, omdat er geen accurate manier is om over emotionele staten van computers te praten, behalve door te herhalen dat ze die simpelweg niet hebben.
Het subtielste aspect van deze categorie is dat verwijzingen naar emotionele ervaringen ongemerkt kunnen binnensluipen. Als je zegt dat ChatGPT "worstelt" om iets te doen, of dat je het systeem moest "overtuigen" (coax) tot een bepaalde output, beschrijf je het alsof het emotionele staten heeft.
Communicatie
In deze categorie vinden we woorden die geautomatiseerde systemen (meestal machines die synthetische tekst uitstoten) op gelijke voet plaatsen met mensen in communicatieve situaties. Als we iets "vragen" aan Claude, beschrijven we Claude als een gesprekspartner. Gebruik in plaats van werkwoorden als vragen, zeggen, informeren of bespreken, werkwoorden die passend zijn voor computers, zoals invoeren en output. Een andere strategie is om het feit dat het om een simulatie gaat, naar voren te halen.
Voorbeelden:
- Prompt → tekstinvoer
- Antwoord → output
- Chatbot / conversationele agent → conversatiesimulator
Agency (Handelingsbekwaamheid)
Formuleringen die agency toekennen aan een machine dienen vaak om de belangen en doelen van mensen te maskeren. We suggereren om de agency terug te leggen bij mensen of minder agentieve werkwoorden te kiezen.
Voorbeelden:
- ChatGPT ondersteunde studenten → de studenten gebruikten ChatGPT
- Het onthullen van de oplossing → het tonen van de oplossing
- AI-agent → probabilistische, niet-geverifieerde softwaremanipulator
De "olifant in de kamer" in deze categorie is de buzzword "AI-agent" (en varianten zoals "agentic AI systems"). Dit is een term voor softwaresystemen die LLM's koppelen aan andere systemen die invloed kunnen uitoefenen op de wereld (zoals systemen voor het plannen van afspraken of het boeken van vluchten). Onze suggestie hiervoor is "probabilistische, niet-geverifieerde softwaremanipulator", wat het voordeel heeft van een passend onaangenaam acroniem (bijv. "Nee bedankt, ik wil geen PUSMic-systeem gebruiken").
Analogieën met menselijke rollen
Dit zijn woorden die systemen presenteren alsof ze hetzelfde werk doen als mensen in diverse rollen. Dit dient om te verhullen waar automatisering tekortschiet, terwijl het tegelijkertijd het werkelijke werk van mensen en de relaties die we vormen, devalueert. Systemen bestempelen als "tutor" of "co-creator" zijn overdreven claims die beschrijven wat een ontwikkelaar zou willen ontwikkelen—vaak met het doel mensen in deze rollen te vervangen.
Voor deze categorie is onze aanbeveling om taal te gebruiken die algoritmen beschrijft als instrumenten (of producten) die mensen gebruiken, in plaats van als mensachtige entiteiten. Dit geeft een duidelijkere indicatie van de systeemfunctionaliteit zonder een plan tot vervanging van mensen te suggereren.
Namen en voornaamwoorden
De namen en voornaamwoorden die we gebruiken kunnen ook anthropomorfiserend werken. Bij systeemnamen is dit lastiger, omdat ontwikkelaars de naam bepalen. Als zij een mensennaam kiezen (zoals "Claude" van Anthropic), zijn anderen gedwongen die keuze te herhalen of omweg-omschrijvingen te gebruiken ("de conversiesimulator van Anthropic").
Voornaamwoorden worden echter per keer gekozen. Het vermijden van voornaamwoorden die gereserveerd zijn voor mensen (en huisdieren), zoals hij, zij of het enkelvoudige they, is een goede eerste stap. Ook subtiele keuzes, zoals het groeperen van algoritmen en mensen onder "jullie" of "hen", kunnen anthropomorfiserend werken. Het is beter om systemen van mensen te scheiden en collectieve voornaamwoorden te vermijden.
Voorbeelden:
- Wie heeft er gelijk? → is de output van de machine correct?
- Zij produceren resultaten → het team gebruikt het systeem om resultaten te produceren.
Biologische metaforen
Computerwetenschappers in de "AI" werken al lange tijd met biologische metaforen in hun technische terminologie. Deze termen waren oorspronkelijk wellicht metaforisch, maar suggereren nu een gelijkenis die er in werkelijkheid niet is. Bij het herzien van biologische metaforen is de vraag: hoe kan de systeemfunctionaliteit preciezer worden beschreven om de lezer een helderder beeld te geven van wat er feitelijk gebeurt?
Voorbeelden:
- Neurale netwerken → gewogen netwerken (weighted networks)
- Het model consumeert data → data wordt gebruikt bij het instellen van modelgewichten.
Reflecties
We moedigen je aan om deze herformuleringen uit te proberen en in dezelfde geest je eigen alternatieven te creëren. Het kan in het begin ongemakkelijk voelen, maar volgens onze ervaring is het makkelijker dan het woord "anthropomorfisering" correct uit te spreken of te spellen.
Het kan ook sociaal ongemakkelijk voelen omdat je tegen de linguïstische en culturele stroom in zwemt, maar dat kan op zichzelf belonend zijn. Tijdens een presentatie in januari vroeg een student aan Emily hoe ze kon bijdragen aan het verzet tegen "AI" in gesprekken met vrienden, zonder een "dwarsligger" (stick in the mud) te zijn. Emily antwoordde: "Wees een dwarsligger! Als je onze huidige situatie ziet als een modderpoel waar je moeilijk doorheen kunt lopen, dan creëer je door een stok in de modder te planten een stevige ondergrond waar anderen op kunnen aansluiten."
Hoe over "AI" te praten zonder bij te dragen aan anthropomorfisering
In ons opiniestuk voor Tech Policy Press ("We Need to Talk About How We Talk About 'AI'") hebben we gepleit tegen het gebruik van anthropomorfiserende taal (taal die menselijke eigenschappen toekent aan niet-menselijke zaken). Deze taal maakt het moeilijker om heldere discussies te voeren over wat zogenaamde "AI"-technologieën daadwerkelijk doen, en wanneer en of we ze moeten gebruiken.
Omdat deze manier van spreken inmiddels diep is ingesleten, kost het werk om nieuwe gewoonten in spreken en schrijven te ontwikkelen. Dit proces bestaat uit ten minste drie stappen:
- Opmerken welke woordkeuzes anthropomorfiserend zijn.
- Alternatieven vinden.
- De gewoonte ontwikkelen om deze alternatieven te gebruiken.
In ons onderzoek hebben we gewerkt aan de eerste twee stappen door soorten anthropomorfiserende taal te categoriseren en deze categorieën te gebruiken om mogelijke alternatieven te organiseren.
De-anthropomorfiserende taal beschrijft computersystemen in termen van hun functionaliteit (wat mensen bouwen en/of ermee doen), kent de handelingsbekwaamheid (agency) toe aan de mensen die de systemen gebruiken en niet aan de systemen zelf, en vermijdt grootse metaforen over cognitie.
Ons doel is om vervangingen te vinden die zo zelfverklarend mogelijk zijn, zodat je ze direct kunt gebruiken zonder ze te hoeven uitleggen. Sommige van deze herformuleringen kunnen wat onhandig aanvoelen en langer zijn dan de anthropomorfiserende afkortingen. Dat vereist meer toewijding, maar dat is niet noodzakelijkerwijs een slecht ding; we zouden moeten stilstaan bij de technologie die we gebruiken of bespreken en wat deze feitelijk doet.
Hieronder volgen de categorieën anthropomorfiserende taal die we hebben geïdentificeerd, inclusief voorbeelden van de-anthropomorfiserende versies.
Cognitie en producten van cognitie
Deze categorie komt zeer vaak voor, mede omdat het direct in de marketingterm "kunstmatige intelligentie" (artificial intelligence) zit. Dit is taal die denkprocessen lokaliseert in een algoritme. In plaats daarvan raden we aan om software te beschrijven als het uitvoeren van berekeningen of andere algoritmische operaties, en het "denken" toe te schrijven aan de mensen die het systeem gebruiken.
Voorbeelden:
- Kunstmatige intelligentie → probabilistische automatisering
- Hybride intelligentie → uitgebreide menselijke intelligentie (augmented human intelligence)
- Beeldherkenning → beeldlabeling
- Spraakherkenning → automatische transcriptie
- Het model vertoont bias → het model weerspiegelt bias
- Model-fouten (mistakes) → model-fouten (errors)
- Chatbots zijn goed in... → chatbots zijn handig voor...
- Hallucinatie → ongewenste output
- Doel → succesvoorwaarde
In het algemeen raden we aan om de termen "kunstmatige intelligentie" of "AI" niet te gebruiken in referentie tot technologieën. We spreken nog wel over de "AI-industrie", omdat dat de naam van een sector is, en over "AI als ideologie". Maar wanneer de referent een specifiek technologisch systeem is, is het altijd beter om dat systeem zelf te benoemen (bijvoorbeeld een specifiek product of een systeem met een specifieke functie zoals automatische transcriptie). Indien een algemenere term nodig is, is "probabilistische automatisering" geschikt voor veel (maar niet alle) zaken die als "AI" worden verkocht.
Ook "hallucinatie" valt in deze categorie. In de oorspronkelijke betekenis verwijst dit naar het waarnemen van dingen die er niet zijn, maar softwaresystemen (en met name conversatiesimulatoren) nemen niets waar. Onze voorgestelde vervanging is "ongewenste output". Het is daarnaast belangrijk om te weten dat alle LLM-output probabilistisch geproduceerde synthetische tekst is; er is vanuit het systeem geen fundamenteel verschil tussen gewenste en ongewenste output, dat verschil bestaat alleen voor de mensen die de output interpreteren.
Emotie
Dit zijn formuleringen die suggereren dat softwaresystemen een emotioneel leven hebben. We hebben hier geen specifieke herformuleringen voor, omdat er geen accurate manier is om over emotionele staten van computers te praten, behalve door te herhalen dat ze die simpelweg niet hebben.
Het subtielste aspect van deze categorie is dat verwijzingen naar emotionele ervaringen ongemerkt kunnen binnensluipen. Als je zegt dat ChatGPT "worstelt" om iets te doen, of dat je het systeem moest "overtuigen" (coax) tot een bepaalde output, beschrijf je het alsof het emotionele staten heeft.
Communicatie
In deze categorie vinden we woorden die geautomatiseerde systemen (meestal machines die synthetische tekst uitstoten) op gelijke voet plaatsen met mensen in communicatieve situaties. Als we iets "vragen" aan Claude, beschrijven we Claude als een gesprekspartner. Gebruik in plaats van werkwoorden als vragen, zeggen, informeren of bespreken, werkwoorden die passend zijn voor computers, zoals invoeren en output. Een andere strategie is om het feit dat het om een simulatie gaat, naar voren te halen.
Voorbeelden:
- Prompt → tekstinvoer
- Antwoord → output
- Chatbot / conversationele agent → conversatiesimulator
Agency (Handelingsbekwaamheid)
Formuleringen die agency toekennen aan een machine dienen vaak om de belangen en doelen van mensen te maskeren. We suggereren om de agency terug te leggen bij mensen of minder agentieve werkwoorden te kiezen.
Voorbeelden:
- ChatGPT ondersteunde studenten → de studenten gebruikten ChatGPT
- Het onthullen van de oplossing → het tonen van de oplossing
- AI-agent → probabilistische, niet-geverifieerde softwaremanipulator
De "olifant in de kamer" in deze categorie is de buzzword "AI-agent" (en varianten zoals "agentic AI systems"). Dit is een term voor softwaresystemen die LLM's koppelen aan andere systemen die invloed kunnen uitoefenen op de wereld (zoals systemen voor het plannen van afspraken of het boeken van vluchten). Onze suggestie hiervoor is "probabilistische, niet-geverifieerde softwaremanipulator", wat het voordeel heeft van een passend onaangenaam acroniem (bijv. "Nee bedankt, ik wil geen PUSMic-systeem gebruiken").
Analogieën met menselijke rollen
Dit zijn woorden die systemen presenteren alsof ze hetzelfde werk doen als mensen in diverse rollen. Dit dient om te verhullen waar automatisering tekortschiet, terwijl het tegelijkertijd het werkelijke werk van mensen en de relaties die we vormen, devalueert. Systemen bestempelen als "tutor" of "co-creator" zijn overdreven claims die beschrijven wat een ontwikkelaar zou willen ontwikkelen—vaak met het doel mensen in deze rollen te vervangen.
Voor deze categorie is onze aanbeveling om taal te gebruiken die algoritmen beschrijft als instrumenten (of producten) die mensen gebruiken, in plaats van als mensachtige entiteiten. Dit geeft een duidelijkere indicatie van de systeemfunctionaliteit zonder een plan tot vervanging van mensen te suggereren.
Namen en voornaamwoorden
De namen en voornaamwoorden die we gebruiken kunnen ook anthropomorfiserend werken. Bij systeemnamen is dit lastiger, omdat ontwikkelaars de naam bepalen. Als zij een mensennaam kiezen (zoals "Claude" van Anthropic), zijn anderen gedwongen die keuze te herhalen of omweg-omschrijvingen te gebruiken ("de conversiesimulator van Anthropic").
Voornaamwoorden worden echter per keer gekozen. Het vermijden van voornaamwoorden die gereserveerd zijn voor mensen (en huisdieren), zoals hij, zij of het enkelvoudige they, is een goede eerste stap. Ook subtiele keuzes, zoals het groeperen van algoritmen en mensen onder "jullie" of "hen", kunnen anthropomorfiserend werken. Het is beter om systemen van mensen te scheiden en collectieve voornaamwoorden te vermijden.
Voorbeelden:
- Wie heeft er gelijk? → is de output van de machine correct?
- Zij produceren resultaten → het team gebruikt het systeem om resultaten te produceren.
Biologische metaforen
Computerwetenschappers in de "AI" werken al lange tijd met biologische metaforen in hun technische terminologie. Deze termen waren oorspronkelijk wellicht metaforisch, maar suggereren nu een gelijkenis die er in werkelijkheid niet is. Bij het herzien van biologische metaforen is de vraag: hoe kan de systeemfunctionaliteit preciezer worden beschreven om de lezer een helderder beeld te geven van wat er feitelijk gebeurt?
Voorbeelden:
- Neurale netwerken → gewogen netwerken (weighted networks)
- Het model consumeert data → data wordt gebruikt bij het instellen van modelgewichten.
Reflecties
We moedigen je aan om deze herformuleringen uit te proberen en in dezelfde geest je eigen alternatieven te creëren. Het kan in het begin ongemakkelijk voelen, maar volgens onze ervaring is het makkelijker dan het woord "anthropomorfisering" correct uit te spreken of te spellen.
Het kan ook sociaal ongemakkelijk voelen omdat je tegen de linguïstische en culturele stroom in zwemt, maar dat kan op zichzelf belonend zijn. Tijdens een presentatie in januari vroeg een student aan Emily hoe ze kon bijdragen aan het verzet tegen "AI" in gesprekken met vrienden, zonder een "dwarsligger" (stick in the mud) te zijn. Emily antwoordde: "Wees een dwarsligger! Als je onze huidige situatie ziet als een modderpoel waar je moeilijk doorheen kunt lopen, dan creëer je door een stok in de modder te planten een stevige ondergrond waar anderen op kunnen aansluiten."
Groetjes,