Cunyan Ma, een studente aan Brown University, heeft een interactieve tool ontwikkeld om de verborgen menselijke arbeid achter AI-systemen zichtbaar te maken. De kaart brengt de relaties in kaart tussen grote technologiebedrijven, gespecialiseerde datalabelingsbedrijven en data-werkers in het Mondiale Zuiden (zoals Kenia, Indonesië en Colombia).
Het project belicht het concept van AI-kolonialisme: de extractie van goedkope en vaak mentaal belastende arbeid — zoals het filteren van gewelddadige of schadelijke content — ten behoeve van winst in het Westen. Op dit moment bevat de kaart koppelingen tussen 13 datalabelingsbedrijven, 141 zakelijke klanten en 31 landen.
Naast het dienen als educatief instrument om de materiële fundamenten van AI te tonen, hoopt Ma dat de kaart in de toekomst kan helpen bij het organiseren van verspreide werknemers die anders geen contact met elkaar hebben.
Brown-student brengt verborgen wereldwijde arbeid achter AI in kaart
De meeste mensen weten inmiddels dat kunstmatige intelligentie een groot deel van de online wereld aandrijft: van het filteren van socialmediaberichten en het plannen van rijroutes tot het helpen bij het kiezen van een film. Wat grotendeels onzichtbaar blijft, is de menselijke arbeid — vaak mensen die voor lage lonen werken in het Mondiale Zuiden — die deze zorgvuldige algoritmische curatie van onze levensstijl mogelijk maakt.
Cunyan Ma, een undergraduate aan Brown University die samenwerkt met het Center for Technological Responsibility, Reimagination and Redesign, probeert deze verborgen arbeid aan het licht te brengen. Als onderdeel van een lopend project om de materiële fundamenten van de digitale wereld te onderzoeken, heeft de studente een interactieve kaart gemaakt die technologiebedrijven en hun tussenpersonen koppelt aan data-werkers over de hele wereld. De kaart, die gratis online beschikbaar is, aggregeert bestaande databases van data-werkers, eigen dataverzameling van Ma en nieuwsberichten die de omstandigheden beschrijven waarin veel data-werkers verkeren.
"Mijn belangrijkste motivatie is om het idee van AI-kolonialisme op een impactvolle en direct toegankelijke manier te visualiseren," aldus Ma. "De leemte die ik probeer te vullen is dat het meeste wat we weten over data-werkers voortkomt uit anekdotische verslagen van auteurs en journalisten. Die zijn geweldig omdat ze een zeer gedetailleerd beeld geven van arbeidsomstandigheden en betaling, maar ik hoop dat dit kan beginnen bij het invullen van een groter beeld van hoe AI-kolonialisme er daadwerkelijk uitziet."
Uitbesteerde data-arbeid
Om een AI-model überhaupt iets te laten doen, moet het door mensen worden getraind. Op basisniveau kan dat betekenen dat mensen simpelweg objecten in foto's labelen of woordsoorten in een zin markeren. Het kan ook gaan om het transcriberen van lange spraakfragmenten, het beoordelen van goede of slechte reacties van chatbots, of het identificeren van tumorranden op een medische scan.
Veel van dit werk is eentonig, maar Ma merkt op dat er ook donkere kanten aan zitten. Om verontrustende afbeeldingen of berichten te filteren, of om chatbots te voorkomen dat ze dergelijke inhoud creëren, moeten AI-systemen in staat zijn dit te herkennen. Dat betekent dat data-werkers verschrikkelijke beelden of tekstpassages moeten bekijken om die inhoud te kunnen labelen.
De meeste corporaties — van socialmedia- en techbedrijven tot retailers en defensiebedrijven — besteden hun datalabeling uit aan gespecialiseerde bedrijven. De meeste van deze datalabelingsbedrijven zoeken naar goedkope arbeid.
"Hoe dat zich in de realiteit manifesteert, is dat bedrijven dat werk uitbesteden aan het Mondiale Zuiden — Kenia, Indonesië, Colombia en elders," zegt Ma. "Je hebt dus mensen over de hele wereld die paragraaf na paragraaf door AI-gegenereerde kinderporno, bestialiteit, gewelddadige inhoud of wat dan ook moeten lezen, puur om AI veilig te leren zijn."
Dat, zo zegt Ma, is de essentie van AI-kolonialisme: de extractie van zwaar en laagbetaald werk uit het Mondiale Zuiden voor winst in het Westen.
De machtsstructuur in kaart brengen
Ma’s doel was om die keten van AI-arbeid te onthullen, die volgens haar bewust ondoorzichtig wordt gehouden om verantwoordelijkheid te vermijden. Ze maakte gebruik van bestaande databases van datalabelingsbedrijven en hun zakelijke klanten, evenals haar eigen oorspronkelijke database van leveringscentra van deze bedrijven, wat dient als een indicator voor waar de data-werkers zich bevinden. De kaart trekt de lijnen die deze knooppunten verbinden.
In de huidige vorm onthult de kaart koppelingen tussen:
- 13 datalabelingsbedrijven;
- 141 van hun zakelijke klanten;
- 31 landen waarin data-werklocaties zich bevinden.
Ma geeft aan dat de kaart geen volledig overzicht is van alle ketens van AI-arbeid, maar ze hoopt dat het illustratief is. "Een van de doelen hiervan is als publiek educatief instrument," zegt ze. "Wanneer mensen willen leren over AI en de sociale impact ervan, plaatst de kaart dit in de context van deze grotere economische en politieke structuur."
Suresh Venkatasubramanian, professor in de computerwetenschappen aan Brown en leider van het Center for Technological Responsibility, Reimagination and Redesign, is de adviseur van Ma bij dit project. Hij stelt dat werk als dit mensen kan helpen beter te begrijpen dat AI onder de algoritmen eigenlijk een aggregatie is van menselijke kennis, begrip en inspanning.
"Het zijn onderaan de streep allemaal mensen," aldus Venkatasubramanian. "Dat is het echte verhaal achter de generatie van AI. Het probleem met veel van het huidige discours rond AI is dat het probeert dat te negeren. Het resultaat is dat we verhalen gaan construeren over AI als een eigen bewust wezen, als iets dat leeft. Maar dat is het niet. Het is iets dat is gebouwd — iets dat is geconstrueerd door ons, door mensen, over de hele wereld."
Toekomstige ontwikkelingen
Ma hoopt de kaart van AI-arbeid verder uit te breiden en ook andere aspecten van de materialiteit onder de algoritmen in kaart te brengen. Zo wil ze binnenkort de arbeid in kaart brengen die betrokken is bij de halfgeleiderindustrie. Als student in sociale analyse en onderzoek beschouwt Ma deze techniek, bekend als power mapping, als een effectief middel om te begrijpen hoe mondiale machtsstructuren de verdeling van arbeid wereldwijd beïnvloeden.
Voor nu ziet ze haar kaart als een potentieel middel voor werknemers om met elkaar in contact te komen.
"Een van de aspecten hiervan is dat het verspreid is," zegt Ma. "Mensen weten vaak niet eens van het bestaan van hun collega's. Dat maakt vakbondsvorming of iets dergelijks bijna onmogelijk. Misschien kunnen ze een toekomstige versie van de kaart gebruiken om elkaar te identificeren."
Uiteindelijk hoopt Ma dat deze illustraties van de machtsstructuren onder AI kunnen leiden tot een rechtvaardiger verdeling van AI-arbeid en de daaruit voortvloeiende vruchten.
Brown-student brengt verborgen wereldwijde arbeid achter AI in kaart
De meeste mensen weten inmiddels dat kunstmatige intelligentie een groot deel van de online wereld aandrijft: van het filteren van socialmediaberichten en het plannen van rijroutes tot het helpen bij het kiezen van een film. Wat grotendeels onzichtbaar blijft, is de menselijke arbeid — vaak mensen die voor lage lonen werken in het Mondiale Zuiden — die deze zorgvuldige algoritmische curatie van onze levensstijl mogelijk maakt.
Cunyan Ma, een undergraduate aan Brown University die samenwerkt met het Center for Technological Responsibility, Reimagination and Redesign, probeert deze verborgen arbeid aan het licht te brengen. Als onderdeel van een lopend project om de materiële fundamenten van de digitale wereld te onderzoeken, heeft de studente een interactieve kaart gemaakt die technologiebedrijven en hun tussenpersonen koppelt aan data-werkers over de hele wereld. De kaart, die gratis online beschikbaar is, aggregeert bestaande databases van data-werkers, eigen dataverzameling van Ma en nieuwsberichten die de omstandigheden beschrijven waarin veel data-werkers verkeren.
"Mijn belangrijkste motivatie is om het idee van AI-kolonialisme op een impactvolle en direct toegankelijke manier te visualiseren," aldus Ma. "De leemte die ik probeer te vullen is dat het meeste wat we weten over data-werkers voortkomt uit anekdotische verslagen van auteurs en journalisten. Die zijn geweldig omdat ze een zeer gedetailleerd beeld geven van arbeidsomstandigheden en betaling, maar ik hoop dat dit kan beginnen bij het invullen van een groter beeld van hoe AI-kolonialisme er daadwerkelijk uitziet."
Uitbesteerde data-arbeid
Om een AI-model überhaupt iets te laten doen, moet het door mensen worden getraind. Op basisniveau kan dat betekenen dat mensen simpelweg objecten in foto's labelen of woordsoorten in een zin markeren. Het kan ook gaan om het transcriberen van lange spraakfragmenten, het beoordelen van goede of slechte reacties van chatbots, of het identificeren van tumorranden op een medische scan.
Veel van dit werk is eentonig, maar Ma merkt op dat er ook donkere kanten aan zitten. Om verontrustende afbeeldingen of berichten te filteren, of om chatbots te voorkomen dat ze dergelijke inhoud creëren, moeten AI-systemen in staat zijn dit te herkennen. Dat betekent dat data-werkers verschrikkelijke beelden of tekstpassages moeten bekijken om die inhoud te kunnen labelen.
De meeste corporaties — van socialmedia- en techbedrijven tot retailers en defensiebedrijven — besteden hun datalabeling uit aan gespecialiseerde bedrijven. De meeste van deze datalabelingsbedrijven zoeken naar goedkope arbeid.
"Hoe dat zich in de realiteit manifesteert, is dat bedrijven dat werk uitbesteden aan het Mondiale Zuiden — Kenia, Indonesië, Colombia en elders," zegt Ma. "Je hebt dus mensen over de hele wereld die paragraaf na paragraaf door AI-gegenereerde kinderporno, bestialiteit, gewelddadige inhoud of wat dan ook moeten lezen, puur om AI veilig te leren zijn."
Dat, zo zegt Ma, is de essentie van AI-kolonialisme: de extractie van zwaar en laagbetaald werk uit het Mondiale Zuiden voor winst in het Westen.
De machtsstructuur in kaart brengen
Ma’s doel was om die keten van AI-arbeid te onthullen, die volgens haar bewust ondoorzichtig wordt gehouden om verantwoordelijkheid te vermijden. Ze maakte gebruik van bestaande databases van datalabelingsbedrijven en hun zakelijke klanten, evenals haar eigen oorspronkelijke database van leveringscentra van deze bedrijven, wat dient als een indicator voor waar de data-werkers zich bevinden. De kaart trekt de lijnen die deze knooppunten verbinden.
In de huidige vorm onthult de kaart koppelingen tussen:
- 13 datalabelingsbedrijven;
- 141 van hun zakelijke klanten;
- 31 landen waarin data-werklocaties zich bevinden.
Ma geeft aan dat de kaart geen volledig overzicht is van alle ketens van AI-arbeid, maar ze hoopt dat het illustratief is. "Een van de doelen hiervan is als publiek educatief instrument," zegt ze. "Wanneer mensen willen leren over AI en de sociale impact ervan, plaatst de kaart dit in de context van deze grotere economische en politieke structuur."
Suresh Venkatasubramanian, professor in de computerwetenschappen aan Brown en leider van het Center for Technological Responsibility, Reimagination and Redesign, is de adviseur van Ma bij dit project. Hij stelt dat werk als dit mensen kan helpen beter te begrijpen dat AI onder de algoritmen eigenlijk een aggregatie is van menselijke kennis, begrip en inspanning.
"Het zijn onderaan de streep allemaal mensen," aldus Venkatasubramanian. "Dat is het echte verhaal achter de generatie van AI. Het probleem met veel van het huidige discours rond AI is dat het probeert dat te negeren. Het resultaat is dat we verhalen gaan construeren over AI als een eigen bewust wezen, als iets dat leeft. Maar dat is het niet. Het is iets dat is gebouwd — iets dat is geconstrueerd door ons, door mensen, over de hele wereld."
Toekomstige ontwikkelingen
Ma hoopt de kaart van AI-arbeid verder uit te breiden en ook andere aspecten van de materialiteit onder de algoritmen in kaart te brengen. Zo wil ze binnenkort de arbeid in kaart brengen die betrokken is bij de halfgeleiderindustrie. Als student in sociale analyse en onderzoek beschouwt Ma deze techniek, bekend als power mapping, als een effectief middel om te begrijpen hoe mondiale machtsstructuren de verdeling van arbeid wereldwijd beïnvloeden.
Voor nu ziet ze haar kaart als een potentieel middel voor werknemers om met elkaar in contact te komen.
"Een van de aspecten hiervan is dat het verspreid is," zegt Ma. "Mensen weten vaak niet eens van het bestaan van hun collega's. Dat maakt vakbondsvorming of iets dergelijks bijna onmogelijk. Misschien kunnen ze een toekomstige versie van de kaart gebruiken om elkaar te identificeren."
Uiteindelijk hoopt Ma dat deze illustraties van de machtsstructuren onder AI kunnen leiden tot een rechtvaardiger verdeling van AI-arbeid en de daaruit voortvloeiende vruchten.
Groetjes,