De Tokenpocalypse is hier: Bedrijven worstelen om AI-uitgaven te beperken
Gelekte audio van Accenture onthult dat een grote bron van het verbruik van AI-tokens het simpelweg omzetten van PDF's naar presentatieslides is.
Consultingreus Accenture probeert uit te zoeken hoe ze niet-technisch personeel kunnen tegenhouden om het budget voor AI-tokens van bedrijven te verspillen aan triviale taken, zoals het converteren van PDF's naar presentatieslides. Dit blijkt uit gelekte audio die in handen is gekomen van 404 Media. Volgens de opnames ziet Accenture in de hele sector een "explosie in tokenuitgaven".
Een verschuiving in de AI-industrie
Dit nieuws markeert een belangrijke verschuiving binnen de techsector en andere bedrijven die gebruikmaken van AI: de golf van ongebreidelde AI-groei is voorbij. Sommige AI-providers, zoals GitHub, brengen klanten nu per token in rekening in plaats van via een vast abonnement, waardoor sommige bedrijven razendsnel door hun tokens heen gaan.
Andere voorbeelden uit de sector zijn:
- Uber: Heeft onlangs het gebruik van AI-tools zoals Claude Code en Cursor voor werknemers beperkt. Dit gebeurde nadat Uber medewerkers eerder had aangemoedigd om AI zoveel mogelijk te gebruiken, waarna de CTO van het bedrijf meldde dat het volledige AI-budget al binnen vier maanden was opgebruikt.
- Accenture: Er zijn berichten dat Accenture senior personeel is gaan verplichten om AI te gebruiken, op straffe van het mislopen van promoties.
De oorzaak van het verbruik
De situatie ondermijnt het narratief dat de AI-boom wordt gedreven door 'super-engineers' die enorme hoeveelheden code genereren. In veel gevallen blijkt het echter niet-technisch personeel te zijn dat tokens verbruikt voor niet-gespecialiseerde taken.
"We zien uit sommige interne data in ieder geval dat het niet onze engineers zijn die het tokenverbruik drijven. Het zijn veelal de niet-engineers die dit soort gedrag vertonen [...] waar u over sprak," aldus Justice Kwak, hoofd van de agentic AI-strategie bij Accenture, tijdens een recente interne bijeenkomst, volgens de audio die door 404 Media is verkregen.
Groetjes,