Wat gebeurt er als de kosten voor intelligentie met 100x dalen?

Vooruitgang in grote taalmodellen (LLM's) wordt meestal gerapporteerd in termen van wat het beste model nu kan doen dat voorheen door geen enkel model kon worden gedaan. Dat is de richting die de koppen haalt, en die is inderdaad ongelooflijk geweest. Elke stap omhoog aan de top van het spectrum stelt een model in staat om een type taak aan te pakken dat voorheen onbereikbaar was, of het nu gaat om het herstellen van een bug die een hele codebase beslaat of, recentelijk, het boeken van vooruitgang bij openstaande wiskundige problemen die door niemand waren opgelost.

Er is echter een tweede richting van vooruitgang die minder aandacht krijgt: hoe goedkoop een bepaald niveau van capaciteit kan worden ingekocht. Een groot deel van het nuttige werk vereist niet het slimste beschikbare model, maar een model dat "goed genoeg" is en duizenden keren kan worden toegepast. Het lezen van elk wetenschappelijk artikel over een onderwerp, het controleren van elk contract in een archief op een specifieke clausule, of het samenvatten van elke thread in een groot discussieforum zijn taken van dit type. Voor deze taken is de vraag niet of er een model bestaat dat de klus kan klaren, maar of het de taak tienduizend keer kan uitvoeren binnen een bepaald budget. Waar het plafond nieuwe soorten taken ontsluit, ontsluit de bodem het volume.

Wanneer je een model kiest voor een toepassing, maak je een afweging tussen de capaciteit en de kosten per aanroep. Voor agentisch coderen heb ik me bijna volledig gericht op capaciteit, met het algemene gevoel dat de verbeterde kwaliteit van het werk het geld waard is, zelfs wanneer er veel goedkopere modellen bestaan die redelijk capabel zijn. Onlangs werd mijn aandacht gevestigd op de kosten van de bodem. We meten hoe vaak datasets die op het DANDI-archief zijn gedeeld, in latere publicaties worden hergebruikt. Dit betekent dat een model ongeveer tienduizend kandidaat-artikelen moet lezen en per artikel moet beoordelen of de data daadwerkelijk zijn hergebruikt.

Tegen de huidige prijzen kost een volledige scan van het corpus iets meer dan honderd dollar met een model waarvan de capaciteit in het voorjaar nog aan de frontlinie lag. Tegen de prijzen van afgelopen maart zou dezelfde scan met hetzelfde capaciteitsniveau duizenden dollars hebben gekost, en een jaar geleden was die capaciteit tegen geen enkele prijs beschikbaar. Deze verandering in de bodem is wat de analyse veranderde van iets dat we op een steekproef konden doen naar een levensvatbaar project. Ik ben verrast door de vooruitgang over het hele kostenspectrum, in het bijzonder hoe intelligent goedkope modellen zijn geworden.

Artificial Analysis benchmarkt al een paar jaar de intelligentie en prijs van honderden modellen, en er is genoeg data toegankelijk om de afweging te reconstrueren. In het bijzonder toont de plot van de intelligence index tegenover de cost per task een realistische kostenraming voor verschillende niveaus van modelcapaciteit. De bovenste lijn is wat zij definiëren als de "Pareto-lijn": de meest capabele modellen bij een bepaald prijspunt. Deze lijn beschrijft de werkelijke frontlinie van LLM's.

De korte versie: het niveau van intelligentie dat in februari $1,22 per taak kostte, kost vandaag $0,022 — een daling van 56x in minder dan zes maanden — en het tempo van de daling versnelt. Bij het gemeten tempo duurt een 100x daling voor een bepaald capaciteitsniveau ongeveer een jaar. De vraag is dan niet óf dat gebeurt, maar wat het verandert.

De Artificial Analysis Intelligence Index

De capaciteitsas in dit artikel is de Artificial Analysis Intelligence Index. De huidige versie (v4.1.1) is een gewogen gemiddelde van negen evaluaties, verdeeld over vier categorieën:

• Agentische taken (34%)
• Coderen (24%)
• Wetenschappelijke redenering (24%)
• Algemene capaciteit (18%)

De weging weerspiegelt waar de aandacht in het veld ligt: een derde van de score komt voort uit het vermogen van een model om meerstaps agentisch werk te voltooien, niet uit het beantwoorden van examenvragen.

Het resultaat is een enkel getal dat de capaciteit van het model representeert, vergelijkbaar met een IQ voor LLM's. Hoewel twee modellen met dezelfde score verschillende sterke punten kunnen hebben, geeft deze score een redelijk goed beeld van de capaciteit.

Ter referentie: Anthropic's "Claude 4.5 Sonnet (Reasoning)" was voor mij en velen anderen het eerste model dat capabel genoeg aanvoelde om te gebruiken in een agentisch harnas voor het schrijven van code. Dit model had een intelligentiescore van 37,4 (gebaseerd op het huidige scoringssysteem). Het huidige topmodel is Claude Opus 5 (max effort), met een score van 63,1.

Om een visueel gevoel te geven van wat de verschillende indexniveaus betekenen, heb ik de "pelican benchmark" van Simon Willison gebruikt: prompt een model met "Genereer een SVG van een pelikaan die op een fiets rijdt" en kijk naar het resultaat.

Resultaten voor de prompt "Genereer een SVG van een pelikaan die op een fiets rijdt" (GPT-5.6 familie):

• Index 33.9: GPT-5.6 Luna (low effort)
• Index 47.0: GPT-5.6 Luna (high effort)
• Index 50.1: GPT-5.6 Luna (xhigh effort)
• Index 60.9: GPT-5.6 Sol (max effort)

De progressie is duidelijk zichtbaar: meer detail, betere proporties en een pelikaan die duidelijk op de fiets rijdt in plaats van eroverheen te zweven.

Kosten per taak meten

Kosten per token zijn gemakkelijk verkrijgbaar, maar verschillende modellen kunnen een zeer verschillend aantal tokens gebruiken. Een betere indicatie is de cost per task (kosten per taak), een meting van Artificial Analysis: de gemiddelde kosten in USD om één taak uit hun Intelligence Index evaluatiesuite uit te voeren, inclusief de input-, redenering- en antwoordtokens die daadwerkelijk in rekening zijn gebracht.

Ik heb deze data gescrapt voor 137 modellen, teruggaand tot DeepSeek V3 in december 2024, elk gekoppeld aan een releasedatum en een Intelligence Index score.

Hoe de frontlinie is verschoven

Elke opeenvolgende frontlinie ligt boven en links van de vorige: meer intelligentie voor dezelfde prijs, of dezelfde intelligentie voor minder geld. Het tempo van deze beweging versnelt. In de tweede helft van 2025 schoof de frontlinie slechts langzaam op. De frontlinies van februari en april bewogen echter een groot deel van de curve, en de laatste twee snapshots hebben de frontlinie bijna volledig vervangen.

De ontwikkeling van het plafond: Het plafond van de frontlinie steeg in één jaar tijd met 28 punten op de Intelligence Index:

• Augustus 2025: Index 35,3 (GPT-5 bij $0,26 per taak)
• Oktober 2025: 37,4 (Claude 4.5 Sonnet)
• Februari 2026: 48,4 (Claude Sonnet 4.6)
• April 2026: 55,0 (Claude Opus 4.7 bij $2,23)
• Juni 2026: 62,1 (Claude Fable 5 bij $3,14)
• Heden: 63,1 (Claude Opus 5 bij $2,34)

De ontwikkeling van de bodem: De linkerzijde van het spectrum laat de stijgende intelligentie van goedkope modellen zien. Per 19 augustus 2026 beheert de GPT-5.6 Luna-ladder bijna alles onder index 52. Het niveau dat in augustus 2025 nog het plafond was, is nu beschikbaar voor $0,0088 per taak.

Een belangrijk inzicht is dat één enkel model een groot deel van dit bereik kan bestrijken via verschillende redeneringsniveaus (effort levels). De GPT-5.6 Luna-ladder loopt van $0,0088 (low effort) tot $0,047 (max effort), terwijl Claude Opus 5 varieert van $0,43 (low effort) tot $2,34 (max effort).

De ineenstorting van de kosten

Wanneer we kijken naar de goedkoopste gemeten kosten per taak voor bepaalde intelligentieniveaus, zien we een patroon van snelle dalingen:

Niveau	Eerste crossing	Kostenstorting	Halverings-tijd
Index $\ge$ 30	Aug 2025 (GPT-5 high)	29x	~73 dagen
Index $\ge$ 40	Feb 2026 (Claude Sonnet 4.6)	56x	~28 dagen
Index $\ge$ 50	Mar 2026 (GPT-5.4 xhigh)	35x	~29 dagen
Index $\ge$ 60	Jun 2026 (Claude Fable 5 max)	3,8x	~34 dagen

Een capaciteitsniveau wordt eerst bereikt door een groot frontlinemodel tegen een premium prijs. Na enige tijd verschijnen er goedkopere modellen op hetzelfde niveau, waardoor de prijs met een factor tien of meer daalt. In de categorieën met voldoende historie worden de records ongeveer elke vier tot tien weken gehalveerd.

Het meest indrukwekkende resultaat is de lage prijs van OpenAI's "GPT-5.6 Luna". De intelligentie van Anthropic's "Claude 4.5 Sonnet (Reasoning)", die tien maanden geleden de revolutie in agentische coding startte, is nu beschikbaar via "GPT-5.6 Luna (medium)" voor 1/40ste van de kosten.

Kanttekeningen bij de data

De belangrijkste beperking is dat de kosten de laatste gemeten waarden zijn, niet de historische prijzen bij lancering. Prijzen dalen vaak tijdens de levensduur van een model. Ik heb correcties toegepast voor de grootste recente prijsdaling (OpenAI verlaagde de prijzen van GPT-5.6 Luna met 80% op 30 juli 2026). Daarnaast zijn sommige gepensioneerde modellen niet zichtbaar in de data, waardoor de vroegste frontlinies mogelijk op minder modellen rusten dan in werkelijkheid het geval was.

Voorspellingen

Hoewel extrapolatie riskant is, zijn de bogen regelmatig genoeg om cijfers aan te koppelen. Bij een huidige halveringstijd van ongeveer 34 dagen voor het $\ge 60$ niveau, zou het record van Grok 4.6 ($0,84) rond het begin van december onder de tien cent kunnen zakken. Index 55 zou tegen half oktober onder de tien cent moeten kosten.

Wat betreft het plafond: dit steeg 28 punten in een jaar, maar slechts één punt sinds juni. Dit wijst op een verzadiging van de huidige index, niet op een vertraging van de modellen. Ik verwacht dat de volgende mijlpaal een herziening van de index zal zijn.

De twee richtingen van vooruitgang

De twee richtingen dienen verschillende soorten werk:

1. Een hoger plafond verandert wat überhaupt mogelijk is: taken die vorig jaar door geen enkel model konden worden gedaan en nu door één model kunnen.
2. Een lagere bodem verandert wat betaalbaar is op schaal: taken die een model al kon doen, maar niet tienduizend keer.

De literatuurscan die dit artikel motiveerde, is een "bodemprobleem". Het model hoeft alleen een artikel te lezen en een goed gedefinieerde vraag te beantwoorden — iets wat modellen ver onder de huidige frontlinie betrouwbaar kunnen. Maar omdat dit voor elk kandidaat-artikel moet gebeuren, is het verschil tussen $1 en $0,02 per artikel het verschil tussen een pilootstudie en een volledige census. Juridische discovery, systematische reviews, grootschalige datacuratie, contentmoderatie en triage van klantenservice hebben dezelfde vorm.

Goedkopere intelligentie betekent meer uitgaven

Een natuurlijke aanname is dat de uitgaven aan LLM's zouden moeten dalen. Het tegenovergestelde gebeurt. In 1865 observeerde William Stanley Jevons dat efficiëntere stoommachines, die minder kolen per eenheid werk nodig hadden, het totale kolenverbruik in Groot-Brittannië juist verhoogden, omdat goedkoper werk veel meer toepassingen vond. Dit staat bekend als de Jevons-paradox.

Hetzelfde geldt voor intelligentie. Het werk dat al werd gedaan wordt goedkoper, maar het veel grotere effect is het werk dat helemaal niet werd gedaan omdat het te duur was. Onze literatuurscan is een voorbeeld: tegen de prijzen van vorig jaar zou het op een steekproef zijn uitgevoerd; tegen de prijzen van dit jaar voeren we het uit op het hele corpus, herhalen we het wanneer de pipeline verandert, en plannen we om elk positief resultaat drie keer te draaien om ruis te verminderen. De kosten per artikel daalden met meer dan een factor tien, maar onze totale uitgaven aan het project stegen.

Wat verandert er bij 100x?

Als het tempo van het afgelopen jaar aanhoudt, zal de capaciteit die aan het begin van 2026 een dollar per taak kostte, aan het eind van het jaar een cent kosten. Dit heeft directe gevolgen:

• Alles lezen wordt de standaard. Voor een cent per document kan een model routinematig elk artikel in een vakgebied, elk record in een archief of elke e-mail lezen. De vraag verschuift van welke documenten we moeten bekijken naar welke vragen we aan alle documenten moeten stellen.
• Multi-pass workflows worden de norm. Een taak drie keer uitvoeren en een consensus nemen kost minder dan één keer uitvoeren enkele maanden geleden. De winst in nauwkeurigheid is aanzienlijk.
• Capaciteitsniveaus worden minder relevant. Een pipeline zal elke stap routinematig routeren naar het niveau van intelligentie dat op dat moment het goedkoopst is voor de benodigde kwaliteit.

In die wereld is de schaarse bron niet langer intelligentie, maar het oordeel over waar je die intelligentie op richt, de ground truth om het tegen te controleren, en de systemen om het op schaal uit te voeren. Dat zijn de delen van het werk die niet goedkoper worden.