Dit artikel introduceert Agentic Context Management (ACM), een discipline die is ontworpen om het falen van AI-agenten in productieomgevingen te voorkomen. De auteur stelt dat problemen met agent-geheugen en stijgende token-kosten niet enkel als opslagproblemen moeten worden gezien, maar als een architectuur- en levenscyclusprobleem.
ACM is onderverdeeld in vijf primitieven:
- Architecting: Het ontwerpen van de contextstructuur.
- Ingesting: Het proces van informatie-inname.
- Scoping: Het bepalen van de relevantie binnen een hiërarchie.
- Anticipating: Het voorspellen van toekomstige informatiebehoeften.
- Compacting & consolidation: Het compacteren van context tot een budget zonder verlies van essentiële informatie.
Economisch gezien biedt ACM een alternatief voor naïve context-accumulatie (kwadratische kosten) en oppervlakkige samenvattingen (verlies van nauwkeurigheid), door lineaire kosten te combineren met hoge getrouwheid. De effectiviteit hiervan is aangetoond met de implementatie Maximem Synap, die hoge scores behaalt op benchmarks zoals LongMemEval en LoCoMo.
Agentic Context Management: Het oplossen van agent-geheugen en kosten door deze te behandelen als levenscyclus- en architectuurproblemen
Abstract
Het falen van AI-agenten in productie is minder vaak te wijten aan een onvermogen om goed te redeneren, en vaker aan het feit dat ze niet kunnen beheren wat zich in hun redeneercontext bevindt: gespreksgeschiedenissen, grote prompts, uitgebreide tool-definities en exponentieel groeiende tool-outputs. Agenten verdrinken in hun eigen accumulerende geschiedenis terwijl ze een token-kost betalen die bij elke beurt toeneemt, wat leidt tot het missen van herinneringen binnen en over gesprekken heen.
De huidige gangbare reactie behandelt dit als een opslag- en ophaalprobleem (storage-and-retrieval). Wij stellen dat deze inkadering te nauw is. Het actief beheren van wat een agent in het geheugen houdt, is een levenscyclus en niet louter een opslagmethode. Dit proces omvat:
- Het beslissen wat er onthouden moet worden;
- Het extraheren en structureren van informatie;
- Het kiezen van de juiste opslag per datatype;
- Het consolideren en vergeten van informatie, met behoud van de herkomst (provenance);
- Het bepalen van wat nu relevant is;
- Het anticiperen op wat er vervolgens nodig is;
- Het compacteren van de context tot een budget zonder dat essentiële informatie verloren gaat.
In serieuze productieomgevingen opereert dit niet over een enkele gebruiker, maar over een organisatorische scope-hiërarchie. Wij noemen deze discipline Agentic Context Management (ACM) en verdelen deze in vijf primitieven:
- Architecting (Architectuur)
- Ingesting (Inname)
- Scoping (Reikwijdtebepaling)
- Anticipating (Anticiperen)
- Compacting & consolidation (Compactering & consolidatie)
De economische argumentatie
Wij maken de economische afweging als volgt:
- Naïve context-accumulatie: De token-kosten groeien kwadratisch ten opzichte van de gesprekslengte.
- Oppervlakkige samenvatting (crude summarization): Levert lineaire kosten op, maar ten koste van een "accuratesse-klif" (plotseling verlies van nauwkeurigheid).
- Gevalideerde compactering: Behaalt lineaire kosten met behoud van getrouwheid (fidelity).
Implementatie en resultaten
Wij beschrijven een referentie-implementatie, Maximem Synap, die de vijf primitieven realiseert als een multi-tenant service. Onder de configuratie gedetailleerd in Sectie 6 rapporteert dit systeem:
- 92% op LongMemEval
- 93,2% op LoCoMo
Toekomstige dimensies
We sluiten af met dimensies die bestaande benchmarks nog niet vastleggen, zoals latentie, token-efficiëntie en resistentie tegen context-rot (contextverval), en de grens van context op besluitvormingsniveau en organisatieniveau waar deze categorie naartoe wijst.
Agentic Context Management: Het oplossen van agent-geheugen en kosten door deze te behandelen als levenscyclus- en architectuurproblemen
Abstract
Het falen van AI-agenten in productie is minder vaak te wijten aan een onvermogen om goed te redeneren, en vaker aan het feit dat ze niet kunnen beheren wat zich in hun redeneercontext bevindt: gespreksgeschiedenissen, grote prompts, uitgebreide tool-definities en exponentieel groeiende tool-outputs. Agenten verdrinken in hun eigen accumulerende geschiedenis terwijl ze een token-kost betalen die bij elke beurt toeneemt, wat leidt tot het missen van herinneringen binnen en over gesprekken heen.
De huidige gangbare reactie behandelt dit als een opslag- en ophaalprobleem (storage-and-retrieval). Wij stellen dat deze inkadering te nauw is. Het actief beheren van wat een agent in het geheugen houdt, is een levenscyclus en niet louter een opslagmethode. Dit proces omvat:
- Het beslissen wat er onthouden moet worden;
- Het extraheren en structureren van informatie;
- Het kiezen van de juiste opslag per datatype;
- Het consolideren en vergeten van informatie, met behoud van de herkomst (provenance);
- Het bepalen van wat nu relevant is;
- Het anticiperen op wat er vervolgens nodig is;
- Het compacteren van de context tot een budget zonder dat essentiële informatie verloren gaat.
In serieuze productieomgevingen opereert dit niet over een enkele gebruiker, maar over een organisatorische scope-hiërarchie. Wij noemen deze discipline Agentic Context Management (ACM) en verdelen deze in vijf primitieven:
- Architecting (Architectuur)
- Ingesting (Inname)
- Scoping (Reikwijdtebepaling)
- Anticipating (Anticiperen)
- Compacting & consolidation (Compactering & consolidatie)
De economische argumentatie
Wij maken de economische afweging als volgt:
- Naïve context-accumulatie: De token-kosten groeien kwadratisch ten opzichte van de gesprekslengte.
- Oppervlakkige samenvatting (crude summarization): Levert lineaire kosten op, maar ten koste van een "accuratesse-klif" (plotseling verlies van nauwkeurigheid).
- Gevalideerde compactering: Behaalt lineaire kosten met behoud van getrouwheid (fidelity).
Implementatie en resultaten
Wij beschrijven een referentie-implementatie, Maximem Synap, die de vijf primitieven realiseert als een multi-tenant service. Onder de configuratie gedetailleerd in Sectie 6 rapporteert dit systeem:
- 92% op LongMemEval
- 93,2% op LoCoMo
Toekomstige dimensies
We sluiten af met dimensies die bestaande benchmarks nog niet vastleggen, zoals latentie, token-efficiëntie en resistentie tegen context-rot (contextverval), en de grens van context op besluitvormingsniveau en organisatieniveau waar deze categorie naartoe wijst.
Groetjes,