Wat is Context Rot?
Context rot is de geleidelijke verslechtering van de prestaties van een AI-agent of assistent naarmate een sessie tokens accumuleert — waardoor het model de focus verliest op eerdere instructies, eerdere beslissingen tegenspreekt, zichzelf herhaalt, of faalt op taken die het eerder in dezelfde sessie correct uitvoerde.
Waarom het ertoe doet
Context rot is een van de meest voorkomende en minst erkende faalpatronen in productie-AI-toepassingen. Een model kan een taak perfect uitvoeren bij beurt 5, maar falen bij de identieke taak bij beurt 40 — niet omdat de taak veranderd is, maar omdat het contextvenster nu vol zit met irrelevante geschiedenis die de effectieve aandacht van het model verdunt.
Voor AI-coding assistants en langlopende agents wordt context rot doorgaans merkbaar na 30–60 minuten gebruik. Dit heeft een hele categorie tooling voortgebracht — van geheugencompressiesystemen tot sub-agent architecturen — die specifiek ontworpen zijn om het te voorkomen of te resetten.
Hoe het werkt
Context rot ontstaat door drie samengestelde factoren:
- Aandachtsverdunning — transformer-aandacht is verdeeld over alle tokens; meer tokens betekent proportioneel minder aandacht voor de cruciale tokens
- Instructiedrift — systeemprompts en vroege gebruikerscontext krijgen relatief minder aandacht naarmate de context groeit
- Ruisaccumulatie — mislukte tool-aanroepen, uitgebreide API-responses en tussentijdse redeneerstappen verdringen het signaal
Het resultaat is een model dat constraints "vergeet" die eerder gegeven zijn, terugvalt op standaardgedrag, of dezelfde fouten maakt die het in beurt 10 had gecorrigeerd.