Agentic RAG

Met agentic RAG zoekt een AI-assistent dingen op zoals een zorgvuldige onderzoeker dat doet. Gewone RAG (retrieval-augmented generation) doorzoekt je documenten één keer en antwoordt met wat het vindt. Bij agentic RAG bepaalt een AI-agent waarnaar hij zoekt, controleert hij of de resultaten de vraag beantwoorden, en zoekt hij opnieuw of ergens anders als dat niet zo is. Dat helpt bij vragen die één zoekopdracht niet beantwoordt.

Wat is het verschil met gewone RAG?

Anthropic vat het verschil in één zin samen (How we built our multi-agent research system, juni 2025): traditionele RAG haalt statisch op, dus de stukken tekst die het meest op de vraag lijken, en antwoordt daarmee. De Research-functie van Anthropic zoekt in meerdere stappen, vindt onderweg relevante informatie, past zich aan nieuwe vondsten aan en analyseert de resultaten. Het overzichtsartikel van Singh e.a. (januari 2025) definieert agentic RAG als RAG met autonome agents in de pijplijn, die met reflectie, planning, toolgebruik en samenwerking tussen agents het ophalen sturen.

Waar komt het idee vandaan?

Twee onderzoekslijnen leidden hierheen. In ReAct (Yao e.a., 2022) wisselt een model denkstappen af met acties, zoals opzoekingen via een eenvoudige Wikipedia-API. Op de vragensets HotpotQA en Fever ging dat de hallucinaties en de doorwerkende fouten tegen die chain-of-thought zonder acties laat zien. Self-RAG (Asai e.a., 2023) traint een model om alleen op te halen als dat nodig is, en om zowel de opgehaalde passages als zijn eigen antwoord te beoordelen, in plaats van altijd een vast aantal passages toe te voegen.

Hoe werkt het?

De tutorial voor een RAG-agent van LangChain laat de basislus zien:

1. De agent beslist of de vraag een zoekopdracht nodig heeft of direct te beantwoorden is.
2. Hij zoekt met een retriever-tool, bijvoorbeeld in een vectordatabase.
3. Een model beoordeelt of de gevonden documenten relevant zijn voor de vraag.
4. Zijn ze dat niet, dan herschrijft de agent de vraag en zoekt hij opnieuw; zijn ze dat wel, dan schrijft hij het antwoord.

De zoektool hoeft geen vectorzoekopdracht te zijn. Voor gestructureerde data raadt OpenAI aan (maart 2026) het model een beschrijving van de databasetabellen te geven en het zelf de rijen te laten opvragen die het nodig heeft, in plaats van een hele spreadsheet in de prompt te plakken. Grotere systemen verdelen het werk: in de Research-functie van Anthropic plant een hoofdagent de zoektocht en stuurt hij subagents uit die tegelijk zoeken.

Waar gaat het mis?

• Kosten. In de data van Anthropic gebruiken agents ongeveer 4× zoveel tokens als een chatgesprek en multi-agentsystemen ongeveer 15×, dus de taak moet het waard zijn. Programmatic tool calling houdt tussenresultaten van tools buiten de context van het model; in tests van Anthropic (november 2025) daalde het gemiddelde verbruik bij complexe onderzoekstaken van 43.588 naar 27.297 tokens.
• Overkill. Voor veel toepassingen is één goed voorbereide modelaanroep met retrieval genoeg, schrijft Anthropic in Building effective agents.
• Open problemen. Singh e.a. noemen evaluatie, afstemming tussen agents, geheugenbeheer, efficiëntie en governance als onopgelost.

Voorbeeld

Stel: een accountantskantoor vraagt zijn assistent: "Welke klanten hebben in de afgelopen twaalf maanden meer dan twee keer te laat betaald, en wat zeggen onze voorwaarden over rente?" Gewone RAG doorzoekt de documenten één keer. Een agentic opzet vraagt in de facturatiedatabase de late betalingen op, zoekt de renteclausule op in de algemene voorwaarden, ziet dat twee klanten eigen contractvoorwaarden hebben, haalt die contracten op en antwoordt pas dan, met een link naar elke bron.