Ga naar de hoofdinhoud
BVDNET
Arnhem · websites & automatiseringBVDNET
Modellen & Architectuur

Bicameral Model

Het Bicameral Model is een onderzoeksontwerp uit mei 2026 waarin twee AI-taalmodellen als paar werken en interne signalen uitwisselen in plaats van tekst.

Ook bekend als: bicameral architecture, hidden-state coupling

Het Bicameral Model is een onderzoeksontwerp uit mei 2026 waarin twee AI-taalmodellen als paar werken: het ene schrijft het antwoord, het andere bedient een hulpmiddel zoals een rekenmachine. Ze wisselen signalen uit via een kleine getrainde verbinding binnen de modellen, in plaats van tekst te schrijven. In een labtest haalde een klein model dat ongeveer een derde van zijn sommen goed had, zo meer dan 96%.

Drie onderzoekers van AWS, Cedric Flamant, Udaya Ghai en Kanna Shimizu, publiceerden het ontwerp op 11 mei 2026 op arXiv (The Bicameral Model). Bicameral betekent "met twee kamers". Het blogartikel Kunnen twee taalmodellen samenwerken zonder tekst uit te wisselen? behandelt het paper uitgebreider.

Hoe werkt het?

Een taalmodel zet elk token, een woord of stuk van een woord, om in een reeks getallen die het laag voor laag verfijnt. Dat zijn zijn hidden states. Het Bicameral Model laat twee modellen naast elkaar draaien, in hetzelfde ritme: elk genereert per stap één token.

  • Het primaire model stuurt de taak aan en schrijft het antwoord dat de gebruiker ziet.
  • Het hulpmodel bedient een tool: een rekenmachine, de constraint solver Z3 of een Python-sandbox.
  • Een neurale interface leest op een gekozen laag de hidden state van het ene model, vertaalt die naar de representatieruimte van het andere model en mengt hem daarin: eerst van het primaire model naar het hulpmodel, dan terug. Een aangeleerde poort, de suppression gate, bepaalt hoeveel van dat signaal het ontvangende model toelaat.

Alleen de interface wordt getraind; de gewichten van beide modellen blijven bevroren. Hij is klein: 16 miljoen parameters in de rekenopstelling en 21 miljoen voor de logigrammen, naast twee modellen van 0,5 of 0,6 miljard parameters. De training is supervised fine-tuning op de uitvoer van beide modellen.

Het hulpmodel roept zijn tool nog wel in tekst aan. Gevraagd wat 4 keer 3 is, schrijft het calc(4*3), en de uitkomst komt terug in zijn eigen stroom. Het primaire model ziet die tekst nooit: het krijgt de uitkomst alleen via de koppeling binnen, en schrijft het antwoord, 12.

Wat lieten de tests zien?

  • Rekenen: twee exemplaren van Qwen2.5-0.5B-Instruct haalden met een rekenmachine 96,5%, tegen 36,2% voor één model alleen. Dat is de beste van 890 configuraties van welke lagen worden gekoppeld; 95,4% daarvan deed het beter dan het losse model. Dezelfde interface zonder hulpmodel haalde 48,0%: de winst komt dus van het hulpmodel en zijn tool.
  • Logigrammen: twee exemplaren van Qwen3-0.6B met Z3 scoorden 64,7% op ZebraLogic, 1,7 keer de 37,5% van één model alleen in de denkmodus.
  • Wiskunde met Python: twee exemplaren van Qwen3-4B scoorden 62,5% op de MATH-benchmark, lager dan de 81,6% van één model alleen in de denkmodus. Het paar loste wel 127 opgaven op die de denkmodus miste.

Waar schiet het tekort?

  • Twee modellen in hetzelfde ritme laten draaien kan de benodigde rekenkracht verdubbelen.
  • De koppeling maakt slechter wat het model al goed kan: op de redactiesommen van GSM8K zakte de score van 49,6% naar ongeveer 40%, in alle 890 configuraties.
  • De training vraagt om taakspecifieke data, geannoteerd met wanneer het hulpmodel mag handelen.
  • Alle gerapporteerde resultaten gebruiken twee exemplaren van hetzelfde model, van 0,5 tot 4 miljard parameters. Een eerste koppeling van een primair model van 32B met een hulpmodel van 0,6B werkte, maar was niet geoptimaliseerd, en de daling bij redactiesommen bleef.

Hoe verschilt het van andere multi-agentopstellingen?

In een multi-agentsysteem, of wanneer een model een tool aanroept via function calling, communiceren modellen door tekst te genereren, het ene bericht na het andere. Eerdere methoden die in plaats daarvan interne toestanden delen, zoals C2C (dat de KV-cache van het ene model in die van het andere voegt), LatentMAS en ThoughtComm, doen dat één keer of tussen de beurten door. Volgens de auteurs verschilt het Bicameral Model van al deze aanpakken omdat de koppeling in beide richtingen loopt, bij elk gegenereerd token.