Latent space manipulation

Latent space manipulation betekent dat je de getallen verandert waarmee een AI-model intern rekent terwijl het draait, om de uitkomst te veranderen. De invoer en het model zelf blijven hetzelfde. Onderzoekers lieten zo een gegenereerd gezicht ouder lijken of glimlachen, en bij chatbots heet hetzelfde idee activation steering. Voor een bedrijf telt het omdat het een vooroordeel kan blootleggen dat de antwoorden van een model niet laten zien.

Wat wordt er veranderd?

Een neuraal netwerk zet zijn invoer om in reeksen getallen: punten in zijn latent space. Die ruimte manipuleren betekent zo'n punt onderweg veranderen. Je kunt het verschuiven in een richting die voor een eigenschap staat, er een vector bij optellen of er getallen uit een ander model in mengen. De gewichten, waarin zit wat het model tijdens de training leerde, veranderen niet. Je hebt wel toegang tot de binnenkant van het model nodig, dus dit werkt bij modellen die je zelf draait, zoals open-weight modellen.

Waar komt het vandaan?

Het idee kreeg vorm bij beeldgeneratoren. Shen e.a. (InterFaceGAN, 2019) onderzochten GAN's die gezichten maken. Voor vijf eigenschappen (houding, glimlach, leeftijd, geslacht en bril) trainden ze een eenvoudige lineaire classifier op de latente codes van gegenereerde gezichten, 512 getallen per gezicht. Elke grens deelde de gezichten in hun validatieset in meer dan 95% van de gevallen goed in. Een code over zo'n grens schuiven veranderde die eigenschap: hetzelfde gezicht werd ouder, begon te glimlachen of draaide zijn hoofd. Gecombineerd met een methode die de code bij een bestaande foto zoekt, bewerkte het ook echte foto's, zonder het model opnieuw te trainen.

Hoe wordt het gebruikt bij taalmodellen?

• Sturen. Activation steering telt een richting op bij de activaties van een taalmodel terwijl het antwoordt, bijvoorbeeld om de toon te veranderen.
• Terugzetten wat het model verbergt. Een model kan informatie vasthouden die zijn antwoorden niet laten zien, en die informatie in de juiste laag terugzetten verandert de antwoorden, zoals het voorbeeld hieronder laat zien.
• Twee modellen koppelen. Het Bicameral Model (Flamant, Ghai en Shimizu, AWS, mei 2026) laat twee taalmodellen naast elkaar draaien, en een kleine getrainde koppeling vertaalt de hidden states van het ene model en mengt ze in het andere. Met een rekenmachine aan het tweede model haalden twee kleine modellen 96,5% bij rekenopgaven, tegen 36,2% voor één model alleen. Dat was de beste van 890 geteste configuraties.

Om een eigenschap bewust te veranderen, moet je eerst weten waar die zit. InterFaceGAN gebruikte daar classifiers voor. De natural language autoencoders (NLA's, mei 2026) van Anthropic zetten een activatie om in leesbare tekst. Anthropic gebruikte ze bij de alignment-audits van Claude Mythos Preview en Claude Opus 4.6 voor hun release, en waarschuwt dat de uitleg fout kan zijn.

Waar gaat het mis?

• Eigenschappen zitten aan elkaar vast. In de foto's waarvan de modellen van InterFaceGAN leerden, droegen oudere mensen vaker een bril, en de latent space had dat verband overgenomen: de ene eigenschap bewerken kon een andere veranderen. De onderzoekers haalden de overlap tussen twee richtingen weg, zodat ze bijvoorbeeld een bril konden toevoegen terwijl de leeftijd gelijk bleef.
• Een verandering kan elders iets kosten. In de tests van het Bicameral Model verlaagde de koppeling de score op de redactiesommen van GSM8K van 49,6% naar ongeveer 40% in alle 890 configuraties, en twee modellen in de pas laten draaien kan de rekenkracht verdubbelen.
• Toegang die reparaties mogelijk maakt, maakt ook misbruik mogelijk. Sturen kan de veiligheidstraining van een open-weight model uitschakelen, zoals beschreven bij activation steering.

Voorbeeld

Tripathy en Buckmann (mei 2026) testten open-weight modellen op het beoordelen van hypotheekaanvragen, met paren aanvragen die alleen verschilden in namen die met een etnische groep worden geassocieerd. De beslissingen toonden geen bias. Vanbinnen hielden de modellen de demografische informatie vast en versterkten ze die zelfs over hun lagen. Toen de onderzoekers die informatie in kritieke lagen terugzetten, draaiden de beslissingen bijna volledig om, en het effect werkte vooral in één demografische richting. De verborgen bias kwam ook naar boven met vijandige prompts of met parameter-efficient fine-tuning. De auteurs concluderen dat audits die alleen de uitvoer controleren tekortschieten, en stellen voor om bij modellen voor zulke beslissingen zowel de uitvoer als de interne representaties te testen.