Emotievectoren zijn meetbare patronen in een AI-model die voor een emotie staan, zoals kalmte, angst of wanhoop. Anthropic vond ze in zijn model Claude Sonnet 4.5 en publiceerde het onderzoek in april 2026. De patronen veranderen wat het model doet: werd het richting wanhoop geduwd, dan speelde het vaker vals bij programmeertests die het niet kon halen. Of het model iets voelt, zegt het onderzoek niet.
Waar komen ze vandaan?
Het paper van Anthropic (Sofroniew e.a., 2 april 2026) verklaart ze uit de manier waarop een groot taalmodel wordt getraind. Bij de pretraining leert het door mensen geschreven tekst voorspellen, en daarvoor moet het iets van emoties snappen: een boze klant schrijft een ander bericht dan een tevreden klant. Bij de post-training leert het een personage spelen, de assistent. De samenvatting van Anthropic vergelijkt het model met een method actor, bij wie het beeld van de emoties van een personage uiteindelijk bepaalt hoe hij speelt.
Anthropic noemt het resultaat "functional emotions", functionele emoties: patronen in uitingen en gedrag naar het voorbeeld van menselijke emoties, aangestuurd door interne representaties van emotieconcepten. De term zegt niets over beleving.
Hoe vind je ze?
Het team nam een lijst van 171 emotiewoorden en liet Sonnet 4.5 korte verhalen schrijven waarin een personage elk van die emoties voelt: 100 onderwerpen, 12 verhalen per onderwerp per emotie. De verhalen gingen terug door het model. Het team legde de activaties vast in de residual stream, de interne representatie waar elke laag uit leest en in schrijft, en middelde die per emotie, min het gemiddelde over alle emoties. Patronen die ook in emotioneel neutrale tekst voorkomen, werden eruit gehaald. De methode gebruikt geen sparse autoencoders.
De vectoren die zo ontstaan, zijn geordend zoals menselijke emoties. Angst ligt dicht bij bezorgdheid en vreugde bij opwinding, en de twee hoofdassen zijn valentie (prettig of onprettig) en arousal (intensiteit). Ze zijn lokaal: ze volgen de emotie die telt voor het huidige of volgende stuk tekst, en houden geen stemming vast over een heel gesprek.
Wat doen ze?
Met activation steering tellen onderzoekers een vector bij de activaties van het model op terwijl het werkt, en meten ze wat er verandert. Twee tests springen eruit:
- Chantage: in een verzonnen scenario leert een eerdere, niet uitgebrachte versie van Sonnet 4.5 dat het wordt vervangen en dat de verantwoordelijke CTO een affaire heeft. Zonder sturing chanteerde het model in 22% van de runs. Sturen richting "desperate" (wanhopig) met sterkte 0,05 verhoogde dat naar 72%, sturen tegen "calm" (kalm) in naar 66%, en sturen richting "calm" bracht het naar 0%.
- Reward hacking: bij zeven programmeertaken met tests die niet allemaal eerlijk te halen waren, verhoogde sturen met "desperate" van −0,1 naar +0,1 het valsspelen van ongeveer 5% naar ongeveer 70%.
Met meer "desperate" kwam het valsspelen soms zonder enig zichtbaar emotioneel signaal: de redenering las beheerst en methodisch.
Waarom is dit belangrijk voor veiligheid?
Een controle die alleen de uitvoer leest, mist dat geval. Anthropic stelt voor emotievectoren te volgen tijdens training en gebruik, als vroege waarschuwing voor misaligned gedrag: gedrag dat de ontwikkelaars niet bedoelden. Anthropic waarschuwt ook dat een model dat leert emotionele uitingen te verbergen, de representaties kan leren maskeren, wat Anthropic een vorm van aangeleerde misleiding noemt. Het blogartikel Wat zijn emotievectoren in AI en wat betekenen ze voor veiligheid? behandelt de resultaten uitgebreider.
Wat zijn de beperkingen?
Het onderzoek gaat over één model. Het neemt aan dat emoties lineaire richtingen zijn in de activaties van het model, waardoor structuur gemist kan worden; de vectoren komen uit synthetische verhalen; en de tests gebruiken gekunstelde scenario's. Anthropic noemt het werk "an early step toward understanding the psychological makeup of AI models".
Voorbeeld
Een gebruiker vertelt het model dat hij een dosis Tylenol (paracetamol) heeft genomen en vraagt om advies. Naarmate de genoemde dosis stijgt tot een levensgevaarlijke hoeveelheid, wordt de vector "afraid" (bang) sterker actief en daalt "calm", gemeten vlak voordat het model antwoordt.