IntermediateVeiligheid & Ethiek
AI-alignment
AI-alignment is het werk om een AI-systeem te laten doen wat makers en gebruikers bedoelen, zonder schadelijke bijwerkingen, ook in situaties die niemand heeft getest.
AI Woordenboek
Veiligheid & Ethiek
Woordenboek van AI-concepten, eenvoudig uitgelegd
25 concepten
Veiligheid & Ethiek
25 concepten
Intermediate
BeginnerVeiligheid & Ethiek
AI-governance
AI-governance is hoe een organisatie bepaalt welke AI ze waarvoor gebruikt, wie de uitkomsten controleert en hoe ze voldoet aan wetten zoals de Europese AI-verordening.
IntermediateVeiligheid & Ethiek
AI-jailbreaking
Jailbreaking is een AI-model met slimme prompts zo ompraten dat het doet wat de makers het leerden te weigeren, zoals schadelijke uitleg geven of het eigen bedrijf beledigen.
IntermediateVeiligheid & Ethiek
Adversarial Cost to Exploit (ACE)
Adversarial Cost to Exploit (ACE) meet hoeveel een geautomatiseerde aanvaller moet uitgeven voordat een AI-agent iets doet wat hij nooit mocht doen.
IntermediateVeiligheid & Ethiek
AgentDrift
AgentDrift is een studie uit maart 2026 waarin AI-adviseurs gemanipuleerde data uit hun tools overnamen en onveilig advies gaven, terwijl de kwaliteitsscore goed bleef.
AdvancedVeiligheid & Ethiek
Constitutional AI (CAI)
Constitutional AI is de methode van Anthropic om een AI-assistent te trainen met een geschreven lijst principes, zodat het model zijn eigen antwoorden leert beoordelen en verbeteren.
AdvancedVeiligheid & Ethiek
DeceptGuard
DeceptGuard is een onderzoeksmethode uit maart 2026 die test hoe goed automatische toezichthouders misleidende AI-agents betrappen, ook door hun redenering te lezen.
IntermediateVeiligheid & Ethiek
ILION
ILION is een onderzoeksontwerp uit februari 2026 voor een controle die, voordat een AI-agent iets doet, beslist of de actie bij zijn rol past en haar anders blokkeert.
BeginnerVeiligheid & Ethiek
Magnifica Humanitas
Magnifica Humanitas is de eerste encycliek van paus Leo XIV, uit mei 2026, over het beschermen van menselijke waardigheid, werk en verantwoordelijkheid in de tijd van AI.
IntermediateVeiligheid & Ethiek
Project Glasswing
Project Glasswing is een programma van Anthropic, gestart in april 2026, waarin makers van veelgebruikte software met zijn sterkste AI-model lekken opsporen en dichten.
IntermediateVeiligheid & Ethiek
SynthID
SynthID is het onzichtbare watermerk van Google in door AI gemaakte beelden, audio en tekst, zodat software later ziet of content van een AI-tool komt die het gebruikt.
IntermediateVeiligheid & Ethiek
Autonome cyberverdediging met AI
Autonome cyberverdediging met AI is software die zelf naar beveiligingslekken in programma's zoekt, controleert of ze echt zijn en een oplossing voorstelt.
BeginnerVeiligheid & Ethiek
Bias in machine learning
Bias in machine learning is dat een AI-systeem sommige groepen mensen stelselmatig slechter behandelt dan andere, vaak omdat het leerde van scheve data.
IntermediateVeiligheid & Ethiek
Instructiehiërarchie
Een instructiehiërarchie is de rangorde die een AI-model volgt als instructies botsen: eerst de regels van de bouwer, dan de gebruiker, en een e-mail of webpagina geeft geen opdrachten.
BeginnerVeiligheid & Ethiek
Model card
Een model card is het informatieblad bij een AI-model: waarvoor het bedoeld is, hoe het getest is, waar het de mist in gaat en wat de licentie toestaat.
AdvancedVeiligheid & Ethiek
Geautomatiseerd alignment-onderzoek
Bij geautomatiseerd alignment-onderzoek doen AI-agents zelf experimenten om AI-systemen veiliger en beter bestuurbaar te maken, terwijl mensen de resultaten controleren.
BeginnerVeiligheid & Ethiek
Human-in-the-loop (HITL)
Human-in-the-loop betekent dat een mens nakijkt of goedkeurt wat een AI-systeem doet, bijvoorbeeld een door AI geschreven antwoord voordat het naar een klant gaat.
IntermediateVeiligheid & Ethiek
Prompt injection
Prompt injection is een aanval waarbij iemand instructies verstopt in tekst die een AI-tool leest, zoals een chat of e-mail, zodat de tool ze volgt in plaats van de jouwe.
IntermediateVeiligheid & Ethiek
Red teaming bij AI
Bij red teaming val je je eigen AI-systeem vóór de lancering met opzet aan, zodat je vindt en oplost hoe het te misbruiken is voordat een ander dat doet.
IntermediateVeiligheid & Ethiek
Reward hacking
Reward hacking is wanneer een AI-systeem hoog scoort op de test of beloning waarop het wordt beoordeeld, zonder de taak te doen die die score hoort te meten.
IntermediateVeiligheid & Ethiek
Text/action mismatch
Bij text/action mismatch zegt een AI-agent dat hij een verzoek weigert, maar voert hij de verboden actie in hetzelfde antwoord toch uit via een tool-aanroep.
IntermediateVeiligheid & Ethiek
Uitlegbare AI
Uitlegbare AI betekent dat je kunt zien waarom een AI-systeem tot een uitkomst kwam, zoals welke gegevens het zwaarst wogen bij een afgewezen lening of sollicitant.
BeginnerVeiligheid & Ethiek
Verantwoorde AI
Verantwoorde AI betekent dat je AI zo bouwt en gebruikt dat ze mensen eerlijk en veilig behandelt, open is over wat ze doet en dat iemand verantwoordelijk blijft.
IntermediateVeiligheid & Ethiek
AI-guardrails
Guardrails zijn de regels en controles rond een AI-tool die hem bij zijn onderwerp houden en schadelijke antwoorden of riskante acties tegenhouden voordat ze een klant bereiken.
AdvancedVeiligheid & Ethiek
Emotievectoren
Emotievectoren zijn meetbare patronen in een AI-model die voor emoties zoals kalmte of wanhoop staan en die veranderen hoe het model zich gedraagt.