Autonome cyberverdediging met AI

Autonome cyberverdediging met AI is software die zelf naar beveiligingslekken in programma's zoekt, controleert of ze echt zijn en een oplossing voorstelt. Voor een bedrijf is het effect vooral indirect: in de software waar je op leunt, zoals je webwinkelplatform of e-mail, worden meer lekken gevonden en gedicht. Aanvallers kunnen dezelfde techniek gebruiken, dus snel beveiligingsupdates installeren telt zwaarder.

Hoe werkt het?

De stappen zijn die van een menselijke beveiligingsonderzoeker. Een AI-agent leest de code, zoekt naar bekende soorten bugs, schrijft een klein proof-of-conceptprogramma dat laat zien dat een bug echt te activeren is, en maakt een concept-patch. In februari 2026 meldde Anthropic dat Claude Opus 4.6 meer dan 500 ernstige kwetsbaarheden in opensourcesoftware had gevonden en bevestigd. Het model werkte in een virtuele machine met standaardtools zoals debuggers en fuzzers, zonder speciale instructies. Onderzoekers van Anthropic controleerden elke bug voordat die werd gemeld.

Cloudflare beschreef zijn eigen opzet in mei 2026: veel smalle "hunter"-agents die tegelijk werken, elk met de mogelijkheid om proof-of-conceptcode te compileren en te draaien, en een onafhankelijke agent met een andere prompt die elke vondst probeert te weerleggen.

Waar komt het idee vandaan?

Op 4 augustus 2016 hield DARPA in Las Vegas de finale van zijn Cyber Grand Challenge, volgens DARPA het eerste hacktoernooi ter wereld dat alleen tussen machines ging. Zeven geautomatiseerde systemen vonden lekken in speciaal gemaakte software en beschermden bijna 12 uur lang hun computers, zonder hulp van mensen. De AI Cyber Challenge herhaalde het idee met AI; in de finale van augustus 2025 vonden de systemen 54 van de ingebouwde kwetsbaarheden en dichtten ze er 43, en ze vonden ook 18 echte. In oktober 2024 vond de agent Big Sleep van Google een misbruikbaar lek in de database SQLite; de ontwikkelaars dichtten het dezelfde dag, voordat het in een release terechtkwam.

Wat liet Project Glasswing zien?

In Project Glasswing gebruikten Anthropic en zo'n 50 partners het niet-uitgebrachte model Claude Mythos Preview. In zijn update van 22 mei 2026 meldde Anthropic dat in de eerste maand meer dan tienduizend kwetsbaarheden met een hoge of kritieke ernst waren gevonden. In opensourceprojecten markeerde het model 23.019 kwetsbaarheden, waarvan het er 6.202 als hoog of kritiek inschatte; van 1.752 daarvan die werden beoordeeld, meestal door onafhankelijke bedrijven, bleek 90,6% echt. Anthropic had 530 ernstige bugs aan de beheerders gemeld, en 75 daarvan waren gedicht. De conclusie: de vooruitgang hangt nu af van hoe snel mensen lekken kunnen bevestigen, melden en dichten.

Waar gaat het mis?

• Ongecontroleerde meldingen kosten beheerders tijd. curl stopte met zijn bug bounty op 31 januari 2026, nadat het aandeel echte kwetsbaarheden onder de meldingen in 2025 onder de 5% was gezakt; de hoofdontwikkelaar wees onder meer op een explosie van AI-slop, rommelige meldingen gemaakt met AI. Die stroom is inmiddels omgeslagen in vooral geldige meldingen, die nog steeds mensen nodig hebben om ze af te handelen.
• Het dichten is de bottleneck. Sommige beheerders vroegen Anthropic om minder snel te melden, omdat ze meer tijd nodig hadden om patches te ontwerpen.
• Een patch die een model schrijft, kan iets anders breken. Cloudflare zag er een paar die de bug oplosten en ongemerkt iets anders braken waar de code van afhing.
• Aanvallers profiteren ook. Anthropic houdt Mythos Preview buiten algemene release, omdat volgens het bedrijf nog niemand beveiligingen heeft die sterk genoeg zijn om misbruik van zulke modellen te voorkomen.

Wat kun je doen?

Het advies van Anthropic uit mei 2026: softwaremakers moeten hun patchcycli verkorten, en netwerkbeheerders moeten sneller patches testen en installeren. Basismaatregelen van NIST en het Britse National Cyber Security Centre wegen nu zwaarder, zoals veilige standaardinstellingen, multifactorauthenticatie en uitgebreide logs, omdat ze de beveiliging verbeteren zonder dat je hoeft te wachten tot één bepaalde patch op tijd klaar is.