Wat is er gebeurd?
De Google Threat Intelligence Group heeft openbaar gemaakt dat het naar eigen zeggen een cyberaanval heeft voorkomen die was gebaseerd op een zero-day-kwetsbaarheid. Dit lek zou zijn ontdekt met behulp van een AI-techniek. Concreet ging het om een kwetsbaarheid in een Python-script waarmee het mogelijk was geweest de tweefactorauthenticatie van een opensource, webgebaseerde tool voor systeembeheer te omzeilen. Google heeft de informatie over het lek via responsible disclosure gemeld aan de getroffen aanbieder en de bijbehorende aanvalsactiviteiten stopgezet.
Belangrijk voor de duiding: Google gaat er zelf van uit dat het lek niet met het eigen AI-model Gemini is ontdekt. Veel details over de concrete zaak geeft het bedrijf tot nu toe niet vrij.
De details
De beveiligingsafdeling van Google beschikt naar eigen zeggen niet over direct bewijs dat het lek daadwerkelijk met behulp van AI is gevonden. Men baseert zich in plaats daarvan op aanwijzingen in de aangetroffen malwarecode. Deze zou een groot aantal informatieve details bevatten, waaronder een fictieve CVSS-waarde en een gestructureerd, leerboekachtig Python-formaat. Zo'n formaat geldt volgens Google als zeer kenmerkend voor trainingsdata van generatieve taalmodellen.
Opvallend is ook de aard van het lek zelf: het zou met conventionele beveiligingstools zeer moeilijk te vinden zijn geweest. AI-modellen daarentegen zouden juist bij het opsporen van dit soort kwetsbaarheden bijzonder goed presteren – ze kunnen naar verluidt verborgen logicafouten blootleggen die voor klassieke scanners functioneel correct lijken, maar vanuit beveiligingsoogpunt ernstige zwakke plekken vormen.
Duiding
De bekendmaking van Google past in een ontwikkeling waarvoor al weken wordt gewaarschuwd: het mogelijke begin van een tijdperk van AI-ondersteunde cyberaanvallen. Als basis van deze ontwikkeling wordt vooral het AI-model Claude Mythos Preview genoemd, dat bij het zoeken naar beveiligingslekken zo krachtig zou zijn dat fabrikant Anthropic het niet openbaar toegankelijk maakt. In plaats daarvan krijgen alleen geselecteerde bedrijven toegang, om daarmee hun eigen IT-beveiliging te verbeteren.
Deze ontwikkeling heeft al meetbare gevolgen: in sommige software zijn hierdoor recent bijzonder veel lekken gevonden en gedicht. Bij Mozilla gaat men er zelfs van uit dat in principe alle softwarefouten opspoorbaar zouden kunnen zijn en dat de verdedigende partij de wedloop met aanvallers zou kunnen winnen. Tot het zover is, is er echter nog een lange weg te gaan – en Googles huidige verklaring wijst erop dat ook kwaadwillende cyberactoren inmiddels toegang zouden kunnen hebben tot vergelijkbaar krachtige tools.
Praktische tips
- Beheerders van webgebaseerde systeembeheertools moeten beveiligingsupdates tijdig installeren, vooral wanneer mechanismen voor tweefactorauthenticatie zijn getroffen.
- Verantwoordelijken voor opensourcesoftware zouden responsible-disclosure-processen moeten opzetten of onderhouden, om snel te kunnen profiteren van meldingen zoals die van Google.
- IT-securityteams zouden zich moeten verdiepen in de kenmerken van door AI gegenereerde malwarecode, zoals opvallend gestructureerde, leerboekachtige code of ongebruikelijke extra gegevens zoals fictieve CVSS-waarden, om aanvallen vroegtijdig te herkennen.
- Omdat klassieke scanners bepaalde logicafouten niet betrouwbaar herkennen, kan de aanvullende inzet van AI-ondersteunde analysetools aan de verdedigende kant zinvol zijn.
Vooruitblik
Het door Google gemelde incident laat exemplarisch zien hoe AI-modellen het cybersecuritylandschap aan beide kanten veranderen: ze helpen kwetsbaarheden te vinden en te dichten, maar zouden evengoed door aanvallers kunnen worden gebruikt om lekken te identificeren voordat ze bij de verdedigers bekend zijn. Hoe lang deze fase aanhoudt en of, zoals bij Mozilla wordt vermoed, op de lange termijn de verdedigende partij aan het langste eind trekt, is op dit moment onduidelijk. Wel is duidelijk dat bedrijven en ontwikkelaars zich moeten voorbereiden op een veranderde dreigingssituatie, waarin AI-ondersteunde aanvalstools een steeds relevantere rol lijken te gaan spelen.
