Vad har hänt?
Google Threat Intelligence Group har offentliggjort att man säger sig ha förhindrat en cyberattack som byggde på en zero day-säkerhetssårbarhet. Denna sårbarhet ska ha hittats med hjälp av en AI-teknik. Konkret handlade det om en svaghet i ett Python-skript som skulle ha gjort det möjligt att kringgå tvåfaktorsautentiseringen i ett öppen källkods-baserat, webbaserat verktyg för systemadministration. Google rapporterade informationen om sårbarheten till den berörda leverantören inom ramen för ansvarsfull offentliggörande (responsible disclosure) och satte stopp för den tillhörande angreppsaktiviteten.
Viktigt för sammanhanget: Google utgår själv ifrån att sårbarheten inte upptäcktes med den egna AI:n Gemini. Många detaljer om det konkreta fallet har företaget ännu inte offentliggjort.
Detaljerna
Googles säkerhetsavdelning har enligt egen utsago inget direkt bevis för att sårbarheten faktiskt hittades med hjälp av AI. Man stödjer sig i stället på indicier i den upptäckta skadliga koden. Denna ska ha innehållit en mängd informativa uppgifter, däribland ett fiktivt CVSS-värde samt ett strukturerat, läroboksmässigt Python-format. Ett sådant format anses enligt Google vara mycket karakteristiskt för träningsdata från generativa språkmodeller.
Anmärkningsvärd är också sårbarhetens karaktär i sig: den ska ha varit mycket svår att hitta med konventionella säkerhetsverktyg. AI-modeller däremot ska prestera särskilt bra i sökandet efter just sådana svagheter – de kan därmed avslöja dolda logikfel som för klassiska skannrar framstår som funktionellt korrekta, men som ur säkerhetssynpunkt utgör allvarliga sårbarheter.
Sammanhang
Googles tillkännagivande passar in i en utveckling som man varnat för i flera veckor: den möjliga starten på en epok av AI-understödda cyberattacker. Som grund för denna utveckling nämns framför allt AI-modellen Claude Mythos Preview, som ska vara så kraftfull i att hitta säkerhetssårbarheter att tillverkaren Anthropic inte gör den allmänt tillgänglig. I stället får endast utvalda företag tillgång för att förbättra sin egen IT-säkerhet.
Denna utveckling har redan fått mätbara konsekvenser: i viss mjukvara har man på senare tid hittat och åtgärdat ett ovanligt stort antal sårbarheter tack vare detta. Hos Mozilla utgår man till och med ifrån att i princip alla mjukvarufel skulle kunna hittas och att försvararsidan skulle kunna få övertaget i kapplöpningen med angriparna. Fram till dess återstår dock en lång väg – och Googles aktuella uttalande tyder på att även illvilliga cyberaktörer numera kan ha tillgång till liknande kraftfulla verktyg.
Praktiska tips
- Aktörer som driver webbaserade verktyg för systemadministration bör installera säkerhetsuppdateringar i tid, särskilt när mekanismer för tvåfaktorsautentisering berörs.
- Ansvariga för mjukvara med öppen källkod bör etablera respektive underhålla processer för ansvarsfull offentliggörande (responsible disclosure) för att snabbt kunna dra nytta av rapporter som Googles.
- IT-säkerhetsteam bör sätta sig in i karaktärsdragen hos AI-genererad skadlig kod, till exempel iögonfallande strukturerad, läroboksmässig kod eller ovanliga tilläggsuppgifter som fiktiva CVSS-värden, för att kunna upptäcka attacker i ett tidigt skede.
- Eftersom klassiska skannrar inte tillförlitligt kan upptäcka vissa logikfel kan det vara lämpligt att komplettera med AI-understödda analysverktyg på försvararsidan.
Framtidsutsikter
Den incident som Google rapporterat visar exemplariskt hur AI-modeller förändrar cybersäkerhetslandskapet på båda sidor: de hjälper till att hitta och åtgärda sårbarheter, men skulle likaså kunna användas av angripare för att identifiera svagheter innan de blir kända för försvararna. Hur länge denna fas varar och om, som man antar hos Mozilla, försvararsidan på lång sikt får övertaget är för närvarande oklart. Klart är dock att företag och utvecklare måste ställa in sig på ett förändrat hotläge, där AI-understödda angreppsverktyg sannolikt kommer att spela en allt viktigare roll.
