Cosa è successo?
La Google Threat Intelligence Group ha reso pubblico di aver sventato un cyberattacco basato su una vulnerabilità zero-day. Questa falla sarebbe stata scoperta grazie a una tecnica di intelligenza artificiale. Nello specifico, si trattava di una vulnerabilità in uno script Python che avrebbe permesso di aggirare l'autenticazione a due fattori di uno strumento open source basato sul web per l'amministrazione di sistema. Google ha segnalato le informazioni relative alla falla al fornitore interessato nell'ambito di un processo di responsible disclosure e ha bloccato le relative attività di attacco.
Un aspetto importante per inquadrare correttamente la vicenda: Google stessa ritiene che la falla non sia stata scoperta con la propria IA Gemini. Al momento l'azienda non fornisce molti dettagli sul caso specifico.
I dettagli
Secondo quanto dichiarato dal reparto sicurezza di Google, non esiste una prova diretta che la falla sia stata effettivamente scoperta tramite IA. L'azienda si basa invece su indizi presenti nel codice dannoso rinvenuto. Questo conterrebbe una serie di informazioni dettagliate, tra cui un valore CVSS fittizio e una struttura Python organizzata in stile manualistico. Un formato di questo tipo, secondo Google, è molto caratteristico dei dati di addestramento dei modelli linguistici generativi.
Degno di nota è anche il tipo di vulnerabilità in sé: sarebbe stata molto difficile da individuare con gli strumenti di sicurezza tradizionali. I modelli di IA, invece, sembrano essere particolarmente efficaci nell'individuare proprio questo tipo di vulnerabilità: sarebbero infatti in grado di scoprire errori logici nascosti che, pur apparendo funzionalmente corretti agli scanner classici, rappresentano dal punto di vista della sicurezza vulnerabilità gravi.
Analisi
L'annuncio di Google si inserisce in uno sviluppo di cui si avverte da settimane: il possibile inizio di un'epoca di cyberattacchi basati sull'IA. Alla base di questo sviluppo viene indicato soprattutto il modello di IA Claude Mythos Preview, che sembra essere talmente efficace nella ricerca di vulnerabilità di sicurezza che il produttore Anthropic ha deciso di non renderlo disponibile al pubblico. Solo aziende selezionate ricevono l'accesso, per poter migliorare la propria sicurezza informatica.
Questo sviluppo ha già conseguenze misurabili: in alcuni software sono state recentemente individuate e risolte un numero particolarmente elevato di vulnerabilità. In Mozilla si ritiene addirittura che, in linea di principio, tutti i bug software potrebbero essere individuabili e che il fronte difensivo potrebbe prendere il sopravvento nella corsa contro gli attaccanti. Fino ad allora, tuttavia, la strada è ancora lunga - e l'attuale dichiarazione di Google suggerisce che anche gli attori malintenzionati potrebbero ormai avere accesso a strumenti altrettanto potenti.
Consigli pratici
- I gestori di strumenti di amministrazione di sistema basati sul web dovrebbero installare tempestivamente gli aggiornamenti di sicurezza, in particolare quando sono interessati i meccanismi di autenticazione a due fattori.
- I responsabili di software open source dovrebbero istituire o mantenere processi di responsible disclosure, per poter trarre rapidamente vantaggio da segnalazioni come quella di Google.
- I team di sicurezza IT dovrebbero familiarizzare con le caratteristiche del codice dannoso generato dall'IA, come una struttura insolitamente ordinata e simile a un manuale o indicazioni aggiuntive inconsuete come valori CVSS fittizi, per riconoscere tempestivamente gli attacchi.
- Poiché gli scanner tradizionali non riescono a individuare in modo affidabile determinati errori logici, l'impiego complementare di strumenti di analisi basati sull'IA sul fronte difensivo può risultare utile.
Prospettive
L'incidente segnalato da Google mostra in modo esemplare come i modelli di IA stiano trasformando il panorama della cybersicurezza su entrambi i fronti: aiutano a individuare e risolvere le vulnerabilità, ma potrebbero altrettanto essere utilizzati dagli attaccanti per identificare le falle prima che siano note ai difensori. Quanto durerà questa fase e se, come ipotizzato da Mozilla, il fronte difensivo prevarrà a lungo termine, resta al momento incerto. Ciò che è chiaro, però, è che aziende e sviluppatori devono prepararsi a uno scenario di minacce mutato, in cui gli strumenti di attacco basati sull'IA sono destinati ad assumere un ruolo sempre più rilevante.
