Cosa è successo
L'Ufficio federale per la sicurezza informatica (BSI) e il Programma di prevenzione della criminalità della polizia dei Länder e del governo federale (ProPK) hanno presentato con il Cybersicherheitsmonitor un'indagine attuale che rivela un evidente squilibrio tra autovalutazione e comportamento effettivo: quasi la metà degli utenti internet in Germania ritiene di essere in grado di riconoscere i contenuti generati dall'IA. Nella pratica, tuttavia, solo una minoranza verifica realmente se un contenuto sia autentico. Solamente il 28% ha già cercato incongruenze in un'immagine, e solo il 19% ha verificato la fonte di un contenuto.
I dettagli
Il Cybersicherheitsmonitor fornisce ulteriori dati che evidenziano l'entità di questa lacuna conoscitiva. Circa un terzo degli intervistati (32%) non ha ancora adottato nessuna delle misure comuni per il riconoscimento di contenuti generati dall'IA. Il 40% ha almeno considerato se una scena rappresentata appaia realistica – un primo passo semplice ma importante.
Anche la conoscenza di scenari di truffa concreti risulta scarsa. Solo il 38% degli intervistati ritiene possibile che i criminali informatici manipolino deliberatamente un programma di IA affinché questo divulghi dati sensibili. Che i criminali possano inserire istruzioni invisibili per i sistemi di IA nei documenti, viene ritenuto plausibile addirittura solo dal 40%. Secondo il BSI, entrambi gli scenari di attacco sono tecnicamente effettivamente possibili.
La presidente del BSI, Claudia Plattner, sottolinea l'importanza del riconoscimento dei contenuti generati dall'IA per la tutela dei consumatori: "I contenuti generati dall'IA sono ormai entrati nella vita quotidiana dei consumatori. Per identificare rischi e disinformazione, è quindi indispensabile riconoscere quali contenuti, post e rappresentazioni nel mondo online siano generati dall'IA." Il BSI offre a tal fine orientamento e sensibilizza su ciò che è possibile con l'IA e su come riconoscere tali contenuti.
Un esempio concreto dalla pratica viene fornito dalla Dott.ssa Stefanie Hinz, presidente della polizia regionale e presidente del ProPK: la cosiddetta frode del cybertrading. In questo caso i criminali promettono guadagni rapidi e rendimenti elevati nel trading online. Spesso creano, con l'aiuto dell'IA, video in cui presunte personalità famose promuovono lucrative opportunità di investimento. Hinz consiglia, in presenza di tali offerte, di verificare innanzitutto se la promessa sia effettivamente realistica – o se sia semplicemente troppo bella per essere vera.
Contestualizzazione
I dati del Cybersicherheitsmonitor sono rilevanti per aziende e responsabili della sicurezza per diversi motivi. Da un lato, la discrepanza tra competenza percepita e competenza effettiva evidenzia un problema di fondo: chi si sente sicuro senza applicare adeguati meccanismi di verifica tenderà a mettere in dubbio le cose più raramente, risultando quindi più vulnerabile ai tentativi di inganno. Ciò non riguarda solo i privati, ma anche i dipendenti delle aziende, che nella vita lavorativa quotidiana si confrontano con e-mail, documenti, video o telefonate la cui autenticità non è facilmente riconoscibile.
D'altra parte, la scarsa sensibilità verso gli scenari tecnici di manipolazione – come l'inserimento mirato di istruzioni invisibili nei documenti o la manipolazione di programmi di IA per la divulgazione di dati – rende evidente che i concetti di sicurezza aziendale non dovrebbero comprendere solo le classiche misure di protezione IT, ma anche formazioni sulla gestione dei contenuti generati dall'IA. Proprio la frode del cybertrading descritta mostra quanto mirato sia l'utilizzo dell'IA per conquistare la fiducia e causare danni economici.
Consigli pratici
- In presenza di contenuti sospetti, cercare attivamente incongruenze, come ombre errate o arti innaturali in immagini e video.
- Verificare sempre la fonte di un contenuto prima di considerare le informazioni come credibili.
- Nel caso di offerte di investimento su internet, verificare criticamente se i rendimenti promessi siano realistici – secondo il ProPK un primo importante passo contro la frode del cybertrading.
- Utilizzare la checklist fornita dal BSI con i segnali per riconoscere le immagini generate dall'IA.
- Integrare le offerte informative del ProPK sulle truffe di investimento online in formazioni e misure di sensibilizzazione.
- Tenere a disposizione la checklist congiunta di BSI e ProPK per i casi di emergenza in caso di frode nell'online banking.
Prospettive
Il Cybersicherheitsmonitor evidenzia come le sole misure tecniche di protezione non siano sufficienti per affrontare il crescente rischio rappresentato dai contenuti generati dall'IA. La tutela dei consumatori e la sensibilizzazione, come quelle offerte da BSI e ProPK con le loro checklist, acquistano sempre maggiore importanza. Per le aziende ciò significa: le misure di awareness sulla truffa tramite IA dovrebbero diventare parte integrante della strategia di sicurezza, in aggiunta ai temi classici come la protezione perimetrale, il controllo degli accessi o la gestione dei permessi. Considerando le possibilità tecniche di manipolare i sistemi di IA o di inserire istruzioni invisibili nei documenti, il tema dovrebbe guadagnare ulteriore rilevanza nei prossimi mesi – sia per gli utenti privati che per i responsabili della sicurezza nelle aziende.
