Approvati nuovi poteri IA per le autorità di sicurezza tedesche
Mercoledì il governo federale ha approvato un ampio pacchetto legislativo che amplia notevolmente le possibilità di indagine digitale delle autorità di sicurezza. Sotto la guida del Ministero dell'Interno e di quello della Giustizia, il Bundeskriminalamt (BKA), la polizia federale e l'Ufficio federale per la migrazione e i rifugiati riceveranno in futuro il potere di impiegare tecnologie come l'intelligenza artificiale e i confronti biometrici automatizzati.
Le nuove disposizioni intendono sostituire il faticoso processo manuale con cui finora i funzionari dovevano cercare a mano nelle reti sociali le foto degli indagati. Al suo posto diventa possibile una ricerca a strascico digitale automatizzata, pensata come risposta allo sviluppo tecnologico.
Riconoscimento facciale automatizzato nei social media
Il cuore della riforma è il nuovo paragrafo 98d del codice di procedura penale, che crea la base giuridica per i confronti biometrici online automatizzati di immagini. Questa disciplina consente una ricerca a strascico con dati biometrici provenienti da procedimenti in corso e da informazioni accessibili al pubblico in internet.
Concretamente ciò significa: gli inquirenti potranno in futuro far confrontare automaticamente le foto dei sospettati con le immagini presenti nei social media, per accertarne l'identità o il luogo in cui si trovano. La misura è però legata al sospetto di un reato di «rilevante importanza» e richiede un'ordinanza del giudice.
Contraddizione rispetto alla versione del governo
Il governo federale sottolinea che non viene creata alcuna banca dati statale permanente di immagini e che restano escluse le sorveglianze in tempo reale tramite webcam pubbliche. Gli esperti definiscono però queste limitazioni una farsa: un confronto automatizzato di milioni di immagini presenti in rete in frazioni di secondo sarebbe tecnicamente impossibile senza costituire prima una base dati strutturata e ricercabile di tutti i volti disponibili.
Interconnessione delle banche dati di polizia tramite IA
Il secondo elemento centrale della riforma riguarda l'analisi automatizzata dei dati ai sensi del § 98e StPO. In questo caso banche dati di polizia finora isolate dovranno essere collegate tra loro ed esaminate mediante software di analisi, per riconoscere più rapidamente i collegamenti trasversali tra i procedimenti.
La ministra della Giustizia Stefanie Hubig (SPD) ha difeso le misure con l'argomento che sarebbe negligente privare le autorità di simili strumenti. Ha assicurato che le decisioni continueranno a essere prese da persone e non da sistemi di IA. In futuro, tuttavia, i sistemi informatici potranno essere addestrati anche con dati reali provenienti dagli archivi di polizia, al fine di aumentare le prestazioni degli algoritmi.
Critiche massicce dalle organizzazioni per i diritti civili
Un'alleanza di 14 organizzazioni della società civile, tra cui il Chaos Computer Club (CCC) e AlgorithmWatch, mette in guardia da un cambio di paradigma verso la sorveglianza di massa. Le organizzazioni lamentano che i nuovi poteri potrebbero significare la fine dell'anonimato nello spazio pubblico.
In particolare la possibilità di effettuare scansioni biometriche sull'intera rete viene criticata come una massiccia ingerenza nei diritti fondamentali. I critici fanno notare che gli inquirenti potrebbero utilizzare servizi come Clearview AI o PimEyes, il che metterebbe a rischio il controllo statale sui dati sensibili.
Dubbi di legittimità costituzionale
Konstantin von Notz, vicepresidente del gruppo parlamentare dei Verdi, vede lo Stato di diritto in pericolo. Gli strumenti previsti riguarderebbero «non soltanto le persone direttamente nel mirino delle autorità di sicurezza, ma potenzialmente tutti, anche cittadini del tutto incensurati». Egli mette in dubbio la costituzionalità dei disegni di legge e critica in particolare il tentativo di aggirare i diritti civili europei esternalizzando all'estero i confronti dei dati.
Timori di dipendenza tecnologica
All'analisi automatizzata dei dati si accompagna il timore di una cosiddetta «Lex Palantir». La società civile lamenta che le leggi potrebbero creare i presupposti giuridici per l'impiego di questo software, con la conseguenza di una dipendenza tecnologica da un gruppo statunitense con un'«agenda ostile alla democrazia».
Von Notz definisce il potenziale impiego di Palantir «della massima negligenza». Invece di modernizzare i sistemi informatici federali della polizia, i ritardi verrebbero mascherati con algoritmi non trasparenti.
Si teme un conflitto con il diritto UE
Gli attivisti per i diritti civili ritengono le misure incompatibili con il regolamento UE sull'intelligenza artificiale, che disciplina in modo rigoroso l'identificazione biometrica a distanza. Non si può ammettere che ogni selfie in rete diventi potenzialmente pasto per il software di analisi delle autorità di sicurezza.
Contro il pacchetto legislativo è già in corso una petizione che ha raccolto oltre 140.000 firme. I disegni di legge passano ora all'ulteriore esame del Bundestag e del Bundesrat, dove si vedrà se i dubbi di legittimità costituzionale troveranno ascolto.
Prospettive sul panorama della sorveglianza digitale
Le misure approvate segnano un passo significativo verso un'infrastruttura di sorveglianza digitale su vasta scala. Mentre il governo sottolinea la necessità di una modernizzazione tecnologica, i critici mettono in guardia da una perdita di diritti civili fondamentali. Il dibattito parlamentare dovrà mostrare se sia possibile trovare un compromesso tra esigenze di sicurezza e protezione dei dati.
