Odlučeno o novim AI ovlastima za njemačka sigurnosna tijela
Savezna vlada u srijedu je usvojila dalekosežan zakonodavni paket koji znatno proširuje digitalne istražne mogućnosti sigurnosnih tijela. Pod vodstvom ministarstava unutarnjih poslova i pravosuđa Savezni kriminalistički ured (BKA), savezna policija te Savezni ured za migracije i izbjeglice ubuduće dobivaju ovlast za primjenu tehnologija poput umjetne inteligencije i automatiziranih biometrijskih usporedbi.
Nove odredbe trebaju zamijeniti mukotrpan ručni postupak u kojem su službenici dosad morali ručno pretraživati društvene mreže tražeći fotografije osumnjičenika. Umjesto toga bit će moguća automatizirana digitalna rasterska potraga, zamišljena kao odgovor na tehnološki razvoj.
Automatizirano prepoznavanje lica na društvenim mrežama
Srce reforme je novi članak 98d Zakona o kaznenom postupku, koji stvara pravnu osnovu za automatizirane biometrijske usporedbe slika na internetu. Ta odredba omogućuje rastersku potragu s biometrijskim podacima iz postupaka koji su u tijeku i iz javno dostupnih informacija na internetu.
Konkretno to znači: istražitelji ubuduće mogu dati automatizirano usporediti fotografije osumnjičenika sa slikama na društvenim mrežama kako bi utvrdili njihov identitet ili boravište. Mjera je ipak vezana uz sumnju na kazneno djelo „znatnog značaja” i zahtijeva sudski nalog.
Proturječnost prikazu vlade
Savezna vlada naglašava da se ne gradi trajna državna baza slika i da nadzor u stvarnom vremenu preko javnih web kamera ostaje isključen. Stručnjaci ta ograničenja ipak nazivaju farsom: automatizirana usporedba milijuna internetskih slika u djeliću sekunde tehnički je nemoguća bez prethodnog stvaranja strukturirane, pretražive baze svih dostupnih lica.
Umrežavanje policijskih baza podataka uz pomoć AI-a
Drugi središnji element reforme odnosi se na automatiziranu analizu podataka prema članku 98e Zakona o kaznenom postupku. Pritom se dosad izolirane policijske baze podataka trebaju međusobno umrežiti i analitičkim softverom pretražiti kako bi se brže prepoznale poveznice između postupaka.
Ministrica pravosuđa Stefanie Hubig (SPD) branila je mjere argumentom da bi bilo nemarno uskratiti tijelima takve instrumente. Uvjeravala je da bi odluke i dalje donosili ljudi, a ne AI sustavi. Ipak, IT sustavi ubuduće se smiju trenirati i na stvarnim podacima iz policijskih fondova kako bi se povećala učinkovitost algoritama.
Snažna kritika organizacija za građanska prava
Savez od 14 organizacija civilnog društva, među njima Chaos Computer Club (CCC) i AlgorithmWatch, upozorava na promjenu paradigme prema masovnom nadzoru. Organizacije prigovaraju da bi nove ovlasti mogle značiti kraj anonimnosti u javnom prostoru.
Posebno se mogućnost provođenja biometrijskih skeniranja na cijelom internetu kritizira kao masivan zahvat u temeljna prava. Kritičari upozoravaju da bi istražitelji smjeli koristiti usluge poput Clearview AI ili PimEyes, što ugrožava državnu kontrolu nad osjetljivim podacima.
Ustavnopravne dvojbe
Konstantin von Notz, potpredsjednik kluba zastupnika Zelenih, vidi pravnu državu u opasnosti. Planirani instrumenti tiču se „nipošto samo osoba u izravnom fokusu sigurnosnih tijela, nego potencijalno svih, pa i posve neporočnih građana”. On dovodi u pitanje ustavnost nacrta i posebno kritizira pokušaj zaobilaženja europskih građanskih prava izmještanjem usporedbi podataka u inozemstvo.
Zabrinutost zbog tehnološke ovisnosti
Uz automatiziranu analizu podataka veže se bojazan od takozvanog „lex Palantira”. Civilno društvo zamjera da bi zakoni mogli stvoriti pravne preduvjete za primjenu tog softvera, što bi dovelo do tehnološke ovisnosti o američkom koncernu s „agendom neprijateljskom prema demokraciji”.
Von Notz potencijalnu primjenu Palantira naziva „krajnje nemarnom”. Umjesto modernizacije federalnih IT sustava policije, zaostaci bi se prekrivali netransparentnim algoritmima.
Strah od sukoba s pravom EU
Zagovornici građanskih prava mjere smatraju nespojivima s Uredbom EU o umjetnoj inteligenciji, koja strogo regulira biometrijsku identifikaciju na daljinu. Ne smije biti tako da svaki selfie na mreži potencijalno postane hrana za analitički softver sigurnosnih tijela.
Protiv zakonodavnog paketa već traje peticija koja je prikupila više od 140.000 potpisa. Nacrti sada idu na daljnju raspravu u Bundestag i Bundesrat, gdje će se pokazati hoće li ustavnopravne dvojbe naići na sluh.
Pogled na krajolik digitalnog nadzora
Usvojene mjere označavaju značajan korak prema sveobuhvatnoj infrastrukturi digitalnog nadzora. Dok vlada naglašava nužnost tehnološke modernizacije, kritičari upozoravaju na gubitak temeljnih građanskih prava. Parlamentarna rasprava morat će pokazati može li se pronaći kompromis između sigurnosnih potreba i zaštite podataka.
