Uchwalono nowe uprawnienia AI dla niemieckich organów bezpieczeństwa
Rada Ministrów rządu federalnego przyjęła w środę dalekosiężny pakiet ustaw, który znacznie rozbudowuje cyfrowe możliwości śledcze organów bezpieczeństwa. Pod kierownictwem ministerstw spraw wewnętrznych i sprawiedliwości Federalny Urząd Kryminalny (BKA), policja federalna oraz Federalny Urząd ds. Migracji i Uchodźców otrzymają w przyszłości uprawnienie do stosowania technologii takich jak sztuczna inteligencja i automatyczne porównania biometryczne.
Nowe regulacje mają zastąpić żmudny proces manualny, w którym funkcjonariusze musieli dotąd ręcznie przeszukiwać sieci społecznościowe w poszukiwaniu zdjęć podejrzanych. Zamiast tego możliwa stanie się automatyczna cyfrowa selekcja danych, pomyślana jako reakcja na rozwój technologiczny.
Automatyczne rozpoznawanie twarzy w mediach społecznościowych
Sercem reformy jest nowy paragraf 98d kodeksu postępowania karnego, tworzący podstawę prawną dla automatycznych biometrycznych porównań obrazów online. Regulacja ta umożliwia selekcję danych z wykorzystaniem danych biometrycznych z toczących się postępowań i publicznie dostępnych informacji w internecie.
Konkretnie oznacza to: śledczy będą mogli w przyszłości zlecać automatyczne porównywanie zdjęć podejrzanych z obrazami w mediach społecznościowych, aby ustalić ich tożsamość lub miejsce pobytu. Środek ten jest jednak powiązany z podejrzeniem popełnienia przestępstwa o "znacznym znaczeniu" i wymaga zarządzenia sądowego.
Sprzeczność z przedstawieniem rządowym
Rząd federalny podkreśla, że nie powstaje trwała państwowa baza danych obrazów, a nadzór w czasie rzeczywistym przez publiczne kamery internetowe pozostaje wykluczony. Eksperci określają jednak te ograniczenia jako farsę: automatyczne porównanie milionów obrazów z sieci w ułamku sekundy jest technicznie niemożliwe bez wcześniejszego utworzenia ustrukturyzowanej, przeszukiwalnej bazy danych wszystkich dostępnych twarzy.
Sieciowanie policyjnych baz danych przy pomocy AI
Drugim centralnym elementem reformy jest automatyczna analiza danych zgodnie z § 98e kodeksu postępowania karnego. Dotąd izolowane policyjne bazy danych mają zostać ze sobą połączone i prześwietlone za pomocą oprogramowania analitycznego, aby szybciej rozpoznawać powiązania między postępowaniami.
Ministra sprawiedliwości Stefanie Hubig (SPD) broniła tych działań argumentem, że pozbawianie organów takich instrumentów byłoby lekkomyślne. Zapewniła, że decyzje nadal będą podejmowane przez ludzi, a nie przez systemy AI. Systemy IT będą jednak mogły w przyszłości być trenowane także na danych rzeczywistych z zasobów policyjnych, aby zwiększyć wydajność algorytmów.
Masowa krytyka ze strony organizacji broniących praw obywatelskich
Sojusz 14 organizacji społeczeństwa obywatelskiego, w tym Chaos Computer Club (CCC) i AlgorithmWatch, ostrzega przed zmianą paradygmatu w kierunku masowej inwigilacji. Organizacje zarzucają, że nowe uprawnienia mogą oznaczać koniec anonimowości w przestrzeni publicznej.
Szczególnie możliwość przeprowadzania skanów biometrycznych w całym internecie krytykowana jest jako masowa ingerencja w prawa podstawowe. Krytycy wskazują, że śledczy mogliby korzystać z usług takich jak Clearview AI czy PimEyes, co zagraża państwowej kontroli nad danymi wrażliwymi.
Wątpliwości konstytucyjne
Konstantin von Notz, wiceprzewodniczący frakcji Zielonych, widzi zagrożenie dla państwa prawa. Planowane instrumenty dotyczyłyby "bynajmniej nie tylko osób bezpośrednio w polu zainteresowania organów bezpieczeństwa, lecz potencjalnie wszystkich, także całkowicie nieskazitelnych obywateli". Kwestionuje on zgodność projektów z konstytucją i krytykuje szczególnie próbę obejścia europejskich praw obywatelskich przez wynoszenie porównań danych za granicę.
Obawa przed zależnością technologiczną
Z automatyczną analizą danych wiąże się obawa przed tak zwanym "lex Palantir". Społeczeństwo obywatelskie zarzuca, że ustawy mogłyby stworzyć prawne warunki stosowania tego oprogramowania, co prowadziłoby do technologicznej zależności od amerykańskiego koncernu o "agendzie wrogiej demokracji".
Von Notz określa potencjalne zastosowanie Palantir jako "maksymalnie lekkomyślne". Zamiast modernizować federalne systemy IT policji, zaległości byłyby zamalowywane nieprzejrzystymi algorytmami.
Obawy o konflikt z prawem UE
Obrońcy praw obywatelskich uznają te działania za niezgodne z rozporządzeniem UE o sztucznej inteligencji, które ściśle reglamentuje zdalną identyfikację biometryczną. Nie może być tak, że każde selfie w sieci potencjalnie staje się pożywką dla oprogramowania analitycznego organów bezpieczeństwa.
Przeciwko pakietowi ustaw trwa już petycja, która zebrała ponad 140 000 podpisów. Projekty trafiają teraz do dalszych obrad w Bundestagu i Bundesracie, gdzie okaże się, czy wątpliwości konstytucyjne znajdą posłuch.
Perspektywy cyfrowego krajobrazu inwigilacji
Uchwalone działania wyznaczają znaczący krok w kierunku kompleksowej cyfrowej infrastruktury nadzoru. Podczas gdy rząd podkreśla konieczność modernizacji technologicznej, krytycy ostrzegają przed utratą fundamentalnych praw obywatelskich. Debata parlamentarna będzie musiała pokazać, czy da się znaleźć kompromis między potrzebami bezpieczeństwa a ochroną danych.
