Nya AI-befogenheter för tyska säkerhetsmyndigheter beslutade
Den tyska regeringen antog i onsdags ett långtgående lagpaket som avsevärt bygger ut säkerhetsmyndigheternas digitala utredningsmöjligheter. Under inrikes- och justitieministeriets ledning får Bundeskriminalamt (BKA), gränspolisen samt migrationsmyndigheten Bundesamt für Migration und Flüchtlinge framöver befogenhet att använda teknik som artificiell intelligens och automatiserade biometriska jämförelser.
De nya reglerna ska ersätta den mödosamma manuella processen, där tjänstemän hittills har fått genomsöka sociala nätverk för hand efter foton på misstänkta. I stället blir en automatiserad digital rastersökning möjlig, tänkt som ett svar på den tekniska utvecklingen.
Automatiserad ansiktsigenkänning i sociala medier
Kärnan i reformen är den nya paragrafen 98d i den tyska rättegångsbalken för brottmål, som skapar den rättsliga grunden för automatiserade biometriska bildjämförelser online. Denna reglering möjliggör en rastersökning med biometriska data från pågående förfaranden och offentligt tillgänglig information på internet.
Konkret innebär det: utredare kan framöver låta jämföra foton på misstänkta automatiserat med bilder i sociala medier för att fastställa deras identitet eller vistelseort. Åtgärden är dock knuten till misstanke om brott av ”betydande vikt” och kräver ett domstolsbeslut.
Motsägelse mot regeringens framställning
Regeringen betonar att ingen permanent statlig bilddatabas byggs upp och att realtidsövervakning via offentliga webbkameror förblir utesluten. Experter betecknar dock dessa begränsningar som en fars: en automatiserad jämförelse av miljontals webbbilder på bråkdelar av sekunder vore tekniskt omöjlig utan att man först lägger upp en strukturerad, sökbar databas över alla tillgängliga ansikten.
Sammankoppling av polisiära databaser med AI
Reformens andra centrala byggsten rör den automatiserade dataanalysen enligt § 98e i rättegångsbalken för brottmål. Här ska hittills isolerade polisdatabaser kopplas samman och genomlysas med analysprogramvara för att snabbare upptäcka tvärkopplingar mellan ärenden.
Justitieminister Stefanie Hubig (SPD) försvarade åtgärderna med argumentet att det vore vårdslöst att undanhålla myndigheterna sådana verktyg. Hon försäkrade att besluten även fortsättningsvis fattas av människor och inte av AI-system. IT-system får dock framöver också tränas med verkliga data från polisiära register för att öka algoritmernas prestanda.
Massiv kritik från medborgarrättsorganisationer
En allians av 14 civilsamhällesorganisationer, däribland Chaos Computer Club (CCC) och AlgorithmWatch, varnar för ett paradigmskifte mot massövervakning. Organisationerna anmärker på att de nya befogenheterna kan innebära slutet för anonymiteten i det offentliga rummet.
Särskilt möjligheten att genomföra biometriska skanningar över hela internet kritiseras som ett massivt ingrepp i grundläggande rättigheter. Kritikerna påpekar att utredare skulle få använda tjänster som Clearview AI eller PimEyes, vilket äventyrar den statliga kontrollen över känsliga uppgifter.
Konstitutionella betänkligheter
Konstantin von Notz, vice gruppledare för De gröna, ser rättsstaten hotad. De planerade instrumenten skulle beröra ”ingalunda bara personer i säkerhetsmyndigheternas direkta fokus, utan potentiellt alla, även fullständigt oförvitliga medborgare”. Han ifrågasätter förslagens grundlagsenlighet och kritiserar särskilt försöket att kringgå europeiska medborgerliga rättigheter genom att lägga ut datajämförelser utomlands.
Oro för tekniskt beroende
Med den automatiserade dataanalysen förknippas farhågor om en så kallad ”lex Palantir”. Civilsamhället invänder att lagarna skulle kunna skapa de rättsliga förutsättningarna för användning av denna programvara, vilket leder till ett tekniskt beroende av en amerikansk koncern med ”demokratifientlig agenda”.
Von Notz betecknar en eventuell användning av Palantir som ”maximalt vårdslös”. I stället för att modernisera polisens federala IT-system skulle eftersläpningar döljas med icke-transparenta algoritmer.
Farhågor om konflikt med EU-rätten
Medborgarrättsaktivister anser att åtgärderna är oförenliga med EU:s AI-förordning, som strikt reglerar biometrisk fjärridentifiering. Det får inte bli så att varje selfie på nätet potentiellt blir foder för säkerhetsmyndigheternas analysprogramvara.
Mot lagpaketet pågår redan en namninsamling som har samlat över 140 000 underskrifter. Förslagen går nu vidare för fortsatt behandling i förbundsdagen och förbundsrådet, där det kommer att visa sig om de konstitutionella betänkligheterna får gehör.
Utblick över det digitala övervakningslandskapet
De beslutade åtgärderna markerar ett betydande steg mot en heltäckande digital övervakningsinfrastruktur. Medan regeringen betonar behovet av teknisk modernisering varnar kritikerna för en förlust av grundläggande medborgerliga rättigheter. Den parlamentariska debatten får utvisa om det går att finna en kompromiss mellan säkerhetsbehov och dataskydd.
