Nieuwe AI-bevoegdheden voor Duitse veiligheidsdiensten goedgekeurd
Het Duitse kabinet heeft woensdag een verstrekkend wetgevingspakket aangenomen dat de digitale opsporingsmogelijkheden van de veiligheidsdiensten aanzienlijk uitbreidt. Onder leiding van het ministerie van Binnenlandse Zaken en het ministerie van Justitie krijgen het Bundeskriminalamt (BKA), de Bundespolizei en het Bundesamt für Migration und Flüchtlinge voortaan de bevoegdheid om technologieën als kunstmatige intelligentie en geautomatiseerde biometrische vergelijkingen in te zetten.
De nieuwe regels moeten het moeizame handmatige proces vervangen waarbij ambtenaren tot nu toe sociale netwerken met de hand moesten doorzoeken naar foto's van verdachten. In plaats daarvan wordt een geautomatiseerd digitaal rasteronderzoek mogelijk, dat is bedoeld als reactie op de technologische ontwikkeling.
Geautomatiseerde gezichtsherkenning op sociale media
Kernstuk van de hervorming is het nieuwe artikel 98d van het Wetboek van Strafvordering, dat de juridische grondslag schept voor geautomatiseerde biometrische online beeldvergelijkingen. Deze regeling maakt een rasteronderzoek mogelijk met biometrische gegevens uit lopende procedures en openbaar toegankelijke informatie op internet.
Concreet betekent dit: rechercheurs kunnen voortaan foto's van verdachten geautomatiseerd laten vergelijken met beelden op sociale media, om hun identiteit of verblijfplaats vast te stellen. De maatregel is echter gekoppeld aan de verdenking van een strafbaar feit van "aanzienlijke betekenis" en vereist een rechterlijk bevel.
Tegenspraak met de voorstelling van de regering
De Duitse regering benadrukt dat er geen permanente staatsbeelddatabank wordt opgebouwd en dat realtime bewaking via openbare webcams uitgesloten blijft. Experts noemen deze beperkingen echter een farce: een geautomatiseerde vergelijking van miljoenen webbeelden in fracties van seconden zou technisch onmogelijk zijn zonder vooraf een gestructureerde, doorzoekbare databasis van alle beschikbare gezichten aan te leggen.
Koppeling van politiedatabanken door AI
De tweede centrale bouwsteen van de hervorming betreft de geautomatiseerde gegevensanalyse volgens § 98e StPO. Hierbij moeten tot nu toe geïsoleerde politiedatabanken met elkaar worden gekoppeld en met analysesoftware worden doorgelicht, om dwarsverbanden tussen procedures sneller te herkennen.
Minister van Justitie Stefanie Hubig (SPD) verdedigde de maatregelen met het argument dat het nalatig zou zijn de diensten zulke instrumenten te onthouden. Zij verzekerde dat beslissingen ook voortaan door mensen en niet door AI-systemen zouden worden genomen. IT-systemen mogen echter voortaan ook met echte gegevens uit politiebestanden worden getraind, om de prestaties van de algoritmen te verhogen.
Massale kritiek van burgerrechtenorganisaties
Een bondgenootschap van 14 maatschappelijke organisaties, waaronder de Chaos Computer Club (CCC) en AlgorithmWatch, waarschuwt voor een paradigmawisseling richting massasurveillance. De organisaties bekritiseren dat de nieuwe bevoegdheden het einde van de anonimiteit in de openbare ruimte zouden kunnen betekenen.
Vooral de mogelijkheid om biometrische scans op het hele internet uit te voeren, wordt als een massale inbreuk op de grondrechten bekritiseerd. De critici wijzen erop dat rechercheurs diensten als Clearview AI of PimEyes zouden mogen gebruiken, wat de staatscontrole over gevoelige gegevens in gevaar brengt.
Constitutionele bezwaren
Konstantin von Notz, vicefractievoorzitter van de Groenen, ziet de rechtsstaat in gevaar. De geplande instrumenten zouden "geenszins alleen personen betreffen die direct in het vizier van de veiligheidsdiensten staan, maar potentieel iedereen, ook volstrekt onbesproken burgers". Hij trekt de grondwettelijkheid van de ontwerpen in twijfel en bekritiseert vooral de poging Europese burgerrechten te omzeilen door gegevensvergelijkingen naar het buitenland uit te besteden.
Zorg over technologische afhankelijkheid
Met de geautomatiseerde gegevensanalyse gaat de vrees gepaard voor een zogenoemde "Lex Palantir". Het maatschappelijk middenveld hekelt dat de wetten de juridische voorwaarden zouden kunnen scheppen voor de inzet van deze software, wat zou leiden tot een technologische afhankelijkheid van een Amerikaans concern met een "democratievijandige agenda".
Von Notz noemt de mogelijke inzet van Palantir "maximaal nalatig". In plaats van de federale IT-systemen van de politie te moderniseren, zouden achterstanden met ondoorzichtige algoritmen worden overgeschilderd.
Conflict met EU-recht gevreesd
Burgerrechtenactivisten achten de maatregelen onverenigbaar met de AI-verordening van de EU, die biometrische identificatie op afstand streng reguleert. Het zou niet zo mogen zijn dat elke selfie op het net potentieel voer wordt voor de analysesoftware van de veiligheidsdiensten.
Tegen het wetgevingspakket loopt al een petitie die meer dan 140.000 handtekeningen heeft verzameld. De ontwerpen gaan nu voor verdere behandeling naar de Bondsdag en de Bondsraad, waar zal blijken of de constitutionele bezwaren gehoor vinden.
Vooruitblik op het digitale surveillancelandschap
De genomen maatregelen markeren een betekenisvolle stap richting een omvattende digitale surveillance-infrastructuur. Terwijl de regering de noodzaak van technologische modernisering benadrukt, waarschuwen critici voor het verlies van fundamentele burgerrechten. Het parlementaire debat zal moeten uitwijzen of er een compromis tussen veiligheidsbehoeften en gegevensbescherming te vinden is.
