De nouvelles prérogatives en matière d'IA adoptées pour les autorités de sécurité allemandes
Le conseil des ministres allemand a adopté mercredi un vaste paquet législatif qui étend considérablement les moyens d'enquête numériques des autorités de sécurité. Sous l'égide des ministères de l'Intérieur et de la Justice, l'Office fédéral de police criminelle (BKA), la police fédérale ainsi que l'Office fédéral des migrations et des réfugiés seront désormais habilités à recourir à des technologies telles que l'intelligence artificielle et les comparaisons biométriques automatisées.
Ces nouvelles dispositions doivent remplacer le laborieux processus manuel par lequel les agents devaient jusqu'ici passer au crible les réseaux sociaux à la recherche de photos de suspects. Une recherche numérique automatisée par recoupement devient possible à la place, conçue comme une réponse à l'évolution technologique.
Reconnaissance faciale automatisée sur les réseaux sociaux
Le cœur de la réforme est le nouvel article 98d du code de procédure pénale allemand, qui crée la base juridique des comparaisons biométriques automatisées d'images en ligne. Cette disposition permet une recherche par recoupement à partir de données biométriques issues de procédures en cours et d'informations accessibles au public sur Internet.
Concrètement, cela signifie que les enquêteurs pourront désormais faire comparer automatiquement des photos de suspects avec des images publiées sur les réseaux sociaux afin d'établir leur identité ou leur lieu de séjour. La mesure est toutefois subordonnée au soupçon d'une infraction d'« importance considérable » et requiert une autorisation judiciaire.
Contradiction avec la présentation du gouvernement
Le gouvernement fédéral souligne qu'aucune base d'images étatique permanente n'est constituée et que la surveillance en temps réel via des webcams publiques reste exclue. Des experts qualifient toutefois ces restrictions de leurre : une comparaison automatisée de millions d'images du web en une fraction de seconde serait techniquement impossible sans constituer au préalable une base de données structurée et interrogeable de tous les visages disponibles.
Interconnexion des bases de données policières par l'IA
Le deuxième élément central de la réforme concerne l'analyse automatisée de données au titre de l'article 98e du code de procédure pénale. Il s'agit d'interconnecter des bases de données policières jusqu'ici isolées et de les passer au crible à l'aide de logiciels d'analyse, afin d'identifier plus rapidement les recoupements entre procédures.
La ministre de la Justice Stefanie Hubig (SPD) a défendu ces mesures en faisant valoir qu'il serait négligent de priver les autorités de tels instruments. Elle a assuré que les décisions continueraient d'être prises par des humains et non par des systèmes d'IA. Les systèmes informatiques pourront toutefois désormais être entraînés avec des données réelles issues des fichiers policiers, afin d'accroître les performances des algorithmes.
Critiques massives des organisations de défense des libertés
Une alliance de 14 organisations de la société civile, dont le Chaos Computer Club (CCC) et AlgorithmWatch, met en garde contre un changement de paradigme vers une surveillance de masse. Ces organisations dénoncent le fait que les nouvelles prérogatives pourraient signifier la fin de l'anonymat dans l'espace public.
La possibilité d'effectuer des analyses biométriques sur l'ensemble d'Internet est particulièrement critiquée comme une atteinte massive aux droits fondamentaux. Les détracteurs soulignent que les enquêteurs pourraient recourir à des services tels que Clearview AI ou PimEyes, ce qui mettrait en péril le contrôle de l'État sur des données sensibles.
Réserves d'ordre constitutionnel
Konstantin von Notz, vice-président du groupe parlementaire des Verts, estime que l'État de droit est en danger. Les instruments envisagés ne concerneraient « nullement les seules personnes directement visées par les autorités de sécurité, mais potentiellement tout le monde, y compris des citoyens parfaitement irréprochables ». Il met en doute la constitutionnalité des projets et critique en particulier la tentative de contourner les droits des citoyens européens en délocalisant les comparaisons de données à l'étranger.
Crainte d'une dépendance technologique
L'analyse automatisée de données s'accompagne de la crainte d'une « lex Palantir ». La société civile déplore que ces lois puissent créer les conditions juridiques du recours à ce logiciel, ce qui entraînerait une dépendance technologique vis-à-vis d'un groupe américain à l'« agenda hostile à la démocratie ».
Konstantin von Notz qualifie le recours potentiel à Palantir de « négligence maximale ». Au lieu de moderniser les systèmes informatiques fédéraux de la police, on masquerait les retards avec des algorithmes opaques.
Conflit redouté avec le droit européen
Les défenseurs des libertés jugent ces mesures incompatibles avec le règlement européen sur l'IA, qui encadre strictement l'identification biométrique à distance. Il ne saurait être admis que chaque selfie publié en ligne devienne potentiellement matière à alimenter les logiciels d'analyse des autorités de sécurité.
Une pétition contre ce paquet législatif a déjà recueilli plus de 140 000 signatures. Les projets sont désormais transmis au Bundestag et au Bundesrat pour la suite des débats, où l'on verra si les réserves constitutionnelles sont entendues.
Perspectives sur le paysage de la surveillance numérique
Les mesures adoptées marquent une étape importante vers une infrastructure de surveillance numérique globale. Tandis que le gouvernement insiste sur la nécessité d'une modernisation technologique, les critiques mettent en garde contre une perte de droits fondamentaux. Le débat parlementaire devra montrer si un compromis peut être trouvé entre besoins de sécurité et protection des données.
