Aprobadas nuevas competencias de IA para las autoridades de seguridad alemanas
El Consejo de Ministros federal aprobó el miércoles un amplio paquete legislativo que amplía considerablemente las posibilidades de investigación digital de las autoridades de seguridad. Bajo la dirección de los ministerios de Interior y Justicia, la Oficina Federal de Investigación Criminal (BKA), la Policía Federal y la Oficina Federal de Migración y Refugiados obtendrán en el futuro la facultad de emplear tecnologías como la inteligencia artificial y los cotejos biométricos automatizados.
Las nuevas normas deben sustituir el laborioso proceso manual en el que hasta ahora los funcionarios tenían que rastrear a mano las redes sociales en busca de fotos de sospechosos. En su lugar será posible una búsqueda digital automatizada por patrones, concebida como respuesta a la evolución tecnológica.
Reconocimiento facial automatizado en las redes sociales
El núcleo de la reforma es el nuevo artículo 98d de la Ley de Enjuiciamiento Criminal, que crea la base jurídica para los cotejos biométricos automatizados de imágenes en línea. Esta norma permite una búsqueda por patrones con datos biométricos procedentes de procedimientos en curso y de información de acceso público en internet.
En concreto, esto significa que los investigadores podrán cotejar de forma automatizada fotos de sospechosos con imágenes de las redes sociales para determinar su identidad o su paradero. No obstante, la medida está vinculada a la sospecha de un delito de «relevancia considerable» y requiere una orden judicial.
Contradicción con la versión del Gobierno
El Gobierno federal subraya que no se creará una base de datos estatal permanente de imágenes y que quedan excluidas las vigilancias en tiempo real mediante cámaras web públicas. Los expertos, sin embargo, califican estas limitaciones de farsa: un cotejo automatizado de millones de imágenes de la red en fracciones de segundo sería técnicamente imposible sin crear previamente una base de datos estructurada y consultable de todos los rostros disponibles.
Interconexión de bases de datos policiales mediante IA
El segundo pilar central de la reforma afecta al análisis automatizado de datos conforme al § 98e de la Ley de Enjuiciamiento Criminal. Con él se pretende interconectar bases de datos policiales hasta ahora aisladas y analizarlas mediante software de análisis para detectar más rápido las conexiones entre procedimientos.
La ministra de Justicia, Stefanie Hubig (SPD), defendió las medidas con el argumento de que sería negligente privar a las autoridades de tales instrumentos. Aseguró que las decisiones seguirán tomándolas personas y no sistemas de IA. No obstante, en el futuro los sistemas informáticos también podrán entrenarse con datos reales de los archivos policiales para aumentar el rendimiento de los algoritmos.
Fuertes críticas de las organizaciones de derechos civiles
Una alianza de 14 organizaciones de la sociedad civil, entre ellas el Chaos Computer Club (CCC) y AlgorithmWatch, advierte de un cambio de paradigma hacia la vigilancia masiva. Las organizaciones reprochan que las nuevas competencias podrían suponer el fin del anonimato en el espacio público.
Se critica en especial la posibilidad de realizar escaneos biométricos en toda la red, considerada una injerencia masiva en los derechos fundamentales. Los críticos señalan que los investigadores podrían utilizar servicios como Clearview AI o PimEyes, lo que pondría en peligro el control estatal sobre datos sensibles.
Dudas constitucionales
Konstantin von Notz, vicepresidente del grupo parlamentario de Los Verdes, considera que el Estado de derecho está en peligro. Los instrumentos previstos no afectarían «en absoluto solo a personas directamente en el punto de mira de las autoridades de seguridad, sino potencialmente a todos, incluidos ciudadanos totalmente intachables». Cuestiona la constitucionalidad de los proyectos y critica especialmente el intento de eludir los derechos civiles europeos externalizando los cotejos de datos al extranjero.
Preocupación por la dependencia tecnológica
Al análisis automatizado de datos se asocia el temor a una llamada «Lex Palantir». La sociedad civil critica que las leyes podrían crear las condiciones jurídicas para el uso de este software, lo que llevaría a una dependencia tecnológica de un grupo estadounidense con una «agenda contraria a la democracia».
Von Notz califica el posible uso de Palantir de «negligencia máxima». En lugar de modernizar los sistemas informáticos federales de la policía, se estarían tapando los retrasos con algoritmos opacos.
Se teme un conflicto con el derecho de la UE
Los defensores de los derechos civiles consideran las medidas incompatibles con el Reglamento de Inteligencia Artificial de la UE, que regula estrictamente la identificación biométrica a distancia. No puede ser que cada selfi en la red se convierta potencialmente en alimento para el software de análisis de las autoridades de seguridad.
Contra el paquete legislativo circula ya una petición que ha reunido más de 140.000 firmas. Los proyectos pasan ahora al Bundestag y al Bundesrat para su ulterior debate, donde se verá si las objeciones constitucionales encuentran eco.
Perspectivas del panorama de vigilancia digital
Las medidas aprobadas marcan un paso significativo hacia una infraestructura integral de vigilancia digital. Mientras el Gobierno subraya la necesidad de modernización tecnológica, los críticos advierten de la pérdida de derechos civiles fundamentales. El debate parlamentario deberá mostrar si es posible encontrar un compromiso entre las necesidades de seguridad y la protección de datos.
