Aprovadas novas competências de IA para as autoridades de segurança alemãs
O Conselho de Ministros alemão aprovou na quarta-feira um pacote legislativo de grande alcance que amplia consideravelmente as possibilidades de investigação digital das autoridades de segurança. Sob a coordenação dos ministérios do Interior e da Justiça, a Polícia Judiciária Federal (BKA), a polícia federal e o Serviço Federal para a Migração e os Refugiados passam a ter competência para utilizar tecnologias como a inteligência artificial e as comparações biométricas automatizadas.
As novas regras devem substituir o moroso processo manual em que, até agora, os agentes tinham de percorrer manualmente as redes sociais em busca de fotografias de suspeitos. Em vez disso, torna-se possível uma pesquisa digital automatizada por perfis, pensada como resposta à evolução tecnológica.
Reconhecimento facial automatizado em redes sociais
O núcleo da reforma é o novo artigo 98d do Código de Processo Penal alemão, que cria a base jurídica para comparações biométricas automatizadas de imagens em linha. Esta norma permite uma pesquisa por perfis com dados biométricos provenientes de processos em curso e de informações publicamente acessíveis na Internet.
Em concreto, isto significa: os investigadores poderão futuramente fazer comparar automaticamente fotografias de suspeitos com imagens nas redes sociais, para determinar a sua identidade ou paradeiro. A medida está, porém, condicionada à suspeita de um crime de "relevância significativa" e carece de autorização judicial.
Contradição com a apresentação do governo
O governo federal sublinha que não haverá a criação de uma base de dados estatal permanente de imagens e que fica excluída a vigilância em tempo real através de webcams públicas. Especialistas consideram, no entanto, estas limitações uma farsa: uma comparação automatizada de milhões de imagens da web em fracções de segundo seria tecnicamente impossível sem criar previamente uma base de dados estruturada e pesquisável de todos os rostos disponíveis.
Interligação de bases de dados policiais através de IA
O segundo elemento central da reforma diz respeito à análise automatizada de dados nos termos do § 98e do Código de Processo Penal. Nela, bases de dados policiais até agora isoladas devem ser interligadas e analisadas com software de análise, para detectar mais depressa ligações transversais entre processos.
A ministra da Justiça, Stefanie Hubig (SPD), defendeu as medidas com o argumento de que seria negligente privar as autoridades de tais instrumentos. Garantiu que as decisões continuariam a ser tomadas por pessoas e não por sistemas de IA. No entanto, os sistemas informáticos poderão futuramente ser treinados também com dados reais provenientes dos acervos policiais, para aumentar o desempenho dos algoritmos.
Fortes críticas de organizações de defesa dos direitos civis
Uma aliança de 14 organizações da sociedade civil, entre elas o Chaos Computer Club (CCC) e a AlgorithmWatch, alerta para uma mudança de paradigma rumo à vigilância em massa. As organizações criticam que as novas competências possam significar o fim do anonimato no espaço público.
É sobretudo a possibilidade de realizar rastreios biométricos em toda a Internet que é criticada como violação maciça dos direitos fundamentais. Os críticos sublinham que os investigadores poderiam usar serviços como o Clearview AI ou o PimEyes, o que comprometeria o controlo estatal sobre dados sensíveis.
Reservas de constitucionalidade
Konstantin von Notz, vice-líder parlamentar dos Verdes, vê o Estado de direito em perigo. Os instrumentos previstos afectariam "de modo algum apenas pessoas no foco directo das autoridades de segurança, mas potencialmente todos, incluindo cidadãos completamente irrepreensíveis". Questiona a constitucionalidade dos projectos e critica em especial a tentativa de contornar os direitos civis europeus através da deslocalização das comparações de dados para o estrangeiro.
Receio de dependência tecnológica
À análise automatizada de dados associa-se o receio de uma chamada "Lex Palantir". A sociedade civil critica que as leis possam criar os pressupostos jurídicos para o uso deste software, o que levaria a uma dependência tecnológica de um grupo norte-americano com uma "agenda hostil à democracia".
Von Notz classifica o eventual uso do Palantir como "altamente negligente". Em vez de modernizar os sistemas informáticos federais da polícia, os atrasos seriam encobertos com algoritmos opacos.
Receio de conflito com o direito da UE
Os defensores dos direitos civis consideram as medidas incompatíveis com o Regulamento da IA da UE, que regula estritamente a identificação biométrica à distância. Não pode acontecer que cada selfie na Internet se torne potencialmente alimento para o software de análise das autoridades de segurança.
Contra o pacote legislativo corre já uma petição que reuniu mais de 140 000 assinaturas. Os projectos seguem agora para apreciação no Bundestag e no Bundesrat, onde se verá se as reservas de constitucionalidade encontram eco.
Perspectivas sobre o panorama da vigilância digital
As medidas aprovadas marcam um passo significativo rumo a uma infra-estrutura abrangente de vigilância digital. Enquanto o governo sublinha a necessidade de modernização tecnológica, os críticos alertam para a perda de direitos civis fundamentais. O debate parlamentar terá de mostrar se é possível encontrar um compromisso entre as necessidades de segurança e a protecção de dados.
