O que aconteceu?
O Instituto Federal de Segurança da Informação da Alemanha (BSI) e o Programa de Prevenção Criminal Policial dos Estados e da Federação (ProPK) apresentaram, com o Monitor de Cibersegurança, um levantamento atual que revela uma clara discrepância entre a autoavaliação e o comportamento real: quase metade dos usuários de internet na Alemanha acredita ser capaz de reconhecer conteúdos gerados por IA. Na prática, porém, apenas uma minoria verifica de fato se um conteúdo é autêntico. Somente 28% já procuraram por inconsistências em imagens, e apenas 19% pesquisaram a fonte de um conteúdo.
Os detalhes
O Monitor de Cibersegurança apresenta outros números que evidenciam a extensão dessa lacuna de conhecimento. Cerca de um terço dos entrevistados (32%) ainda não adotou nenhuma das medidas usuais para identificar conteúdos gerados por IA. Ainda assim, 40% pelo menos consideraram se uma cena representada parecia realista – um primeiro passo simples, mas importante.
O conhecimento sobre cenários concretos de fraude também é reduzido. Apenas 38% dos entrevistados consideram possível que criminosos cibernéticos manipulem intencionalmente um programa de IA para que este divulgue dados sensíveis. Que criminosos possam inserir instruções invisíveis para sistemas de IA em documentos é considerado plausível por apenas 40%. Segundo o BSI, ambos os cenários de ataque são tecnicamente possíveis.
A presidente do BSI, Claudia Plattner, destaca a importância de reconhecer conteúdos gerados por IA para a proteção do consumidor: "Conteúdos gerados por IA já fazem parte do cotidiano dos consumidores há muito tempo. Para identificar riscos e desinformação, é, portanto, indispensável reconhecer quais conteúdos, publicações e representações no mundo online são gerados por IA." O BSI oferece orientação sobre o tema e sensibiliza para o que é possível com IA e como reconhecer tais conteúdos.
Um exemplo concreto da prática é fornecido pela Dra. Stefanie Hinz, presidente da polícia estadual e presidente do ProPK: a chamada fraude de cybertrading. Nesses casos, criminosos prometem lucros rápidos e altos rendimentos em negociações online. Frequentemente, criam vídeos com o auxílio de IA nos quais supostas celebridades promovem oportunidades de investimento lucrativas. Hinz recomenda que, diante de tais ofertas, se verifique primeiro se a promessa é sequer realista – ou se é simplesmente boa demais para ser verdade.
Análise
Os números do Monitor de Cibersegurança são relevantes por vários motivos para empresas e responsáveis pela segurança. Por um lado, a discrepância entre a competência percebida e a real evidencia um problema fundamental: quem se sente seguro sem aplicar mecanismos de verificação adequados tende a questionar menos criticamente e, portanto, torna-se mais vulnerável a tentativas de fraude. Isso afeta não apenas pessoas físicas, mas também colaboradores em empresas que, no cotidiano de trabalho, se deparam com e-mails, documentos, vídeos ou chamadas cuja autenticidade não é facilmente identificável.
Por outro lado, a baixa sensibilidade em relação a cenários técnicos de manipulação – como a inserção intencional de instruções invisíveis em documentos ou a manipulação de programas de IA para divulgação de dados – deixa claro que os conceitos de segurança nas empresas não devem incluir apenas medidas clássicas de proteção de TI, mas também treinamentos sobre como lidar com conteúdos gerados por IA. O caso de fraude por cybertrading descrito acima mostra justamente como a IA é utilizada de forma direcionada para conquistar confiança e causar prejuízos econômicos.
Dicas práticas
- Buscar ativamente por inconsistências em conteúdos suspeitos, como sombras incorretas ou membros com aparência antinatural em imagens e vídeos.
- Pesquisar sempre a fonte de um conteúdo antes de classificar as informações como confiáveis.
- Ao receber ofertas de investimento na internet, verificar criticamente se os rendimentos prometidos são realistas – segundo o ProPK, um primeiro passo importante contra a fraude de cybertrading.
- Utilizar a lista de verificação disponibilizada pelo BSI com sinais para identificar imagens geradas por IA.
- Incluir as informações do ProPK sobre fraudes de investimento online em treinamentos e ações de conscientização.
- Ter à mão a lista de verificação conjunta do BSI e do ProPK para casos de fraude em internet banking.
Perspectivas
O Monitor de Cibersegurança deixa claro que medidas técnicas de proteção, por si só, não são suficientes para enfrentar o crescente risco representado pelos conteúdos gerados por IA. A proteção do consumidor e a conscientização, como as oferecidas pelo BSI e pelo ProPK por meio de suas listas de verificação, ganham cada vez mais importância. Para as empresas, isso significa que medidas de conscientização sobre fraudes por IA devem se tornar parte integrante da estratégia de segurança, complementando temas clássicos como proteção perimetral, controle de acesso físico ou gestão de acessos. Diante das possibilidades técnicas de manipular sistemas de IA ou inserir instruções invisíveis em documentos, o tema deve ganhar ainda mais relevância nos próximos meses – tanto para usuários privados quanto para responsáveis pela segurança nas empresas.
