¿Qué ha ocurrido?
La Oficina Federal de Seguridad de la Información (BSI, por sus siglas en alemán) y el Programa de Prevención Policial del Delito de los Estados Federados y la Federación (ProPK) han presentado con el Monitor de Ciberseguridad un estudio actual que revela una notable discrepancia entre la autopercepción y el comportamiento real: casi la mitad de los usuarios de internet en Alemania cree ser capaz de reconocer contenidos generados por IA. En la práctica, sin embargo, solo una minoría comprueba realmente si un contenido es auténtico. Apenas el 28 % ha buscado alguna vez inconsistencias en una imagen, y solo el 19 % ha investigado la fuente de un contenido.
Los detalles
El Monitor de Ciberseguridad aporta más cifras que ponen de manifiesto la magnitud de esta brecha de conocimiento. Aproximadamente un tercio de los encuestados (32 %) no ha aplicado todavía ninguna de las medidas habituales para detectar contenidos generados por IA. Al menos un 40 % se ha planteado si una escena representada parece realista, un primer paso sencillo pero importante.
El conocimiento sobre escenarios concretos de fraude también es escaso. Solo el 38 % de los encuestados considera posible que ciberdelincuentes manipulen deliberadamente un programa de IA para que este divulgue datos sensibles. Y que los delincuentes puedan insertar instrucciones invisibles para sistemas de IA en documentos lo consideran plausible únicamente el 40 %. Según el BSI, ambos escenarios de ataque son técnicamente posibles.
La presidenta del BSI, Claudia Plattner, subraya la importancia de reconocer los contenidos generados por IA para la protección del consumidor: «Los contenidos generados por IA forman parte desde hace tiempo de la vida cotidiana de los consumidores. Por ello, para identificar riesgos y desinformación es imprescindible reconocer qué contenidos, publicaciones y representaciones del mundo online han sido generados por IA». El BSI, según explica, ofrece orientación al respecto y sensibiliza sobre lo que es posible hacer con IA y cómo se pueden reconocer dichos contenidos.
La Dra. Stefanie Hinz, jefa de la policía estatal y presidenta del ProPK, aporta un ejemplo concreto de la práctica: el llamado fraude de cibertrading. En este caso, los delincuentes prometen ganancias rápidas y altos rendimientos en el trading online. Con frecuencia crean, con ayuda de la IA, vídeos en los que aparentemente celebridades promocionan oportunidades de inversión lucrativas. Hinz recomienda que, ante este tipo de ofertas, primero se compruebe si la promesa es siquiera realista, o si simplemente es demasiado buena para ser verdad.
Contextualización
Las cifras del Monitor de Ciberseguridad son relevantes por varios motivos para empresas y responsables de seguridad. Por un lado, la discrepancia entre la competencia percibida y la real evidencia un problema fundamental: quien se siente seguro sin aplicar los mecanismos de verificación adecuados tenderá a cuestionar menos y, por tanto, será más vulnerable a los intentos de engaño. Esto no afecta solo a particulares, sino también a empleados de empresas que en su día a día se enfrentan a correos electrónicos, documentos, vídeos o llamadas cuya autenticidad no siempre resulta fácil de determinar.
Por otro lado, la escasa sensibilización ante escenarios técnicos de manipulación —como la inserción deliberada de instrucciones invisibles en documentos o la manipulación de programas de IA para la filtración de datos— pone de manifiesto que los conceptos de seguridad en las empresas no deben limitarse a las medidas clásicas de protección informática, sino incluir también formación sobre el manejo de contenidos generados por IA. El fraude de cibertrading descrito muestra precisamente hasta qué punto se utiliza la IA de forma deliberada para ganarse la confianza y causar daños económicos.
Consejos prácticos
- Buscar activamente inconsistencias en contenidos sospechosos, como sombras incorrectas o extremidades poco naturales en imágenes y vídeos.
- Investigar siempre la fuente de un contenido antes de considerar la información como creíble.
- En el caso de ofertas de inversión en internet, comprobar de forma crítica si los rendimientos prometidos son realistas; según el ProPK, este es un primer paso importante contra el fraude de cibertrading.
- Utilizar la lista de verificación del BSI con señales para identificar imágenes generadas por IA.
- Incorporar la información del ProPK sobre fraude de inversión online en formaciones y medidas de sensibilización.
- Tener a mano la lista de verificación conjunta de BSI y ProPK para casos de fraude en la banca online.
Perspectivas
El Monitor de Ciberseguridad deja claro que las medidas técnicas de protección por sí solas no bastan para hacer frente al creciente riesgo de los contenidos generados por IA. La protección del consumidor y la sensibilización, tal como las ofrecen el BSI y el ProPK con sus listas de verificación, ganan cada vez más importancia. Para las empresas, esto significa que las medidas de concienciación sobre el fraude con IA deberían convertirse en parte integral de la estrategia de seguridad, complementando temas clásicos como la protección perimetral, el control de accesos o la gestión de permisos. Dadas las posibilidades técnicas de manipular sistemas de IA o de insertar instrucciones invisibles en documentos, es previsible que este tema gane aún más relevancia en los próximos meses, tanto para usuarios particulares como para los responsables de seguridad en las empresas.
