¿Qué ha ocurrido?
Google Threat Intelligence Group ha hecho público que afirma haber frustrado un ciberataque basado en una vulnerabilidad de seguridad de día cero (Zero-Day). Según se informa, esta vulnerabilidad fue detectada mediante una técnica de inteligencia artificial. Concretamente, se trataba de un fallo en un script de Python que habría permitido eludir la autenticación de dos factores de una herramienta de código abierto y basada en web para la administración de sistemas. Google notificó la información sobre la vulnerabilidad al proveedor afectado en el marco de un proceso de divulgación responsable (Responsible Disclosure) y detuvo las actividades de ataque relacionadas.
Un dato importante para contextualizar: la propia Google asume que la vulnerabilidad no fue descubierta con su propia IA, Gemini. Hasta el momento, la empresa no ha revelado muchos más detalles sobre el caso concreto.
Los detalles
Según indica el propio departamento de seguridad de Google, no cuentan con pruebas directas de que la vulnerabilidad haya sido realmente detectada mediante IA. En su lugar, se basan en indicios encontrados en el código malicioso identificado. Este contenía, según explican, una gran cantidad de datos informativos, entre ellos un valor CVSS ficticio y un formato de Python estructurado y de estilo "libro de texto". Según Google, este tipo de formato es muy característico de los datos de entrenamiento de los modelos de lenguaje generativos.
También resulta llamativo el tipo de vulnerabilidad en sí: se afirma que habría sido muy difícil de detectar con las herramientas de seguridad convencionales. Los modelos de IA, en cambio, parecen destacar especialmente en la búsqueda de este tipo de vulnerabilidades: son capaces de descubrir errores lógicos ocultos que, para los escáneres clásicos, parecen funcionalmente correctos, pero que desde el punto de vista de la seguridad representan fallos graves.
Contexto
El anuncio de Google se enmarca en una tendencia sobre la que se viene advirtiendo desde hace semanas: el posible inicio de una era de ciberataques impulsados por IA. Como base de esta evolución se menciona sobre todo el modelo de IA Claude Mythos Preview, que según se afirma es tan eficaz en la búsqueda de vulnerabilidades de seguridad que su fabricante, Anthropic, no lo pone a disposición del público en general. En su lugar, solo determinadas empresas seleccionadas obtienen acceso, con el fin de mejorar su propia seguridad informática.
Esta evolución ya tiene consecuencias medibles: recientemente se han encontrado y corregido un número especialmente alto de vulnerabilidades en algunos programas gracias a ello. En Mozilla incluso se considera que, en principio, todos los errores de software podrían llegar a ser detectables, y que el bando defensor podría hacerse con la ventaja en la carrera contra los atacantes. Sin embargo, todavía queda un largo camino por recorrer hasta ese punto, y el comunicado actual de Google sugiere que también los actores maliciosos podrían tener ya acceso a herramientas de capacidades similares.
Consejos prácticos
- Los operadores de herramientas de administración de sistemas basadas en web deberían instalar las actualizaciones de seguridad con prontitud, especialmente cuando se ven afectados los mecanismos de autenticación de dos factores.
- Los responsables de software de código abierto deberían establecer o mantener procesos de divulgación responsable para poder beneficiarse rápidamente de notificaciones como la de Google.
- Los equipos de seguridad informática deberían familiarizarse con las características del código malicioso generado por IA, como una estructura llamativamente ordenada y de estilo "libro de texto" o datos adicionales inusuales, como valores CVSS ficticios, para poder detectar los ataques a tiempo.
- Dado que los escáneres clásicos no pueden detectar de forma fiable determinados errores lógicos, el uso complementario de herramientas de análisis basadas en IA por parte del bando defensor puede resultar útil.
Perspectivas
El incidente reportado por Google ilustra de forma ejemplar cómo los modelos de IA están transformando el panorama de la ciberseguridad en ambos frentes: ayudan a encontrar y corregir vulnerabilidades, pero también podrían ser utilizados por los atacantes para identificar fallos antes de que los defensores tengan conocimiento de ellos. Todavía está por ver cuánto durará esta fase y si, como se sospecha en Mozilla, a largo plazo se impondrá el bando defensor. Lo que sí está claro es que las empresas y los desarrolladores deben prepararse para un panorama de amenazas cambiante, en el que las herramientas de ataque impulsadas por IA probablemente desempeñarán un papel cada vez más relevante.
