Que s'est-il passé ?
Le Google Threat Intelligence Group a rendu public le fait qu'il aurait déjoué une cyberattaque reposant sur une faille de sécurité zero-day. Cette faille aurait été découverte à l'aide d'une technique d'intelligence artificielle. Concrètement, il s'agissait d'une vulnérabilité dans un script Python qui aurait permis de contourner l'authentification à deux facteurs d'un outil open source basé sur le web destiné à l'administration système. Google a communiqué les informations relatives à cette faille au fournisseur concerné dans le cadre d'une divulgation responsable (responsible disclosure) et a mis fin aux activités d'attaque associées.
Élément important pour la mise en perspective : Google estime lui-même que la faille n'a pas été découverte grâce à sa propre IA Gemini. L'entreprise n'a pour l'instant communiqué que peu de détails sur ce cas concret.
Les détails
Selon ses propres déclarations, le service de sécurité de Google ne dispose pas de preuve directe que la faille ait réellement été trouvée grâce à l'IA. L'entreprise s'appuie plutôt sur des indices présents dans le code malveillant découvert. Celui-ci contenait, selon Google, un grand nombre d'informations explicites, dont une valeur CVSS fictive ainsi qu'un format Python structuré et « scolaire ». Un tel format est considéré par Google comme très caractéristique des données d'entraînement des modèles de langage génératifs.
La nature même de la faille est également remarquable : elle aurait été extrêmement difficile à détecter avec les outils de sécurité classiques. Les modèles d'IA, en revanche, seraient particulièrement performants pour rechercher précisément ce type de vulnérabilités : ils seraient ainsi capables de mettre au jour des erreurs logiques dissimulées qui apparaissent fonctionnellement correctes aux scanners classiques, mais qui constituent en réalité de graves failles de sécurité.
Mise en perspective
L'annonce de Google s'inscrit dans une évolution redoutée depuis des semaines : le début possible d'une ère de cyberattaques assistées par IA. Le modèle d'IA Claude Mythos Preview est notamment cité comme fondement de cette évolution : il serait si performant dans la recherche de failles de sécurité que son fabricant, Anthropic, ne le rend pas accessible au public. Seules certaines entreprises sélectionnées y ont accès, afin d'améliorer leur propre sécurité informatique.
Cette évolution a déjà des conséquences mesurables : dans certains logiciels, un nombre particulièrement élevé de failles a récemment été découvert et corrigé grâce à cette approche. Chez Mozilla, on estime même que, en principe, toutes les erreurs logicielles pourraient être détectables et que le camp des défenseurs pourrait prendre l'avantage dans la course contre les attaquants. Le chemin est toutefois encore long avant d'y parvenir - et la déclaration récente de Google suggère que des acteurs malveillants pourraient eux aussi désormais avoir accès à des outils tout aussi performants.
Conseils pratiques
- Les exploitants d'outils d'administration système basés sur le web devraient installer rapidement les mises à jour de sécurité, en particulier lorsque des mécanismes d'authentification à deux facteurs sont concernés.
- Les responsables de logiciels open source devraient mettre en place, ou entretenir, des processus de divulgation responsable afin de pouvoir tirer rapidement profit de signalements tels que celui de Google.
- Les équipes de sécurité informatique devraient se familiariser avec les caractéristiques du code malveillant généré par IA, comme une structure de code particulièrement scolaire ou des informations complémentaires inhabituelles telles que des valeurs CVSS fictives, afin de détecter les attaques à un stade précoce.
- Étant donné que les scanners classiques ne détectent pas de manière fiable certaines erreurs logiques, le recours complémentaire à des outils d'analyse assistés par IA du côté des défenseurs peut s'avérer judicieux.
Perspectives
L'incident signalé par Google illustre de manière exemplaire la façon dont les modèles d'IA transforment le paysage de la cybersécurité des deux côtés : ils contribuent à découvrir et corriger des vulnérabilités, mais pourraient tout aussi bien être utilisés par des attaquants pour identifier des failles avant qu'elles ne soient connues des défenseurs. Combien de temps durera cette phase et si, comme le suppose Mozilla, le camp des défenseurs finira par s'imposer à long terme, reste actuellement une question ouverte. Une chose est cependant claire : les entreprises et les développeurs doivent se préparer à un contexte de menace transformé, dans lequel les outils d'attaque assistés par IA sont appelés à jouer un rôle de plus en plus important.
