Que s'est-il passé ?
L'Office fédéral de la sécurité des technologies de l'information (BSI) et le Programme de prévention policière de la criminalité des Länder et de la Fédération (ProPK) ont présenté, avec le moniteur de cybersécurité, une étude actuelle qui révèle un décalage marqué entre l'auto-évaluation et le comportement réel : près de la moitié des internautes en Allemagne pensent être capables de reconnaître des contenus générés par IA. Dans la pratique, cependant, seule une minorité vérifie effectivement si un contenu est authentique. Seulement 28 % ont déjà cherché des incohérences dans une image, et seulement 19 % ont recherché la source d'un contenu.
Les détails
Le moniteur de cybersécurité fournit d'autres chiffres qui illustrent l'ampleur de ce déficit de connaissances. Environ un tiers des personnes interrogées (32 %) n'a encore jamais pris aucune des mesures courantes permettant de détecter les contenus générés par IA. Néanmoins, 40 % ont au moins réfléchi à la question de savoir si une scène représentée semblait réaliste – une première étape simple mais importante.
Les connaissances sur les scénarios de fraude concrets sont également limitées. Seulement 38 % des personnes interrogées estiment possible que des cybercriminels manipulent délibérément un programme d'IA afin que celui-ci divulgue des données sensibles. Que des criminels puissent insérer des instructions invisibles destinées aux systèmes d'IA dans des documents n'est jugé plausible que par 40 % des répondants. Selon le BSI, ces deux scénarios d'attaque sont pourtant techniquement réalisables.
La présidente du BSI, Claudia Plattner, souligne l'importance de la détection des contenus générés par IA pour la protection des consommateurs : « Les contenus générés par IA font depuis longtemps partie du quotidien des consommateurs. Pour identifier les risques et les fausses informations, il est donc indispensable de savoir quels contenus, publications et représentations dans le monde en ligne sont générés par IA. » Le BSI propose à cet égard des repères et sensibilise sur ce que l'IA permet de faire et sur la manière de reconnaître de tels contenus.
Un exemple concret issu de la pratique est fourni par le Dr Stefanie Hinz, présidente de la police du Land et présidente du ProPK : la fraude dite au « cybertrading ». Dans ce cas, des criminels promettent des gains rapides et des rendements élevés dans le trading en ligne. Ils créent souvent, à l'aide de l'IA, des vidéos dans lesquelles des personnalités apparemment célèbres font la promotion d'opportunités d'investissement lucratives. Hinz conseille, face à de telles offres, de vérifier d'abord si la promesse est réaliste – ou si elle est tout simplement trop belle pour être vraie.
Mise en perspective
Les chiffres du moniteur de cybersécurité sont pertinents pour les entreprises et les responsables de la sécurité pour plusieurs raisons. D'une part, l'écart entre la compétence perçue et la compétence réelle révèle un problème fondamental : celui qui se sent en sécurité sans appliquer de mécanismes de vérification adéquats fera moins souvent preuve d'esprit critique et sera donc plus vulnérable aux tentatives de tromperie. Cela concerne non seulement les particuliers, mais aussi les collaborateurs en entreprise, confrontés au quotidien à des e-mails, documents, vidéos ou appels dont l'authenticité n'est pas facilement vérifiable.
D'autre part, la faible sensibilisation aux scénarios de manipulation technique – comme l'insertion ciblée d'instructions invisibles dans des documents ou la manipulation de programmes d'IA en vue de la divulgation de données – montre clairement que les concepts de sécurité en entreprise ne devraient pas se limiter aux mesures de protection informatique classiques, mais devraient également inclure des formations sur la gestion des contenus générés par IA. La fraude au cybertrading décrite ci-dessus illustre particulièrement bien comment l'IA est utilisée de manière ciblée pour gagner la confiance et causer des dommages économiques.
Conseils pratiques
- Rechercher activement les incohérences dans les contenus suspects, comme des ombres incorrectes ou des membres à l'aspect non naturel dans les images et vidéos.
- Toujours rechercher la source d'un contenu avant de le considérer comme crédible.
- Pour les offres d'investissement en ligne, vérifier de manière critique si les rendements promis sont réalistes – selon le ProPK, une première étape essentielle contre la fraude au cybertrading.
- Utiliser la liste de contrôle fournie par le BSI avec les signes permettant de reconnaître les images générées par IA.
- Intégrer les informations du ProPK sur la fraude aux investissements en ligne dans les formations et les mesures de sensibilisation.
- Tenir à disposition la liste de contrôle commune du BSI et du ProPK pour les cas de fraude sur les services bancaires en ligne.
Perspectives
Le moniteur de cybersécurité montre clairement que les mesures de protection techniques seules ne suffisent pas à faire face au risque croissant lié aux contenus générés par IA. La protection des consommateurs et la sensibilisation, telles que proposées par le BSI et le ProPK avec leurs listes de contrôle, gagnent en importance. Pour les entreprises, cela signifie que les mesures de sensibilisation à la fraude par IA devraient devenir une composante à part entière de la stratégie de sécurité, en complément des thématiques classiques telles que la protection périmétrique, le contrôle d'accès ou la gestion des droits d'accès. Compte tenu des possibilités techniques de manipuler des systèmes d'IA ou d'insérer des instructions invisibles dans des documents, ce sujet devrait continuer à gagner en importance dans les mois à venir – tant pour les utilisateurs privés que pour les responsables de la sécurité en entreprise.
