Was ist passiert?
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Programm Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK) haben mit dem Cybersicherheitsmonitor eine aktuelle Erhebung vorgelegt, die ein deutliches Missverhältnis zwischen Selbsteinschätzung und tatsächlichem Verhalten offenbart: Fast die Hälfte der Internetnutzerinnen und -nutzer in Deutschland glaubt, KI-generierte Inhalte erkennen zu können. In der Praxis überprüft jedoch nur eine Minderheit tatsächlich, ob ein Inhalt echt ist. Lediglich 28 Prozent haben schon einmal nach Unstimmigkeiten im Bild gesucht, nur 19 Prozent haben die Quelle eines Inhalts recherchiert.
Die Details
Der Cybersicherheitsmonitor liefert weitere Zahlen, die das Ausmaß der Erkenntnislücke verdeutlichen. Rund ein Drittel der Befragten (32 Prozent) hat noch keine einzige der gängigen Maßnahmen zur Erkennung von KI-generierten Inhalten ergriffen. Immerhin 40 Prozent haben zumindest überlegt, ob eine dargestellte Szene realistisch wirkt – ein niedrigschwelliger, aber wichtiger erster Schritt.
Auch das Wissen über konkrete Betrugsszenarien ist gering ausgeprägt. Nur 38 Prozent der Befragten halten es für möglich, dass Cyberkriminelle ein KI-Programm gezielt manipulieren, damit dieses sensible Daten weitergibt. Dass Kriminelle unsichtbare Anweisungen für KI-Systeme in Dokumente einfügen können, halten sogar nur 40 Prozent für denkbar. Beide Angriffsszenarien sind laut BSI technisch tatsächlich möglich.
BSI-Präsidentin Claudia Plattner betont die Bedeutung der Erkennung KI-generierter Inhalte für den Verbraucherschutz: „KI-generierte Inhalte sind längst im Alltag von Verbraucherinnen und Verbrauchern angekommen. Um Risiken und Falschinformationen zu identifizieren, ist es daher unverzichtbar, zu erkennen, welche Inhalte, Beiträge und Darstellungen in der Online-Welt KI-generiert sind.“ Das BSI biete hierzu Orientierung und sensibilisiere dafür, was mit KI möglich sei und wie entsprechende Inhalte erkannt werden können.
Ein konkretes Beispiel aus der Praxis liefert Dr. Stefanie Hinz, Landespolizeipräsidentin und Vorsitzende des ProPK: den sogenannten Cybertrading-Fraud. Dabei versprechen Kriminelle schnelle Gewinne und hohe Renditen beim Online-Trading. Häufig erstellen sie dafür mithilfe von KI Videos, in denen scheinbar Prominente für lukrative Anlagemöglichkeiten werben. Hinz rät, bei solchen Angeboten zunächst zu prüfen, ob das Versprechen überhaupt realistisch ist – oder ob es schlicht zu gut ist, um wahr zu sein.
Einordnung
Die Zahlen des Cybersicherheitsmonitors sind aus mehreren Gründen relevant für Unternehmen und Sicherheitsverantwortliche. Zum einen zeigt die Diskrepanz zwischen gefühlter und tatsächlicher Kompetenz ein grundsätzliches Problem: Wer sich sicher fühlt, ohne entsprechende Prüfmechanismen anzuwenden, wird seltener kritisch hinterfragen und ist damit anfälliger für Täuschungsversuche. Das betrifft nicht nur Privatpersonen, sondern auch Mitarbeitende in Unternehmen, die im Arbeitsalltag mit E-Mails, Dokumenten, Videos oder Anrufen konfrontiert werden, deren Authentizität nicht ohne Weiteres erkennbar ist.
Zum anderen macht die geringe Sensibilität für technische Manipulationsszenarien – etwa das gezielte Einschleusen unsichtbarer Anweisungen in Dokumente oder die Manipulation von KI-Programmen zur Datenweitergabe – deutlich, dass Sicherheitskonzepte in Unternehmen nicht nur klassische IT-Schutzmaßnahmen, sondern auch Schulungen zum Umgang mit KI-generierten Inhalten umfassen sollten. Gerade der beschriebene Cybertrading-Fraud zeigt, wie gezielt KI eingesetzt wird, um Vertrauen zu erschleichen und wirtschaftlichen Schaden zu verursachen.
Praxis-Tipps
- Bei verdächtigen Inhalten aktiv nach Unstimmigkeiten suchen, etwa fehlerhaften Schatten oder unnatürlichen Gliedmaßen in Bildern und Videos.
- Die Quelle eines Inhalts grundsätzlich recherchieren, bevor Informationen als glaubwürdig eingestuft werden.
- Bei Anlageangeboten im Internet kritisch prüfen, ob versprochene Renditen realistisch sind – laut ProPK ein erster wichtiger Schritt gegen Cybertrading-Fraud.
- Die vom BSI bereitgestellte Checkliste mit Erkennungszeichen KI-generierter Bilder nutzen.
- Informationsangebote des ProPK zu Online-Anlagebetrug in Schulungen und Sensibilisierungsmaßnahmen einbeziehen.
- Die gemeinsame Checkliste von BSI und ProPK für den Ernstfall bei Betrug im Onlinebanking bereithalten.
Ausblick
Der Cybersicherheitsmonitor macht deutlich, dass technische Schutzmaßnahmen allein nicht ausreichen, um dem wachsenden Risiko durch KI-generierte Inhalte zu begegnen. Verbraucherschutz und Sensibilisierung, wie sie BSI und ProPK mit ihren Checklisten anbieten, gewinnen an Bedeutung. Für Unternehmen bedeutet das: Awareness-Maßnahmen zu KI-Betrug sollten fester Bestandteil der Sicherheitsstrategie werden, ergänzend zu klassischen Themen wie Perimeterschutz, Zutrittskontrolle oder Zugriffsmanagement. Angesichts der technischen Möglichkeiten, KI-Systeme zu manipulieren oder unsichtbare Anweisungen in Dokumente einzuschleusen, dürfte das Thema in den kommenden Monaten weiter an Relevanz gewinnen – sowohl für private Nutzer als auch für Sicherheitsverantwortliche in Betrieben.
