Was ist passiert?
Die Google Threat Intelligence Group hat öffentlich gemacht, dass sie einen Cyberangriff verhindert haben will, der auf einer Zero-Day-Sicherheitslücke beruhte. Diese Lücke soll mithilfe einer KI-Technik gefunden worden sein. Konkret ging es um eine Schwachstelle in einem Python-Skript, das es ermöglicht hätte, die Zwei-Faktor-Authentifizierung eines quelloffenen, web-basierten Werkzeugs zur Systemadministration zu umgehen. Google hat die Informationen zu der Lücke dem betroffenen Anbieter im Rahmen von Responsible Disclosure gemeldet und die damit verbundenen Angriffsaktivitäten unterbunden.
Wichtig für die Einordnung: Google geht selbst davon aus, dass die Lücke nicht mit der eigenen KI Gemini entdeckt wurde. Viele Details zum konkreten Fall nennt das Unternehmen bislang nicht.
Die Details
Die Google-Sicherheitsabteilung besitzt nach eigenen Angaben keinen direkten Beweis dafür, dass die Lücke tatsächlich mithilfe von KI gefunden wurde. Man stützt sich stattdessen auf Indizien im gefundenen Schadcode. Dieser habe eine Vielzahl informativer Angaben enthalten, dazu einen fiktiven CVSS-Wert sowie ein strukturiertes, lehrbuchhaftes Python-Format. Ein solches Format gilt laut Google als sehr charakteristisch für Trainingsdaten generativer Sprachmodelle.
Bemerkenswert ist zudem die Art der Lücke selbst: Sie soll mit herkömmlichen Sicherheitswerkzeugen nur sehr schwer auffindbar gewesen sein. KI-Modelle hingegen sollen bei der Suche nach genau solchen Schwachstellen besonders gut abschneiden – sie können demnach verborgene Logikfehler aufdecken, die für klassische Scanner funktional korrekt erscheinen, aus Sicherheitssicht aber schwerwiegende Schwachstellen darstellen.
Einordnung
Die Bekanntmachung von Google fügt sich in eine Entwicklung ein, vor der seit Wochen gewarnt wird: der mögliche Beginn einer Epoche KI-gestützter Cyberangriffe. Als Grundlage dieser Entwicklung wird vor allem das KI-Modell Claude Mythos Preview genannt, das bei der Suche nach Sicherheitslücken so leistungsfähig sein soll, dass der Hersteller Anthropic es nicht öffentlich zugänglich macht. Stattdessen erhalten nur ausgewählte Unternehmen Zugriff, um damit die eigene IT-Sicherheit zu verbessern.
Diese Entwicklung hat bereits messbare Folgen: In mancher Software wurden dadurch zuletzt besonders viele Lücken gefunden und geschlossen. Bei Mozilla geht man sogar davon aus, dass grundsätzlich alle Softwarefehler auffindbar sein könnten und die Verteidigerseite im Wettlauf mit Angreifern die Oberhand gewinnen könnte. Bis dahin ist es jedoch noch ein weiter Weg – und Googles aktuelle Stellungnahme deutet darauf hin, dass auch böswillige Cyberakteure inzwischen Zugang zu ähnlich leistungsfähigen Werkzeugen haben könnten.
Praxis-Tipps
- Betreiber von webbasierten Systemadministrationswerkzeugen sollten Sicherheitsupdates zeitnah einspielen, insbesondere wenn Mechanismen zur Zwei-Faktor-Authentifizierung betroffen sind.
- Verantwortliche für Open-Source-Software sollten Responsible-Disclosure-Prozesse etablieren beziehungsweise pflegen, um von Meldungen wie der Googles schnell profitieren zu können.
- IT-Sicherheitsteams sollten sich mit den Charakteristika KI-generierten Schadcodes auseinandersetzen, etwa auffällig strukturiertem, lehrbuchhaftem Code oder ungewöhnlichen Zusatzangaben wie fiktiven CVSS-Werten, um Angriffe frühzeitig zu erkennen.
- Da klassische Scanner bestimmte Logikfehler nicht zuverlässig erkennen, kann der ergänzende Einsatz KI-gestützter Analysewerkzeuge auf der Verteidigerseite sinnvoll sein.
Ausblick
Der von Google gemeldete Vorfall zeigt beispielhaft, wie KI-Modelle die Landschaft der Cybersicherheit auf beiden Seiten verändern: Sie helfen dabei, Schwachstellen zu finden und zu schließen, könnten aber ebenso von Angreifern genutzt werden, um Lücken zu identifizieren, bevor sie den Verteidigern bekannt sind. Wie lange diese Phase anhält und ob sich, wie bei Mozilla vermutet, langfristig die Verteidigerseite durchsetzt, ist derzeit offen. Klar ist jedoch, dass Unternehmen und Entwickler sich auf eine veränderte Bedrohungslage einstellen müssen, in der KI-gestützte Angriffswerkzeuge eine zunehmend relevante Rolle spielen dürften.
