Co się stało?
Google Threat Intelligence Group ujawniła, że zapobiegła cyberatakowi opartemu na luce bezpieczeństwa typu zero-day. Luka ta miała zostać znaleziona przy użyciu technik sztucznej inteligencji. Konkretnie chodziło o podatność w skrypcie Python, która umożliwiłaby obejście uwierzytelniania dwuskładnikowego w otwartoźródłowym, opartym na przeglądarce narzędziu do administracji systemami. Google przekazał informacje o luce dotkniętemu dostawcy w ramach procesu odpowiedzialnego ujawniania (responsible disclosure) i powstrzymał związaną z nią aktywność ataku.
Istotne dla oceny sytuacji: sam Google zakłada, że luka nie została odkryta za pomocą własnego modelu SI Gemini. Firma nie ujawniła dotąd wielu szczegółów dotyczących konkretnego przypadku.
Szczegóły
Dział bezpieczeństwa Google przyznaje, że nie posiada bezpośredniego dowodu na to, iż luka faktycznie została znaleziona przy użyciu SI. Zamiast tego opiera się na poszlakach znalezionych w szkodliwym kodzie. Miał on zawierać wiele informacyjnych komentarzy, w tym fikcyjną wartość CVSS oraz uporządkowaną, podręcznikową strukturę kodu Python. Taki format uznawany jest przez Google za bardzo charakterystyczny dla danych treningowych generatywnych modeli językowych.
Godny uwagi jest również sam charakter luki: miała być ona bardzo trudna do wykrycia za pomocą tradycyjnych narzędzi bezpieczeństwa. Modele SI natomiast mają radzić sobie szczególnie dobrze przy wyszukiwaniu właśnie takich podatności – potrafią bowiem wykrywać ukryte błędy logiczne, które dla klasycznych skanerów wyglądają na funkcjonalnie poprawne, lecz z punktu widzenia bezpieczeństwa stanowią poważne luki.
Ocena sytuacji
Komunikat Google wpisuje się w trend, przed którym ostrzega się od tygodni: możliwy początek epoki cyberataków wspieranych przez SI. Za podstawę tego rozwoju uznaje się przede wszystkim model SI Claude Mythos Preview, który ma być tak skuteczny w wyszukiwaniu luk bezpieczeństwa, że producent, firma Anthropic, nie udostępnia go publicznie. Zamiast tego dostęp otrzymują jedynie wybrane firmy, aby mogły poprawić własne bezpieczeństwo IT.
Ten rozwój ma już wymierne skutki: w niektórych programach dzięki temu ostatnio znaleziono i naprawiono szczególnie dużo luk. W Mozilli zakłada się nawet, że zasadniczo wszystkie błędy w oprogramowaniu mogłyby zostać wykryte, a strona obronna mogłaby zyskać przewagę w wyścigu z atakującymi. Do tego momentu droga jest jednak jeszcze daleka – a aktualne oświadczenie Google sugeruje, że również złośliwi cyberprzestępcy mogą już mieć dostęp do podobnie zaawansowanych narzędzi.
Wskazówki praktyczne
- Operatorzy internetowych narzędzi do administracji systemami powinni na bieżąco instalować aktualizacje bezpieczeństwa, zwłaszcza jeśli dotyczą one mechanizmów uwierzytelniania dwuskładnikowego.
- Osoby odpowiedzialne za oprogramowanie open source powinny wdrożyć lub utrzymywać procesy odpowiedzialnego ujawniania luk, aby móc szybko korzystać z takich zgłoszeń jak to od Google.
- Zespoły bezpieczeństwa IT powinny zapoznać się z charakterystycznymi cechami złośliwego kodu generowanego przez SI, takimi jak nietypowo uporządkowany, podręcznikowy kod czy nietypowe dodatkowe informacje, jak fikcyjne wartości CVSS, aby móc wcześnie rozpoznawać ataki.
- Ponieważ klasyczne skanery nie zawsze niezawodnie wykrywają pewne błędy logiczne, uzupełniające zastosowanie narzędzi analitycznych wspieranych przez SI po stronie obronnej może być rozsądnym rozwiązaniem.
Perspektywy
Zgłoszony przez Google incydent pokazuje na przykładzie, jak modele SI zmieniają krajobraz cyberbezpieczeństwa po obu stronach: pomagają w znajdowaniu i usuwaniu luk, ale mogą też być wykorzystywane przez atakujących do identyfikowania podatności, zanim staną się one znane obrońcom. Jak długo potrwa ta faza i czy, jak przypuszcza się w Mozilli, w dłuższej perspektywie przewagę zyska strona obronna, pozostaje obecnie kwestią otwartą. Jasne jest jednak, że firmy i deweloperzy muszą przygotować się na zmienioną sytuację zagrożenia, w której narzędzia ataku wspierane przez SI będą odgrywać coraz istotniejszą rolę.
