Co się wydarzyło?
Federalny Urząd Bezpieczeństwa Informacji (BSI) oraz Program Policyjnej Prewencji Kryminalnej Krajów Związkowych i Federacji (ProPK) przedstawiły aktualne badanie – monitor cyberbezpieczeństwa – które ujawnia wyraźną rozbieżność między samooceną a rzeczywistym zachowaniem: prawie połowa użytkowników internetu w Niemczech wierzy, że jest w stanie rozpoznać treści generowane przez AI. W praktyce jednak tylko mniejszość faktycznie sprawdza, czy dana treść jest autentyczna. Zaledwie 28 procent kiedykolwiek szukało niezgodności na obrazie, a tylko 19 procent sprawdziło źródło danej treści.
Szczegóły
Monitor cyberbezpieczeństwa dostarcza dalszych danych, które uwidaczniają skalę tej luki poznawczej. Około jedna trzecia respondentów (32 procent) nie podjęła jeszcze żadnego z powszechnych działań w celu wykrywania treści generowanych przez AI. Przynajmniej 40 procent zastanowiło się, czy przedstawiona scena wydaje się realistyczna – to niewymagający wiele, ale ważny pierwszy krok.
Wiedza o konkretnych scenariuszach oszustw jest również niewielka. Tylko 38 procent respondentów uważa za możliwe, że cyberprzestępcy celowo manipulują programem AI, aby ten przekazał wrażliwe dane. Że przestępcy mogą wprowadzać niewidoczne instrukcje dla systemów AI do dokumentów, uznaje za możliwe zaledwie 40 procent. Według BSI oba te scenariusze ataku są technicznie faktycznie możliwe.
Prezydent BSI Claudia Plattner podkreśla znaczenie rozpoznawania treści generowanych przez AI dla ochrony konsumentów: „Treści generowane przez AI od dawna są częścią codzienności konsumentów. Aby zidentyfikować ryzyka i dezinformację, niezbędne jest rozpoznawanie, które treści, wpisy i przedstawienia w świecie online są generowane przez AI”. BSI oferuje w tym zakresie orientację i uświadamia, co jest możliwe za pomocą AI oraz jak rozpoznawać odpowiednie treści.
Konkretny przykład z praktyki podaje dr Stefanie Hinz, komendantka policji krajowej i przewodnicząca ProPK: tak zwane oszustwo cybertrading. Przestępcy obiecują w nim szybkie zyski i wysokie zwroty z handlu online. Często tworzą do tego za pomocą AI filmy, w których rzekomo znane osoby reklamują lukratywne możliwości inwestycyjne. Hinz radzi, aby przy takich ofertach najpierw sprawdzić, czy obiecane zyski są w ogóle realistyczne – czy po prostu są zbyt dobre, by były prawdziwe.
Ocena
Dane z monitora cyberbezpieczeństwa są istotne dla firm i osób odpowiedzialnych za bezpieczeństwo z kilku powodów. Z jednej strony rozbieżność między odczuwanymi a rzeczywistymi kompetencjami wskazuje na podstawowy problem: kto czuje się bezpiecznie, nie stosując odpowiednich mechanizmów weryfikacji, rzadziej podejdzie krytycznie do treści i tym samym jest bardziej narażony na próby oszustwa. Dotyczy to nie tylko osób prywatnych, ale również pracowników firm, którzy w codziennej pracy mają do czynienia z e-mailami, dokumentami, filmami czy rozmowami telefonicznymi, których autentyczność nie jest łatwa do rozpoznania.
Z drugiej strony niska świadomość technicznych scenariuszy manipulacji – na przykład celowego wprowadzania niewidocznych instrukcji do dokumentów lub manipulowania programami AI w celu przekazania danych – wskazuje, że koncepcje bezpieczeństwa w firmach powinny obejmować nie tylko klasyczne środki ochrony IT, ale również szkolenia w zakresie obsługi treści generowanych przez AI. Zwłaszcza opisane oszustwo cybertrading pokazuje, jak celowo wykorzystuje się AI, aby zdobyć zaufanie i wywołać szkody gospodarcze.
Wskazówki praktyczne
- Przy podejrzanych treściach aktywnie szukać niezgodności, na przykład błędnych cieni lub nienaturalnych kończyn na obrazach i filmach.
- Zasadniczo sprawdzać źródło treści, zanim informacje zostaną uznane za wiarygodne.
- Przy ofertach inwestycyjnych w internecie krytycznie sprawdzać, czy obiecane zyski są realistyczne – według ProPK to pierwszy ważny krok w walce z oszustwem cybertrading.
- Korzystać z listy kontrolnej udostępnionej przez BSI z cechami rozpoznawczymi obrazów generowanych przez AI.
- Uwzględniać materiały informacyjne ProPK dotyczące oszustw inwestycyjnych online w szkoleniach i działaniach uświadamiających.
- Mieć w zasięgu ręki wspólną listę kontrolną BSI i ProPK na wypadek oszustwa w bankowości internetowej.
Perspektywy
Monitor cyberbezpieczeństwa wyraźnie pokazuje, że same środki techniczne nie wystarczą, by przeciwdziałać rosnącemu ryzyku związanemu z treściami generowanymi przez AI. Ochrona konsumentów i działania uświadamiające, takie jak listy kontrolne oferowane przez BSI i ProPK, zyskują na znaczeniu. Dla firm oznacza to: działania z zakresu świadomości dotyczące oszustw wykorzystujących AI powinny stać się stałym elementem strategii bezpieczeństwa, uzupełniając klasyczne tematy, takie jak ochrona obwodowa, kontrola dostępu czy zarządzanie dostępem. W świetle technicznych możliwości manipulowania systemami AI lub wprowadzania niewidocznych instrukcji do dokumentów, temat ten w najbliższych miesiącach zapewne będzie zyskiwał na znaczeniu – zarówno dla użytkowników prywatnych, jak i dla osób odpowiedzialnych za bezpieczeństwo w przedsiębiorstwach.
