Što se dogodilo?
Savezni ured za sigurnost informacijske tehnologije (BSI) i Program policijske prevencije kriminala saveznih zemalja i savezne države (ProPK) predstavili su monitor kibersigurnosti – aktualno istraživanje koje otkriva jasan nerazmjer između samoprocjene i stvarnog ponašanja: gotovo polovica korisnika interneta u Njemačkoj vjeruje da može prepoznati sadržaj generiran umjetnom inteligencijom. No u praksi tek manjina zapravo provjerava je li neki sadržaj autentičan. Samo 28 posto ispitanika ikada je tražilo nedosljednosti na slici, a tek 19 posto istražilo je izvor sadržaja.
Detalji
Monitor kibersigurnosti donosi dodatne brojke koje jasno pokazuju razmjer nedostatka znanja. Otprilike trećina ispitanika (32 posto) dosad nije poduzela nijednu od uobičajenih mjera za prepoznavanje sadržaja generiranog umjetnom inteligencijom. Ipak, 40 posto barem je razmislilo o tome djeluje li prikazana scena realistično – što je nizak prag, ali važan prvi korak.
Znanje o konkretnim scenarijima prijevare također je slabo razvijeno. Samo 38 posto ispitanika smatra mogućim da kibernetički kriminalci ciljano manipuliraju AI programom kako bi im ovaj prosljeđivao osjetljive podatke. Da kriminalci mogu u dokumente umetnuti nevidljive naredbe za AI sustave, smatra mogućim tek 40 posto ispitanika. Prema BSI-u, oba scenarija napada tehnički su doista izvediva.
Predsjednica BSI-a Claudia Plattner naglašava važnost prepoznavanja sadržaja generiranog umjetnom inteligencijom za zaštitu potrošača: „Sadržaj generiran umjetnom inteligencijom već je odavno dio svakodnevice potrošača. Kako bi se prepoznali rizici i dezinformacije, neophodno je znati koji su sadržaji, objave i prikazi na internetu generirani AI-om.“ BSI za to pruža smjernice i podiže svijest o tome što je s umjetnom inteligencijom moguće te kako se takvi sadržaji mogu prepoznati.
Konkretan primjer iz prakse iznosi dr. Stefanie Hinz, predsjednica zemaljske policije i predsjednica ProPK-a: takozvana prijevara u kibertradingu (Cybertrading-Fraud). Kriminalci pritom obećavaju brze dobitke i visoke prinose kod online trgovanja. Za to često pomoću umjetne inteligencije izrađuju videe u kojima navodno poznate osobe reklamiraju unosne mogućnosti ulaganja. Hinz savjetuje da se kod takvih ponuda najprije provjeri je li obećanje uopće realistično – ili je jednostavno prelijepo da bi bilo istinito.
Kontekst
Brojke iz monitora kibersigurnosti relevantne su za tvrtke i osobe odgovorne za sigurnost iz više razloga. S jedne strane, raskorak između osjećaja kompetentnosti i stvarne kompetentnosti ukazuje na temeljni problem: tko se osjeća sigurnim a da ne primjenjuje odgovarajuće mehanizme provjere, rjeđe će kritički preispitivati sadržaje i time je podložniji pokušajima obmane. To se ne odnosi samo na privatne osobe, već i na zaposlenike u tvrtkama koji se u svakodnevnom radu susreću s e-mailovima, dokumentima, videima ili pozivima čija se autentičnost ne može lako provjeriti.
S druge strane, niska razina osviještenosti o tehničkim scenarijima manipulacije – poput ciljanog umetanja nevidljivih naredbi u dokumente ili manipulacije AI programima radi prosljeđivanja podataka – jasno pokazuje da sigurnosni koncepti u tvrtkama trebaju obuhvatiti ne samo klasične IT zaštitne mjere, već i edukacije o postupanju sa sadržajem generiranim umjetnom inteligencijom. Upravo opisana prijevara u kibertradingu pokazuje koliko se ciljano koristi umjetna inteligencija za stjecanje povjerenja i nanošenje gospodarske štete.
Praktični savjeti
- Kod sumnjivih sadržaja aktivno tražiti nedosljednosti, primjerice pogrešne sjene ili neprirodne udove na slikama i videima.
- Uvijek istražiti izvor sadržaja prije nego što se informacija ocijeni vjerodostojnom.
- Kod ponuda ulaganja na internetu kritički provjeriti jesu li obećani prinosi realni – prema ProPK-u, to je prvi važan korak protiv prijevare u kibertradingu.
- Koristiti kontrolnu listu BSI-a s obilježjima za prepoznavanje slika generiranih umjetnom inteligencijom.
- Uključiti informativne materijale ProPK-a o online prijevarama s ulaganjima u edukacije i mjere podizanja svijesti.
- Držati pri ruci zajedničku kontrolnu listu BSI-a i ProPK-a za slučaj prijevare u internetskom bankarstvu.
Izgledi za budućnost
Monitor kibersigurnosti jasno pokazuje da same tehničke zaštitne mjere nisu dovoljne za suočavanje s rastućim rizikom od sadržaja generiranog umjetnom inteligencijom. Zaštita potrošača i podizanje svijesti, kakve nude BSI i ProPK putem svojih kontrolnih lista, dobivaju sve veću važnost. Za tvrtke to znači: mjere podizanja svijesti o prijevarama pomoću umjetne inteligencije trebale bi postati sastavni dio sigurnosne strategije, uz klasične teme poput zaštite perimetra, kontrole pristupa prostorima ili upravljanja pristupom sustavima. S obzirom na tehničke mogućnosti manipulacije AI sustavima ili umetanja nevidljivih naredbi u dokumente, ova tema će u narednim mjesecima vjerojatno dobivati na značaju – kako za privatne korisnike, tako i za osobe odgovorne za sigurnost u tvrtkama.
