Umjetna inteligencija sada se koristi u kibernetičkom kriminalu za automatizaciju prevara, skaliranje phishing kampanja i industrijalizaciju lažnog predstavljanja na razini koja je ranije bila nepraktična.
Nažalost, napadi potpomognuti AI-jem mogli bi biti među najvećim sigurnosnim prijetnjama s kojima će se vaše poslovanje suočiti ove godine, no praćenje razvoja i brzo djelovanje mogu vas držati korak ispred napadača.
Izvješće tvrtke Group-IB pokazuje da rastuća uporaba AI-ja, kojeg nazivaju “Weaponized AI” među kriminalcima predstavlja jasni peti val kibernetičkog kriminala, potaknut komercijalnom dostupnošću AI alata, a ne izoliranim eksperimentiranjem.
Dokazi iz praćenja dark weba pokazuju da kibernetičke kriminalne aktivnosti povezane s AI-jem nisu kratkoročna reakcija na nove tehnologije. Group-IB navodi da su objave na dark webu koje prvi put spominju ključne riječi povezane s AI-jem porasle za 371 posto između 2019. i 2025.
Najizraženije ubrzanje uslijedilo je nakon javnog lansiranja ChatGPT-a krajem 2022., nakon čega je razina interesa ostala trajno visoka. Do 2025. deseci tisuća rasprava na forumima godišnje spominjali su zlouporabu AI-ja, što upućuje na stabilno podzemno tržište, a ne samo eksperimentalnu znatiželju.
Analitičari Group-IB-a identificirali su najmanje 251 objavu izričito usmjerenu na iskorištavanje velikih jezičnih modela (LLM), pri čemu je većina referenci bila povezana sa sustavima temeljenima na OpenAI-ju.
Pojavila se strukturirana ekonomija AI kriminalnog softvera, s najmanje tri dobavljača koji nude samostalno hostirane “Dark LLM” modele bez sigurnosnih ograničenja.
Cijene pretplata kreću se od 30 do 200 dolara mjesečno, a neki dobavljači tvrde da imaju više od tisuću korisnika.
Jedan od najbržerastućih segmenata su usluge lažnog predstavljanja, pri čemu su spominjanja deepfake alata povezanih s zaobilaženjem provjere identiteta porasla za 233 posto na godišnjoj razini.
Osnovni kompleti za sintetički identitet prodaju se već od pet dolara, dok platforme za deepfake u stvarnom vremenu koštaju između tisuću i 10.000 dolara.
Group-IB je zabilježio 8065 pokušaja prijevara uz pomoć deepfakea u jednoj instituciji između siječnja i kolovoza 2025., pri čemu su potvrđeni globalni gubici dosegnuli 347 milijuna dolara.
Zlonamjerni softver potpomognut AI-jem i zlouporaba API-ja naglo su porasli, pri čemu je phishing generiran AI-jem sada ugrađen u platforme za “malware-as-a-service” i alate za daljinski pristup.
Stručnjaci upozoravaju da napadi potpomognuti AI-jem mogu zaobići tradicionalne obrane ako timovi ne nadziru i ne ažuriraju sustave kontinuirano. Mreže trebaju zaštitu putem vatrozida koji mogu identificirati neuobičajen promet i pokušaje phishinga generirane AI-jem.
Uz odgovarajuću zaštitu krajnjih točaka, tvrtke mogu otkriti sumnjive aktivnosti prije nego što se zlonamjerni softver ili alati za daljinski pristup prošire. Brzo i prilagodljivo uklanjanje zlonamjernog softvera ostaje ključno jer napadi omogućeni AI-jem mogu djelovati i širiti se brže nego što standardne metode mogu odgovoriti.
U kombinaciji sa slojevitim sigurnosnim pristupom i otkrivanjem anomalija, ove mjere pomažu u zaustavljanju upada poput deepfake poziva, kloniranih glasova i lažnih pokušaja prijave.