Uticaj ChatGPT-a na sajber kriminal: OpenAI razotkriva malver i dezinformacije
OpenAI, kompanija koja stoji iza popularnog AI chatbota ChatGPT, uspješno je prekinula više od 20 cyber operacija i mreža širom svijeta od početka 2024. godine. Ovo uključuje ciljanje mreža hakera podržanih od strane država povezanih sa Iranom i Kinom, što ističe rastuću povezanost između vještačke inteligencije i sajber bezbjednosti.
Kako se ChatGPT koristi u sajber napadima
Najnoviji izvještaj OpenAI-a otkriva da je ChatGPT korišćen u različitim zlonamjernim aktivnostima, uključujući:
- Debagovanje malvera: Sajber kriminalci su koristili ChatGPT za identifikaciju i ispravku ranjivosti u zlonamjernom softveru.
- Generisanje sadržaja za web sajtove: AI je korišćen za kreiranje obmanjujućeg sadržaja na lažnim web sajtovima.
- Impersonacija na društvenim mrežama: Napadači su iskoristili ChatGPT za kreiranje objava koje su imitirale legitimne naloge, šireći dezinformacije.
- Dezinformacije o izborima: AI je učestvovao u širenju obmanjujućih informacija vezanih za izbore, što podiže zabrinutost o njegovom uticaju na demokratske procese.
Prema istraživačima OpenAI-a, sajber kriminalci obično koriste vještačku inteligenciju tokom kritične faze svojih operacija—nakon što su obezbijedili osnovne alate poput pristupa internetu i naloga na društvenim mrežama, ali prije nego što primjene sveobuhvatne malvere ili kampanje na društvenim mrežama.
Ograničen uticaj AI na sajber kriminal
I pored uključenosti ChatGPT-a u ove sajber operacije, OpenAI naglašava da je stvarni uticaj AI-a bio ograničen. Izvještaj nije pronašao značajne dokaze da AI odgovara za kreiranje novog, naprednog malvera ili značajno poboljšanje kampanja dezinformacija. Umjesto toga, sajber kriminalci koriste AI da unaprijede procese koji bi već mogli biti postignuti putem javno dostupnih alata.
Ključne sajber grupe koje iskorišćavaju ChatGPT
Izvještaj OpenAI-a identifikuje tri glavne grupe koje su iskoristile ChatGPT za sajber napade:
- SweetSpectre: Ova grupa povezana sa Kinom koristila je ChatGPT za istraživanje, analizu ranjivosti i podršku u skriptingu. Pokušali su poslati spear-phishing e-poruke sa zlonamjernim prilozima zaposlenima u OpenAI-u, ali su ti pokušaji sprečeni.
- CyberAv3ngers: Povezana sa iranskom revolucionarnom gardom, CyberAv3ngers se fokusira na napade na industrijske kontrolne sisteme (ICS) i programske logičke kontrolere (PLC). Iskoristili su ChatGPT za istraživanje ranjivosti i traženje savjeta o skriptingu za napade na kritičnu infrastrukturu povezanu sa Izraelom, Sjedinjenim Američkim Državama i Irskom.
- STORM-0817: Ova grupa bazirana u Iranu pokušala je da iskoristi ChatGPT za debagovanje malvera, kreiranje alata poput Instagram scrapper-a i pružanje podrške za kodiranje za implementaciju Android malvera. Njihovi upiti su ukazali na mogućnost izvlačenja osjetljivih podataka, uključujući kontakte, logove poziva i datoteke iz aplikacija za sigurno komuniciranje kao što su WhatsApp i IMO.
Budućnost AI i Sajber Bezbednosti
Iako su ove grupe pokušale da iskoriste ChatGPT za zlonamerne svrhe, OpenAI naglašava da vještačka inteligencija nije pružila značajne nove mogućnosti za razvoj malvera. Dobici su bili ograničeni i ostvarivi putem postojećih javnih alata.
Kako AI nastavlja da igra ulogu u prijetnjama sajber bezbjednosti, OpenAI ostaje posvećen implementaciji čvrstih mjera za identifikaciju i sprečavanje ovih zlonamjernih aktivnosti. Kontinuirana evolucija AI-a u domenu sajber bezbjednosti naglašava važnost budnosti i inovacija u strategijama sajber bezbjednosti.
