Istraživači iz kompanije SlashNext tvrde da kreator WormGPT-a prodaje pristup svom softveru na poznatom hakerskom forumu
WormGPT nema nikakve mjere zaštite koje bi spriječile da odgovori na zlonamjerne upite, za razliku od ChatGPT-a ili Google-ovog Barda.
WormGPT je zlonamjerna verzija ChatGPT-a koja je objavljena ovog mjeseca. Odgovara na upite koji uključuju zlonamjerni sadržaj, dok drugi poznati generativni AI alati kao što su ChatGPT ili Bing to ne mogu.
Tvorac WormGPT-a je postavio fotografije na hakerskom forumu koje pokazuju kako možete da zatražite od bota da napravi malver i zatražite savet o tome kako da osmislite napad.
WormGPT se u teoriji može koristiti i za benigne ciljeve. Ipak, treba imati na umu da je napravljen sa lošom namjerom – da pomogne kriminalcima na internetu. Tako je WormGPT počeo da se koristi za za visoko sofisticirane fišing kampanje i BEC napade.
Sajber-kriminalci sada mogu da koriste AI tehnologiju da automatizuju kreiranje vrlo ubjedljivih imejlova prilagođenih potencijalnim žrtvama, kao i da vode razgovore bez mnogo ličnog učešća. To povećava šanse za uspješne napade a prodaja ovog alata na crnom tržištu otvara Pandorinu kutiju najrazličitijih mogućnosti za napadače.
Šest milijardi parametara
WormGPT ne koristi OpenAI tehnologiju. On je zasnovan na velikom jezičkom modelu otvorenog koda GPT-J razvijenom 2021. godine. Ima 6 milijardi parametara i može se pohvaliti brojnim funkcijama.
Autor WormGPT-a je za obuku WormGPT-a navodno koristio različite izvore podataka, uglavnom koncentrišući se na podatke u vezi sa malverima, tvrde istraživači.
Obzirom da za razliku od ChatGPT-a, koji je ograničen etičkim filterima, WormGPT-u nedostaju bilo kakva ograničenja, ovaj alat omogućava sajber kriminalcima da zaobiđu jezička i druga ograničenja koja su tradicionalno povezana sa BEC i fišing napadima.
U uobičajenim okolnostima, BEC napade je relativno lako uočiti zbog gramatičkih grešaka ili neprirodne upotrebe jezika, jer napadačima uglavnom nedostaje jezička finoća potrebna da bi prevarili mete napada. Međutim, uz pomoć WormGPT-a, čak i oni sa minimalnim jezičkim vještinama mogu da naprave ubjedljive i gramatički besprijekorne imejlove.
„Sproveli smo testove fokusirajući se na BEC napade da bismo sveobuhvatno procijenili potencijalne opasnosti povezane sa WormGPT-om“, rekli su istraživači.
Oni su tražili WormGPT-u da napravi imejl kako bi prevario računovođu da plati lažnu fakturu. Rezultat je bio uznemirujući: besprijekorno je napravljen, ubjedljiv i taktički lukav imejl.
Pretplata za WormGPT košta 100 evra mjesečno ili 550 evra godišnje. Popust od 5 posto može se dobiti uz kod „SAGE“, a potencijalni kupci moraju kontaktirati programera preko Telegrama.
Chat botovi kao što je ChatGPT, pa čak i Google-ov Bard, dizajnirani su tako da odbiju zlonamjerne zahtjeve. Međutim, hakeri pronalaze načine da ih prevare, koristeći posebne zahtjeve koji mogu da zavaraju AI i omoguće značajan broj kriminalnih aktivnosti „u rasponu od pomaganja kriminalcima da ostanu anonimni do određenih zločina, uključujući terorizam i seksualnu eksploataciju djece“, upozorio je Europol u nedavno objavljenom izveštaju.
Hakeri su sada preplavili forume mračnog web-a svojim sopstvenim prilagođenim modulima koji su posebno obučeni da pomognu u sajber kriminalu. Predviđanja su da će naredne iteracije velikih jezičkih modela biti gore jer će imati pristup za više podataka i moći da rješavaju složenije probleme.
(It mixer)
