Trovanje open source koda je nova vrsta online napada hakera, koju su otkrili istraživači Cornell Techa
Najveći problem kod ove vrste napada je imunost na obrambene mehanizme, pa je gotovo nemoguće odbraniti se od njega bez temeljne provjere i testiranja open source koda.
Kod tradicionalnih hakerskih napada stvari su jasne. Hakeri u programu pronalaze slabu točku, koriste je u svoje svrhe i tako kreiraju napad. Provođenje hakerskog napada podrazumijeva poznavanje koda, opšteg modela i posebne svrhe, dok samo trovanje open source koda prolazi bez direktne izmjene koda i modela. Tako reći, programer ga sam poziva u svoj program bez razmišljanja.
Posljedice koje nastaju ovom vrstom hakovanja su razne. Od izmjene recenzija filmova do manipulisanja modelima mašinskog učenja investicijskih banaka kako bi se investitorima pružile netačne procjene.
Međutim, da se postane žrtva ovakvog napada nije baš tako jednostavno. Prvo morate da preuzmete zatrovani open source kod sa svih vrsta repozitorija i da ga upotrebite bez provjere na postojećem sistemu. Međutim, prema istraživačima, stvari su najgore kada je u pitanju vještačka inteligencija i tehnologija mašinskog učenja.
Prema Vitaliju Šmatikovu, profesoru kompjuterskih nauka na Cornell i Cornell Techu, mnogi nestručni korisnici “grade svoje modele vještačke inteligencije pomoću koda koji jedva razumiju”. Tada takav “zatrovani sistem vještačke inteligencije” kreće s radom i čeka na uputstva hakera.
Istraživači rade na bezbjednosnim mjerama koje će “da uklone cijelu ovu klasu napada i da naprave vještačku inteligenciju i mašinsko učenje bezbjednim čak i za one koji za to nisu stručnjaci”. Do tada, trebalo bi biti oprezan i posebno da se obrati pažnja na neprovjerene open-source kodove.
(PC Chip)
