Facebook ne samo da prepoznaje deepfake (lažne) slike – nego i njihove autore
Fenomen lažne, takozvane deepfake slike uzimaju sve više maha, ali Facebook društvena mreža sprema odgovor.
Uz pomoć vještačke inteligencije, lako je da se lažira fotografija tako da se, ne samo na prvi pogled, ne može uočiti da se radi o „lažnjaku“.
Takozvani deepfake najviše se širi na društvenim mrežama. Najpopularnija od njih, Facebook, već duže vrijeme radi na njihovom suzbijanju, ali dosad bez većeg uspjeha.
Sada je odlučila uzvratiti udarac i identifikovati autora „lažnjaka“. Uz pomoć stručnjaka sa Univerziteta Michigan, razvila je tehnologiju koja otkriva autora.
Istraživanje je provedeno na više od 100.000 lažnih slika napravljenih od 100 javno dostupnih „pravih“ fotografija.
Obrnuti inženjering
Zasniva se na tehnologiji obrnutog inženjeringa koja otkriva alate kojima su nastale. Kako na tržištu postoji tek nekoliko AI tehnologija kojima se može kreirati uvjerljivi deepfake – nije teško prepoznati alat, a onda i pronaći „majstora“.
Obrnuti inženjering je drugačiji način pristupanja problemu dubokih kopija, ali to nije novi koncept u mašinskom učenju. Prethodni rad na obrnutom inženjeringu ML modela dolazi do modela ispitivanjem njegovih ulazno / izlaznih parova, tretirajući sam model kao crnu kutiju.
Drugi pristup pretpostavlja da su informacije o hardveru, poput CPU-a i upotrebe memorije, dostupne tokom smetnji modela. Oba ova pristupa ovise o postojećem znanju o samom modelu, što ograničava njihovu upotrebljivost u stvarnim slučajevima, gdje takve informacije često nisu dostupne.
Kako radi tehnologija obrnutog inženjeringa možete pogledati ovdje
Facebook nije objavio kada će da počne da primjenjuje novu tehnologiju, ali se očekuje je da će autori deepfake slika napokon „dolijati“.
(IT mixer)
