TikTok mijenja pravila moderacije, a kako bi korisnike zaštitio od dezinformacija. Nove odluke došle su zbog američkih predsjedničkih izbora, a u centru pažnje su se našli deepfake sadržaji koji postaju sve uvjerljiviji.
Eksperti već neko vrijeme ističu da imamo sreće što deepfake još uvijek nije ozbiljan problem, a najprije zbog toga što od lažnih video sadržaja nema dobre zaštite, pa Facebook detektor, na primjer, otkriva tek dvije trećine od svih deepfake sadržaja koji se nađu na internetu. Iako su pornografski sadržaji skrenuli pažnju mejnstrim javnosti, stručnjaci proučavaju i druge segmente u okviru kojih bi deepfake u budućnosti mogao da ostavi ozbiljne posljedice, piše The Verge.
Ipak, definicija toga šta je deepfake neće biti korisna u slučaju sprečavanja neželjenih scenarija, pa se polako približavamo svijetu u kojem nećemo moći da budemo sigurni u vjerodostojnost bilo kojeg audio-vizuelnog sadržaja, što će uticati na još veće nepovjerenje u medije, sudove, te javne institucije.
TikTok nije prva platforma koja je ušla u borubu protiv deepfake sadržaja
Nakon što je platforma Pornhub u februaru 2018. objavila da će uklanjati deepfake sadržaje u okviru kojih je lica poznatih ličnosti, te bilo koja druga, moguće uklopiti u neki pornografski sadržaj, koji potom izgleda prilično realno, kompanija Naughty America odlučila je da ovakve sadržaje stavi u službu sopstvenog poslovanja, pa je lansirala servis koji korisnicima omogućava da sadržaje prilagode sopstvenom ukusu, i da uključe svoj lik u erotske klipove koje gledaju. Od tada deepfake sve više ulazi u mejnstrim, i postaje dostupan i običnim građanima, prenosi PC Press.
Facebook se u borbu protiv deepfake-a uključio u septembru 2019. godine, te eksperte za AI pozvao da kreiraju sisteme koji bi uspješno detektovali ovakve sadržaje. U januaru 2020. je preduzet još jedan korak, u okviru kojeg su na platformi zabranjeni svi deepfake videi koji služe za širenje dezinformacija, a potom se pojavio i Deepfake Detection Challenge, u okviru kojeg je korišćeno 100 hiljada deepfake video klipova koji su korišćeni za obuku sistema za detektovanje.
U borbu se sada uključio i TikTok, koji već zabranjuje političke reklame, a banovanje deepfake videa bi trebalo da dodatno oteža manipulisanje javnim mnjenjem zarad sticanja političkih poena.
