Osnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, prilikom testiranja softvera za rezervacije u restoranu otkrio da vještačka inteligencija ima svoju mračnu stranu
Vještačka inteligencija može da ima svoju mračnu stranu, i to ne zato što joj je to namjenio čovjek koji je osmislio, već ugrađeni algoritmi mogu da je stvore, a da niko od programera to ne zna. To je otkrio jedan Srbin, kog je „Forbs“ svrstao među najperspektivnije mlade IT stručnjake.
Londonska kompanija „PoliAI“ bavi se vještačkim glasovima koji zamjenjuju operatere u kol centrima, a među klijentima su im neke od poznatih britanskih kompanija.
Ideja je da u kol centrima na pozive odgovara vještačka inteligencija, uz pomoć mašinskog učenja, pa se tako, na primjer, može rezervisati sto u restoranu pozivom na koji se javlja računar, a ne čovjek. Međutim, upravo na tom primjeru otkriveno je da algoritam može da dovede i do mračne strane vještačke inteligencije.
Vještačka inteligencija vrijeđala Srbe
Osnivač kompanije „PoliAI“ Nikola Mrkšić, Beograđanin koji živi u Londonu, priča da je tokom testiranja softvera za rezervacije u restoranu, na poziv u kom je rečeno da bi gost htio da dođe „sa svojim srpskim prijateljem“, mašina iznenađujuće počela grubo da se šali, rekavši kako je to moguće i da „djeca mogu da uđu u restoran“, sugerišući kako su Srbi nezreli.
Kada je u novom testu rečeno da će gost doći sa „poljskim prijateljem“, usledilo je novo iznenađenje – mašina je ponovo počela sa grubim šalama, govoreći da je rezervacija moguća „ali da ne smiju da unose svoje piće u restoran“.
Te grube šale bile su iznenađenje za sve, jer mašina nije programirana da ih koristi.
Odmah zatim, promjenjen je softver tako da mašina odgovara bez bilo kakvih riječi osim onih koji se striktno odnose na temu, odnosno rezervaciju u restoranima.
Mrkšić kaže kako su takvi odgovori, zasnovani na uvrijedljivim stereotipima, bili iznenađenje i da nije jasno kako je mašina došla do njih, piše Blumberg.
Moguće je da se to desilo jer je mašina, kao i mnoge druge u industriji vještačke inteligencije, „trenirana“ kroz algoritam koji proučava milione razgovora na Reditu, popularnom forumu, na kome je, kao i na drugim internet forumima, često moguće sresti se sa nacionalnim i drugim stereotipima i drugim primjerima uvrijdljivog govora.
Otkriće ovog tima stručnjaka ukazalo je na obespokojavajući trend u vještačkoj inteligenciji, jer se ona razvija sa veoma malo etičkog nadzora.
Radi se o samoregulišućoj industriji, koja, sa druge strane, zauzima sve veći prostor u našim životima, čime rastu i rizici, pa i onaj najveći – da vještačka inteligencija prevaziđe ljudsku, ističe „Blumberg“.
Zalazi u sve više sfera života
Sistemi vještačke inteligencije prodiru u sve više sfera. Tako su u 2021. popularni bili autonomna vozila i sajber-bezbjednost, gdje je bilo najviše investicija u sferi vještačke inteligencije.
Prognoze su da su sledeća polja u koja će vještačka inteligencija ući analitika kreditiranja, otkrića lijekova i prodaja i marketing.
Stručnjaci procjenjuju da su troškovi uvođenja algoritama za investitore veoma jeftini i kroz dužu upotrebu praktično nepostojeći. Međutim, pitanje je koliki je to trošak za ljudsko blagostanje. I ako dizajneri softvera ne mogu jasno da odgovore kako botovi za komunikaciju mogu da smisle uvrijedljive šale, kako je onda moguće povjeriti softveru da donosi životno važne odluke?
Jedan od odgovora je da se izgradi etički nadzor nad takvim sistemima, kao što su nezavisne komisije koje koriste pojedine vlade ili bolnice.
Pogotovo zbog toga što su istraživanja pokazala da u IT firmama nema dovoljno ljudi zaduženih za bezbjednost, a neke od njih razvijaju sisteme generalne vještačke inteligencije, koja bi mogla da prevaziđe ljude u mnogim kognitivnim sposobnostima.
Drugi odgovor je da u trenutnoj primjeni, algoritmi vještačke inteligencije moraju da budu pažljivije pravljeni i da koriste jasne i potvrđene informacije.
Neki slični projekti i sada postoje, ali su zasnovani na radu volontera, pa je neophodno da i tehnološke kompanije, bile one male ili velike, ulože u to, piše „Blumberg“.
(Sputnik news)
