OpenAI je okupio tim sa ciljem da spriječi sudnji dan veštačke inteligencije (AI), pošto organizacija izražava bojazan u pogledu potencijalnog uništenja čovečanstva izazvanog odmetničkom AI tehnologijom.
Prema OpenAI, AI posjeduje kapacitet da se razvije u superinteligenciju, što može predstavljati najznačajniji tehnološki iskorak koji je čovječanstvo ikada postiglo, olakšavajući rješenja za ključne globalne dileme.
Međutim, Ilya Sutskever i Jan Leike iz OpenAI upozoravaju da ljudi nisu dovoljno opremljeni da se bore s tehnologijom koja prevazilazi njihove vlastite kognitivne sposobnosti.
Opasnost od superinteligentne AI
OpenAI tim priznaje predstojeću opasnost od superinteligentne AI i priznaje da im trenutno nedostaje rješenje za kontrolu ili preusmjeravanje njenog ponašanja. Postojeće metodologije za usklađivanje AI, kao što je učenje uz pomoć ljudskih povratnih informacija, oslanjaju se na ljudski nadzor. Ipak, kako AI sistemi nadmašuju ljude u inteligenciji, ovaj nadzor postaje nepouzdan.
Gospodin Sutskever, suosnivač i glavni naučnik OpenAI-a, zajedno sa gospodinom Leikeom, šefom odjela za usklađivanje OpenAI-ja, osnivaju grupu istraživača i inženjera koji imaju zadatak da savladaju tehničke prepreke koje postavlja superinteligencija. Timu su postavili rok od četiri godine da postigne ovaj cilj.
Iako su izgledi za nestanak čovječanstva alarmantni, zvaničnici OpenAI-a imaju optimističan pogled na pronalaženje rješenja. Oni čvrsto vjeruju da se problem može riješiti uz fokusirane i usklađene napore. Ohrabrujući koncepti i preliminarni eksperimenti, zajedno sa mjerljivim napretkom i sposobnošću empirijskog proučavanja ovih izazova koristeći trenutne AI modele, doprinose njihovoj čistoći.
G. Sutskever i g. Leike ističu svoju nepokolebljivu posvećenost širenju rezultata svog rada. OpenAI aktivno regrutuje istraživače, naučnike i menadžere koji imaju interes da spriječe dominaciju ili iskorenjivanje čovečanstva od strane veštačke inteligencije. Nadalje, OpenAI je najavio široku dostupnost GPT-4, njihovog najsposobnijeg AI modela, s namjerom da ga učini dostupnijim programerima.
