Ključne ličnosti u vještačkoj inteligenciji žele da se obustave moćni AI sistemi zbog straha od prijetnje čovječanstvu
Oni su potpisali otvoreno pismo upozoravajući na potencijalne rizike i kažu da je trka za razvoj AI sistema izmakla kontroli.
Šef Twitter-a Ilon Mask je među onima koji žele da obuka AI iznad određenog kapaciteta bude zaustavljena na najmanje šest mjeseci.
Suosnivač Apple-a Stiv Voznijak i neki istraživači u „DeepMind-u“ takođe su potpisali.
OpenAI, kompanija koja stoji iza ChatGPT-a, nedavno je objavila GPT-4 – najsavremeniju tehnologiju, koja je impresionirala posmatrače svojom sposobnošću da obavlja zadatke kao što je odgovaranje na pitanja o objektima na slikama.
U pismu „Future of Life Institute“, potpisnici traže da se razvoj privremeno zaustavi na tom nivou, upozoravajući u svom pismu na rizike koje bi napredniji sistemi mogli predstavljati u budućnosti.
„AI sistemi sa inteligencijom koja se takmiči među ljudima mogu predstavljati duboke rizike za društvo i čovječanstvo“, kaže se.
„The Future of Life Institute“ je neprofitna organizacija koja kaže da je njena misija da „usmjeri transformativne tehnologije dalje od ekstremnih rizika velikih razmjera u korist života“.
Ilon Mask, vlasnik Twitter-a i izvršni direktor automobilske kompanije Tesla, naveden je kao vanjski savjetnik te organizacije.
Naprednu vještačku inteligenciju treba pažljivo razvijati, kaže se u pismu. Međutim, umjesto toga, „u posljednjih nekoliko mjeseci AI laboratorije su bile zaključane u trci van kontrole za razvoj i implementaciju sve moćnijih digitalnih umova od kojih niko – čak ni njihovi kreatori“ – može da razume, predvidi ili pouzdano kontroliše“.
U pismu se upozorava da bi vještačka inteligencija mogla preplaviti kanale informacija dezinformacijama i zamijeniti poslove automatizacijom.
Pismo je uslijedilo nakon nedavnog izvještaja investicione banke „Goldman Sachs“. U njemu se navodi da bi, iako će AI sistemi vjerovatno da povećaju produktivnost, milioni poslova mogli postati automatizovani.
Međutim, drugi stručnjaci rekli su za BBC da je efekat AI na tržište rada veoma teško predvidjeti.
AI sistemi bi mogli da nas nadmaše, nadmudre i zamijene
U pismu se postavlja pitanje: „Da li treba da razvijamo neljudske umove koji bi na kraju mogli da nas nadmaše, nadmudre i zamijene?“
U nedavnom blog postu koji je citiran u pismu, OpenAI je upozorio na rizike ako se vještačka opšta inteligencija (AGI) neoprezno razvija: „Neusklađen superinteligentni AGI mogao bi nanijeti tešku štetu svijetu; autokratski režim s odlučnim vodstvom superinteligencije mogao bi da to učini.
„Koordinacija između AGI napora da se uspori u kritičnim momentima će vjerovatno biti važna“, napisao je OpenAI.
Mask je bio suosnivač OpenAI – iako je dao ostavku iz odbora organizacije prije nekoliko godina i tvitovao je kritički o njenom trenutnom smjeru.
Funkcije autonomne vožnje koje je napravila njegova automobilska kompanija Tesla, kao i većina sličnih sistema, koriste AI tehnologiju.
U pismu se od AI laboratorija traži da „odmah pauziraju na najmanje šest mjeseci obuku AI sistema moćnijih od GPT-4“.
Ako se takvo odlaganje ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorijum, kaže se.
Biće potrebne i „nove i sposobne regulatorne vlasti posvećene vještačkoj inteligenciji“.
Nedavno je u SAD-u, Velikoj Britaniji i EU iznijet niz prijedloga za regulaciju tehnologije. Međutim, Velika Britanija je isključila namjenski regulator za AI, piše BBC.
