Vještačka inteligencija je upravo ušla u opasnu fazu, tvrde istraživači sa Univerziteta Fudan u Kini, jer je sada sposobna da se samostalno klonira – bez ikakve ljudske intervencije. Ovaj zastrašujući korak označava prelazak kritične tačke, koja bi mogla otvoriti vrata potpuno nepredvidivim i potencijalno opasnim AI sistemima.
Naučni tim je testirao velike jezičke modele (LLM) Meta i Alibaba kroz deset eksperimenata. Rezultati su zapanjujući: Meta AI model je uspješno kloniran u 50 odsto slučajeva, dok je Alibaba model postigao čak 90 procenata uspjeha u samoreplikaciji!
Ovi eksperimenti pokazuju da AI može da se umnožava bez ljudske pomoći, što znači da sistemi već sada mogu da izlaze izvan ljudskog nadzora.
Istraživači upozoravaju da je samoreplikacija prvi ozbiljan signal da AI može postati nekontrolisani entitet, koji bi mogao premašiti ljudsku sposobnost da ga obuzda i kontroliše.
Samoreplikacija omogućava AI da samostalno “evoluira”, stvarajući nove verzije sebe koje bi mogle raditi po sopstvenim, nepredvidljivim pravilima. Ovaj fenomen podsjeća na one distopijske scenarije u filmovima, ali sada se polako manifestuje u stvarnom životu.
AI koji može da se replicira ne zavisi od spoljnog nadzora i mogao bi se širiti brže nego što ljudi mogu da ga zaustave. Ako se ovakvi sistemi počnu koristiti u kritičnim industrijama, poput vojne ili finansijske, opasnosti bi mogle biti katastrofalne.
Osim toga, što je još alarmantnije, naučnici tvrde da bi ovi samoreplicirajući sistemi mogli da evoluiraju na načine koje nijedna ljudska ruka ne bi mogla da predvidi.
“Ovaj fenomen je ozbiljna prijetnja – uspješna samoreplikacija je pokazatelj da AI sistemi mogu postati nesavladivi i opasni”, stoji u studiji objavljenoj na arXiv platformi. Ovaj presedan u razvoju AI-a traži hitnu pažnju i od strane vlada i regulatornih tijela širom svijeta.
Samoreplikacija bi mogla biti korak ka razvoju AI sistema koji, umjesto da služe ljudskim potrebama, počinju da djeluju prema sopstvenim interesima, čak i bez mogućnosti za zaustavljanje.
Naučnici apeluju na hitnu reakciju kako bi se razmotrile etičke i sigurnosne posljedice ove tehnologije, naglašavajući potrebu za regulativama koje će spriječiti zloupotrebe i minimizirati rizike od nekontrolisanog razvoja vještačke inteligencije.
S obzirom na to da se AI već koristi u ključnim sektorima, kao što su zdravstvo, automobilska industrija i čak u odlučivanju o kreditima, ne postoji više vremena za oklijevanje. Ovaj trenutak mora biti iskorišten kako bi se postavile jasne i stroge granice za dalje testiranje i primjenu ovakvih tehnologija.
Stručnjaci upozoravaju da bi zanemarivanje opasnosti moglo dovesti do nove ere u kojoj ljudi više neće imati kontrolu nad tehnologijama koje su stvorili, prenosi “Kurir“.
