Blejk Lemojn je tokom prethodnog perioda uzdrmao društvene mreže i internet tvrdeći da Google chatbot LaMDA ima „razum i dušu“ i da je na nivou djeteta uzrasta od šest do osam godina
Lemojn je softverski inženjer zadužen za etička pitanja u Responsible AI sektoru kompanije Google i svojom izjavom da bi Google chatbot LaMDA mogao da se nazove osobom, uzburkao strasti i među stručnjacima i među laicima.
Lemojn je suspendovan zbog ovih svojih ispada, ali čitav slučaj postavlja razna pitanja.
Šta predstavlja LaMDA i čemu ovaj projekat služi?
LaMDA ili Language Models for Dialog Applications predstavlja jezički model za mašinsko učenje, koji je kreiran od strane kompanije Google kao chatbot. Njegova uloga je da imitira ljude u razgovorima.
Poput BERT, GPT-3 i drugih jezičkih modela, LaMDA je izgrađena na Transformeru – arhitekturi neuralnih mreža koju je Google osmislio 2017. godine i načinio je otvoreni kodom.
Ova arhitektura proizvodi model koji može da se istrenira da čita veliki broj riječi, kao i da vodi računa o tome na koji način te riječi imaju smisla, kao i da predvidi koja reč bi mogla uslijediti. Ono što LaMDA-u čini drugačijom jeste da je trenirana na dijalogu, za razliku od većine drugih modela.
Iako se razgovori obično vrte oko određenih tema, oni su često otvoreni. To znači da mogu da počnu sa jednom temom i da se završe negdje drugde.
Upravo taj „tečni“ kvalitet obavljanja razgovora je ono što na kraju odaje konvencionalne chat botove. Oni nisu u stanju da prate takav promjenljivi dijalog jer su dizajnirani da prate uske, unaprijed definisane dijelove razgovora. Ali LaMDA je dizajnirana tako da može da se neometano uključi u razgovore o gotovo beskrajnom broju tema.
Intervju sa Google LaMDA chatbot-om
Lemojn je objavio „intervju“ koji je obavio sa Google LaMDA chatbot-om, a u okviru kojeg AI (bar prema njegovom mišljenju) pokazuje osjećaj usamljenosti i žudi za novim duhovnim saznanjima.
Upravo je ovo, zajedno sa drugim elementima u okviru kojih je ovaj jezički model pokazao neke nivoe svijesti, ono što je Lemojna navelo da vjeruje da je model postao „misleće biće“.
Google ja naravno odbacio ovakve tvrdnje, a zvanična poruka kompanije jeste da ovakvi modeli za razgovor nemaju razum kakav pominje Lemojn. Ti sistemi zapravo imitiraju tipove razmjena koji mogu da se pronađu u milionima rečenica.
Međutim, čak i ako LaMDA nije sistem koji ima svijest, sama činjenica da tako može da djeluje ljudskom biću moglo bi biti razlog za zabrinutost. Sam Google je priznao takve rizike u objavi na blogu iz 2021. godine, kada je najavio LaMDA-u.
„Jezik je možda jedno od najvećih oruđa čovječanstva, ali kao i svi alati može da se zloupotrijebi. Modeli obučeni na jeziku kao sredstvu mogu da propagiraju tu zloupotrebu — na primer, internalizovanjem predrasuda, preslikavanjem govora mržnje ili repliciranjem obmanjujućih informacija. Čak i kada je jezik na kom se obučava pažljivo provjeren, sam model i dalje može da se loše koristi ili zloupotrijebi“, stoji u objavi kompanije.
Ipak, Google kaže da je, iako stvara tehnologije poput LaMDA, najveći prioritet kompanije da minimizuje mogućnost pojave takvih rizika.
Kompanija je saopštila da je izgradila resurse otvorenog koda koje istraživači mogu da koriste za analizu modela i podataka o kojima su obučeni i da je „pomno ispitala LaMDA u svakom koraku njenog razvoja“.
Različiti stavovi stručnjaka
Kada su u pitanju mišljenja stručnjaka, i na ovom polju su se razvili različiti stavovi. Neki eksperti za AI kažu da ljudska bića (među kojima je i Lemojn) imaju predispoziciju za antropomorfizovanje karakteristike nečega odmah kada uoče i najslabije signale, a na ovo nisu imuni ni inženjeri u Google-u.
Steven Pinker sa Harvarda je nešto grublji, pa kaže da Lemojn ne ume da razlikuje samosvijest, inteligenciju i naglašava da nema dokaza da ih jezički modeli posjeduju. Neki drugi, kao što je developer Ron Džefris, konstatuju da ne postoji jasna linija između „razuma i ne-razuma“.
Zanimljivo je da je, prije nego što je sa svojim tvrdnjama izašao u javnost, Lemojn bio u višemjesečnom sukobu sa kompanijom Google oko svojih stavova.
Google je forsirao svoj stav da stotine drugih inženjera i naučnika, koji su učestvovali u LaMDA projektu, zapravo imaju drugačije zaključke i iskustva od onih koje propagira Lemojn.
Jan Lekun iz kompanije Meta, koji je jedan od vodećih autoriteta na polju neuralnih mreža (što LaMDA jeste u svojoj osnovi), smatra da ta vrsta sistema nije dovoljno moćna za usvajanje istinske inteligencije.
Google naravno nije jedina kompanija na svijetu koja razvija ovakav ili slične sisteme vještačke inteligencije i biće zanimljivo vidjeti u kom smjeru će se ubuduće razvijati ova sfera nauke.
(B92)
