Google je u srijedu predstavio novi AI sistem pod nazivom PaLM 2, veliko ažuriranje njegovog najmoćnijeg sistema za obradu jezika
„PaLM 2“ je već ugrađen u 25 Google-ovih proizvoda, naglašavajući njenu važnost dok se kompanija utrkuje da kapitalizuje kompjutersku revoluciju.
„PaLM 2 je vrhunski jezički model. Dobar je u matematici, kodiranju, zaključivanju, višejezičnom prevođenju i stvaranju prirodnog jezika“, rekao je Zoubin Ghahramani, potpredsjednik Google-ovog odjela DeepMind koji nadgleda rad kompanije na vještačkoj inteligenciji.
„PaLM 2“ se već koristi sa skoro dvadesetpet Google proizvoda, uključujući Google Bard chatbot, Gmail, Google Docs, Google Sheets i YouTube. To znači da će „PaLM 2“ uglavnom boraviti unutar Google-ovih data centara. Ali model može dovoljno da se smanji kako bi radio i na pametnom telefonu.
AI se koristi godinama, uglavnom iza kulisa za zadatke poput filtriranja neželjene pošte, snimanja boljih fotografija i prevođenja vaših izgovorenih komandi u radnje pametnih zvučnika. Google je bio pionir većine te tehnologije. Ali sada je počelo novo poglavlje. Veliki jezički modeli poput PaLM-a bilježe mnogo onoga što ljudi znaju i govore, a generativna AI može kreirati slike i tečno pisati.
„PaLM 2“ će biti nadmašen
„Google već obučava njegovog nasljednika zvanog Gemini right, plodove kombinacije Google-ovih timova DeepMind i Brain,“ rekao je izvršni direktor Sundar Pichai. Gemini je stvoren da bude multimodalan. To znači da može unositi poput tekstualnih fotografija i da bude „veoma efikasan“, dodao Pichai.
Iako je Google bio ključan za mnoge od ovih AI razvoja i sebe je od 2016. godine nazvao kompanijom koja je prva u svijetu vještačke inteligencije , OpenAI-jev ChatGPT je doveo do eksplozije opšteg interesa za moć moderne AI. Na Google I/O, Google tvrdi da je njegov rad sa vještačkom inteligencijom spreman za udarno vrijeme, a ne samo za eksperimentalne usluge, prenosi CNET.
Kompanija je proširila svoj rad na otkrivanje jezika koji je toksičan, vrši lične napade ili seksualno eksplicitan, plaćajući anotatorima 1,5 centa po presudi za označavanje skupa od 2 miliona komentara, navodi Google u tehničkom izvještaju o „PaLM 2“.
„PaLM 2“ na pametnom telefonu
Kao i Meta-in LLaMA , „PaLM 2“ dolazi u različitim veličinama, pristup koji nudi više pameti u nekim okolnostima i brže performanse u drugim. Može se svesti do kraja da radi na telefonima sa „PaLM 2“ verzijom koja se zove Gecko.
Na najnovijim modelima pametnih telefona, „PaLM 2“ može obraditi 20 tokena u sekundi. Tokeni su riječi, fragmenti riječi , brojevi ili drugi osnovni elementi koje jezički modeli unose dok su obučeni da prepoznaju obrasce u ogromnim dijelovima teksta na internetu.
Na primjer, fraza „okretanje i skretanje u krugu koji se širi“ ima devet znakova. AI modeli takođe sastavljaju svoje odgovore iz tokena.
Sposobnosti rasuđivanja
Novi model je bolji u rasuđivanju i korišćenju zdravog razuma – veliki problem sa jezičkim modelima koji često proizvode uvjerljive odgovore umjesto istine. Jedan od razloga za poboljšanje je ogromno povećanje podataka o matematičkoj i naučnoj obuci.
„Na primjer, može da riješi logičku zagonetku koja uključuje položaj nekoliko automobila u boji. „PaLM 2 može ići kroz logiku pozicioniranja objekata u odnosu jedan prema drugom. Objašnjava korake, pa čak i daje dijagram koji je od pomoći za vizualizaciju odgovora“, rekao je Zoubin Ghahramani.
Ghahramani je priznao zeznuto pitanje da li „PaLM 2“ zaista razmišlja – ključna tačka u dugoročnoj evoluciji AI prema onome što se zove vještačka opštaa inteligencija, ili AGI. Google trenira svoje velike jezičke modele na mnogo teksta koji odražava ljudske interakcije, rekao je, a da podaci oblikuju AI.
„Možete se raspravljati da li je to pravo rasuđivanje ili je to samo imitacija ljudskog rasuđivanja, ali stvar o kojoj treba razmišljati je koliko je to korisno za korisnika“, rekao je. „Cilj nam je stvoriti proizvode koji zaista rješavaju probleme do kojih je ljudima stalo.“
Obučen na više jezika
Google je obučio „PaLM 2“ o web dokumentima, knjigama, programskom kodu, matematici i „konverzacijskim“ podacima, sa izbrisanim ličnim identifikacijskim informacijama, navodi kompanija u istraživačkom radu. I ovaj put postoji veći udio podataka o obuci koji nisu na engleskom.
„PaLM 2“ ipak ide dalje od engleskog, sa podacima o obuci na više od 100 jezika za bolje razumijevanje nijansi i idioma specifičnih za jezik.
I bolje razumije programski kod, uključujući starije jezike poput Fortrana. Programiranje je glavna upotreba velikih jezičkih modela. Ako tražite pomoć da popravite dio koda, „PaLM 2“ ne samo da može popraviti kod, već i da pruži potrebnu dokumentaciju, na bilo kojem jeziku.
Prilagođavanje „PaLM 2“ za mnoge namjene
PaLM 2 je fleksibilniji od svog prethodnika. To je zato što služi kao osnova koja se može povećati za specifične namjene.
Na primjer, „Med-PaLM 2“ je podešen za medicinske primjene kao što je gledanje rendgenskog snimka i pisanje vlastitog mamografskog izvještaja. Google će dozvoliti partnerima da testiraju tu tehnologiju ovog ljeta.
Druga varijanta, „Sec-PaLM“, je obučena za analizu potencijalno zlonamjernog softvera i objašnjenje šta namjeravaju. Biće ugrađen u Google Cloud usluge.
AI troši ogromne količine energije. Neka vještačka inteligencija koja je već u upotrebi može da radi na manjem hardveru. Međutim, današnji modeli jezika koji se lako govore i generativna AI zahtjevaju vrhunsku mašineriju koja zahtjeva energiju.
I ovdje je „PaLM 2“ bolji. Efikasniji je za serviranje, a u cjelini ima bolje rezultate.
Ta efikasnost je ključna dok se Google gura ka neprekidnoj upotrebi obnovljive energije. Izgleda da će Google u narednim godinama sve više da radi na AI.
