Izvršni direktor OpenAI-a Sam Altman otkrio je da pristojnost prema ChatGPT-ju, poput izraza “molim” i “hvala”, kompaniju košta milione dolara u operativnim troškovima.
Altman je odgovorio korisniku na X-u koji je pitao koliko je kompanija potrošila na struju zbog ljudi koji su ljubazni prema njihovim modelima. “Desetke miliona dolara dobro potrošenih — nikad ne znaš”, odgovorio je Altman.
Izgleda da je netko gledao što je operativni sustav HAL učinio u filmu 2001: Odiseja u svemiru, pa odlučio biti pristojan prema svom AI pomoćniku (za svaki slučaj, lol). Stručnjaci su takođe otkrili da će chatbot vjerovatnije uzvratiti ljubaznošću ako mu se korisnik tako obrati.
Sudeći po Altmanovu šaljivom tonu, cifra od nekoliko desetaka miliona dolara vjerojatno nije precizna. Ipak, svaka poruka ChatGPT-ju, bez obzira koliko bila trivijalna ili besmislena, zahtijeva od AI modela da generira puni odgovor u stvarnom vremenu, za što se oslanja na moćne računarske sisteme, što povećava ukupno računarsko opterećenje, a to, pak, znači i masovnu potrošnju električne energije.
AI kao energetski žderač budućnosti
AI modeli uvelike se oslanjaju na energiju pohranjenu u globalnim data centrima, koji već sada troše oko 2 posto ukupne svjetske električne energije. Prema podacima Goldman Sachsa, svaki upit GPT-4 modelu troši oko deset puta više električne energije nego standardna Google pretraga.
Osim toga, ljubazni odgovori također povećavaju i OpenAI-ev račun za vodu. AI koristi vodu za hlađenje servera koji generiraju podatke. Studija Sveučilišta Kalifornija u Riverside-u otkrila je da stvaranje 100 riječi pomoću GPT-4 modela troši količinu vode ekvivalentnu trima bocama, dok i najkraći odgovor, poput “Nema na čemu”, troši oko 1.5 unca vode (oko 44 ml).
(Index.hr)