OpenAI je održao svoju godišnju DevDay (2024) konferenciju u San Francisku, na kojoj je predstavio uzbudljive nove nadogradnje za ChatGPT API, koji programeri sada mogu dodatno podešavati kako bi unaprijedili različite aplikacije i softvere.
Među glavnim najavama su realtime API, prompt coaching i mogućnost finog podešavanja vizuelnih zadataka pomoću GPT-4o modela. Takođe, OpenAI je uveo alate koji pojednostavljuju proces destilacije modela za programere i potvrdio prikupljanje 6,6 milijardi dolara (oko 55 hiljada milijardi dinara) u završenom krugu finansiranja.
Ključne nadogradnje za OpenAI ChatGPT API
Realtime API za brže interakcije
OpenAI je predstavio novu funkciju realtime API, namijenjenu pretplatnicima koji koriste plaćenu verziju ChatGPT API-ja. Ova nadogradnja omogućava nisko-kašnjenje za multimodalno iskustvo, podržavajući govor-govor konverzacije, slično naprednom režimu glasovnih interakcija u ChatGPT-u. Developeri sada mogu koristiti šest unaprijed postavljenih glasova, koji su ranije dodati API-ju, za dinamičnije razgovore.
Ušteda troškova uz prompt coaching
Još jedna značajna funkcija je prompt coaching, koji pomaže programerima da smanje troškove prilikom korišćenja često ponavljanih upita. OpenAI je primijetio da mnogi programeri često šalju iste upite prilikom uređivanja baze koda ili vođenja višekratnih razgovora s chatbot-om. Prompt coaching sada omogućava ponovnu upotrebu nedavnih upita po sniženoj cijeni, što ubrzava obradu i smanjuje troškove. Nove cijene za ovu funkciju možete pogledati ovdje.
Fino podešavanje GPT-4o modela za vizuelne zadatke
Programeri sada mogu fino podešavati GPT-4o model specifično za zadatke vezane za vizuelne aplikacije. Trenirajući veliki jezički model (LLM) na odabranom setu vizuelnih podataka, njegova efikasnost za vizuelne zadatke može biti poboljšana, čak i s minimalno 100 slika. Ovo otvara nove mogućnosti za unapređenje prepoznavanja slika i sličnih zadataka.
Pojednostavljeni alati za destilaciju modela
OpenAI je takođe najavio unapređenje procesa destilacije modela, omogućavajući programerima da lakše kreiraju manje, fino podešene modele na osnovu većih jezičkih modela. Proces, koji je ranije bio složen, sada uključuje alate kao što su Stored Completions (za jednostavno generisanje datasetova za destilaciju), Evals (za izvođenje prilagođenih evaluacija i mjerenje performansi) i Fine-Tuning (za fino podešavanje manjih modela nakon obavljanja evaluacije).
Dostupnost i smanjenje troškova
Sve ove funkcije su trenutno dostupne u beta verziji i uskoro će biti dostupne svim programerima koji koriste plaćenu verziju ChatGPT API-ja. Dodatno, OpenAI planira dalje smanjenje troškova input i output tokena, kako bi olakšao rad developerima koji integrišu API.
(IT mixer)
