Microsoft je lansirao novu funkciju vještačke inteligencije (AI) pod nazivom „Correction“, koja je dizajnirana da prepozna i ispravi netačne informacije generisane AI-om.
Ovaj moćni alat dio je sistema Azure AI Content Safety, konkretno funkcije za detekciju temeljenosti (groundedness detection). Funkcija „Correction“ ima za cilj da smanji pojavu AI halucinacija, fenomena u kojem AI generiše netačne ili obmanjujuće informacije, ne prepoznajući grešku.
Kako funkcioniše Microsoftova funkcija Correction
Correction funkcija, dostupna isključivo putem Azure servisa, usmjerena je na poslovne korisnike koji žele da njihove AI solucije budu pouzdanije i preciznije. Sistem radi tako što poredi odgovore generisane od strane AI-a sa temeljenim dokumentima, koji služe kao referentni materijali za AI. Ovi dokumenti se koriste u primjenama kao što su sumarizacija dokumenata i Retrieval-Augmentation-Generation (RAG) Q&A scenariji.
Kada se korisnici povežu sa ovim dokumentima, alat za korekciju identifikuje kada je rečenica ili dio teksta generisanog od strane AI-a netačan. Tada pokreće proces ispravke dezinformacija ili prilagođavanja sadržaja temeljenim dokumentima.
Temeljeni dokumenti: Osiguravanje tačnosti AI sadržaja
Temeljeni dokumenti ključni su za efikasnost ove funkcije. Oni pružaju neophodne informacije koje AI sistem koristi kao referencu pri generisanju odgovora. Poredeći generisani sadržaj sa ovim verifikovanim izvorima, sistem može prepoznati netačnosti i ili filtrirati netačne informacije, ili preformulisati rečenice kako bi se izbjegle pogrešne interpretacije.
Osim automatskih ispravki, korisnici mogu izabrati i opciju koja omogućava obrazloženje u okviru ove funkcije. Ova opcija omogućava AI-u da objasni zašto je određena informacija označena kao netačna, čime se pruža dodatna transparentnost.
Tehnologija iza funkcije Correction
Portparol Microsofta objasnio je za The Verge da Correction funkcija koristi i male jezičke modele (SLM) i velike jezičke modele (LLM) kako bi se osigurala usklađenost AI izlaza sa temeljenim dokumentima. Međutim, kompanija naglašava da, iako detekcija temeljenosti pomaže u smanjenju dezinformacija, ona ne rješava u potpunosti problem AI tačnosti. Umjesto toga, pomaže da generisani AI odgovori budu usklađeni sa verifikovanim izvorima informacija.
Zašto je Microsoftova Correction funkcija revolucionarna za poslovnu AI
S obzirom na sve veću upotrebu generativnih AI alata u različitim industrijama, osiguravanje tačnosti i pouzdanosti AI generisanog sadržaja postaje ključna za poslovanje. Uključivanjem funkcija za detekciju i korekciju AI halucinacija, Microsoft rješava jedan od najvećih izazova u AI tehnologiji: sprečavanje dezinformacija. Ova inovacija će pomoći kompanijama da koriste AI rješenja s većim povjerenjem, znajući da imaju dodatni mehanizam za očuvanje kvaliteta i tačnosti sadržaja.
Za organizacije koje žele izgraditi AI rješenja koja su i inovativna i pouzdana, nova Microsoft-ova Correction funkcija na Azure AI Content Safety pruža obećavajući način za smanjenje grešaka i povećanje povjerenja korisnika.
(IT mixer)
