Google hyn në tregun e modeleve të vendimmarrjes me Gemini Decisions API
Google LLC lançoi sot Gemini Decisions API, një shërbim inteligjence artificiale i projektuar për t’iu përgjigjur pyetjeve të përdoruesve në një mënyrë me kosto efektive.
Funksionon me një model të ri të inteligjencës artificiale të quajtur Gemini Decision 1.
Modelet tradicionale të gjuhës së madhe janë të dizajnuara për t’iu përgjigjur një game të gjerë pyetjesh. Gemini Decision 1 ka një fokus shumë më të ngushtë: Mund të përpunojë vetëm tre lloje pyetjesh. Ana pozitive është se u përgjigjet këtyre pyetjeve me një kosto dukshëm më të ulët. Sipas Google, modeli është pothuajse pesë herë më i lirë se Gemini 3.5 Flash-Lite LLM i nivelit fillestar.
Modeli mund t’u përgjigjet pyetjeve po-jo, pyetjeve me zgjedhje të shumëfishta dhe kërkesave që i kërkojnë të vlerësojë një artikull në një shkallë të specifikuar nga përdoruesi. Një ekip i sigurisë kibernetike, për shembull, mund t’i kërkojë modelit të vlerësojë ashpërsinë e një alarmi antivirus në një shkallë nga 1 deri në 10.
Kërkesat e Vendimit 1 të Gemini përfshijnë dy artikuj: pyetjet e përdoruesit dhe të dhënat me të cilat lidhen këto pyetje. Seti i të dhënave mund të përfshijë deri në 256,000 tokena teksti, audio, imazhe, video ose ndonjë kombinim të tyre.
LLM-të zakonisht gjenerojnë tekst të gjatë dhe të rrjedhshëm në përgjigje të pyetjeve të përdoruesve. Në të kundërt, Gemini Decision 1 jep përgjigje të shkurtra si “po” ose “jo”. Ai gjithashtu shfaq një rezultat që tregon se sa i sigurt është në saktësinë e një përgjigjeje të caktuar. Ky rezultat i ndihmon aplikacionet të vendosin nëse duhet ta përdorin rezultatin.
Rrjetet nervore të projektuara për të gjeneruar përgjigje të shkurtra për pyetje të thjeshta njihen si modele vendimesh. Modeli i parë i tillë, Jev, u lançua në mesin e shtatorit nga një startup i quajtur TypeSafe AI Inc. Ai fitoi një milion përdorues brenda pak ditësh. Tre javë pas lançimit, TypeSafe mblodhi 870 milionë dollarë me një vlerësim prej 7.5 miliardë dollarësh.
Modelet e vendimmarrjes mund t’u përgjigjen grupit të ngushtë të pyetjeve për të cilat janë optimizuar më shpejt sesa LLM-të. Përveç kësaj, ato janë më të lehta për t’u integruar në aplikacione. Një aplikacion që fuqizon disa nga veçoritë e tij duke përdorur një model të inteligjencës artificiale duhet të kontrollojë rezultatin e modelit për gabime dhe të filtrojë detajet e tepërta para se ta përthithë atë. Përgjigjet koncize dhe të strukturuara të modeleve të vendimmarrjes i bëjnë të dyja detyrat më të thjeshta.
“Gemini Decision 1 vlerëson opsionet pa dekoduar token-për-token, duke mbajtur latencën mesatare 50-100 ms të llogaritjes së modelit (150-250 ms nga fillimi në fund), në të gjitha hyrjet dhe kontekstet multimodale deri në 16K token, duke mbetur pothuajse i sheshtë nga 1 deri në 100 pyetje për kërkesë”, shkruan në një postim në blog menaxheri i produktit Google DeepMind, Min Choi, dhe shkencëtari kryesor Felix Yu.
Google kontrolloi se si Gemini Decision 1 krahasohet me Jev dhe Decisions API të OpenAI Group PBC, një shërbim konkurrues që u lançua muajin e kaluar. Gjigandi i kërkimit thotë se modeli i tij performoi më mirë në shtatë nga nëntë testet që testoi. Megjithatë, Jev rezultoi pak më efikas nga ana e kostos.
Gemini Decision 1 është i disponueshëm përmes Gemini Decisions API për 10 cent për 1 milion tokena hyrëse. Google nuk vendos tarifa për tokenat dalëse. Algoritmi është gjithashtu i arritshëm përmes një niveli të kufizuar falas në Google AI Studio, një shërbim që zhvilluesit mund ta përdorin për t’u njohur me modelet e gjigantit të kërkimit.