xAI prezanton Grok 4 Fast me një dritare konteksti prej 2 milionë token-ësh

xAI i Elon Musk ka lançuar Grok 4 Fast, modelin e saj më të ri të inteligjencës artificiale që krenohet me arsyetim të nivelit të lartë me kosto dukshëm më të ulëta.

xAI njoftoi lançimin e Grok 4 Fast në një postim në blog të premten si “përparimi i saj më i fundit në modelet e arsyetimit me kosto efektive”. Sipas zhvilluesve, ai përdor inteligjencë të nivelit kufitar me aksesueshmëri për të përfituar si përdoruesit e ndërmarrjeve ashtu edhe ata të konsumatorëve.

Modeli përmban një dritare konteksti prej dy milionë tokenësh dhe prezanton një arkitekturë të unifikuar që integron mënyrat e arsyetimit dhe jo-arsyetimit. Kjo mund t’i ndihmojë zhvilluesit të përshtasin përpjekjen llogaritëse të aplikuar në rastet e tyre të përdorimit pa sakrifikuar performancën.

“Dritarja e kontekstit 2M!” shkroi CEO Elon Musk në X, duke cituar njoftimin për modelin e ri.

xAI raportoi se Grok 4 Fast ishte trajnuar plotësisht me mësim përforcues për të vendosur në mënyrë autonome se kur të përdorë burime të jashtme, të tilla si ekzekutimi i kodit ose shfletimi i internetit. Kompania teknologjike pretendoi se mund të lëvizë me shpejtësi përmes lidhjeve, të analizojë multimedia në X dhe të sintetizojë informacionin në kohë reale.

Në testet e brendshme, sistemi kërkonte mesatarisht 40% më pak tokena sesa Grok 4 për të përfunduar detyra komplekse arsyetimi, një ulje prej 98% në koston e arritjes së rezultateve të krahasueshme të referencës.

Vlerësimet e pavarura nga Artificial Analysis e renditën Grok 4 Fast si modelin me raportin më të mirë çmim-inteligjencë midis modeleve të disponueshme publikisht. Një grafik i publikuar nga rishikimi tregoi se Grok 4 Fast konkurronte ngushtë me sisteme të tilla si GPT-5, Gemini 2.5 Pro dhe Claude 4.1 Opus, ndërsa ishte gati 47 herë më i lirë për t’u përdorur sesa Grok 4.

Përtej testeve sintetike, Grok 4 Fast është testuar në LMArena, një tabelë renditjeje e pavarur ku modelet konkurrojnë në sfidat e tekstit dhe kërkimit. Nën emrin e koduar “Menlo”, Grok 4 Fast kryesoi Search Arena me një vlerësim Elo prej 1,163. Marzhi ishte 17 pikë më i lartë se konkurrenti i tij më i afërt, o3-search.

Për momentin, modeli është i disponueshëm falas përmes OpenRouter dhe Vercel AI Gateway. xAI gjithashtu e lançoi sistemin në dy variante: grok-4-fast-reasoning dhe grok-4-fast-non-reasoning. Të dy versionet ndajnë dritaren e kontekstit të dy milionë tokenëve.

Përmes xAI API, çmimi për grok-4-fast është vendosur në 0.20 dollarë për milion tokena hyrëse nën 128,000 tokena dhe 0.40 dollarë për milion tokena hyrëse mbi atë prag. Tokenat dalës kushtojnë 0.50 dollarë për milion për kërkesa më të vogla dhe 1.00 dollarë për milion për kërkesa më të mëdha. Tokenat hyrëse të ruajtura në memorien e përkohshme kanë çmim 0.05 dollarë për milion.

Lançimi vjen vetëm një javë pasi xAI pushoi nga puna të paktën 500 punonjës nga ekipi i saj i shënimeve të të dhënave, njësia më e madhe brenda kompanisë. Këta punonjës ishin përgjegjës për etiketimin dhe kategorizimin e të dhënave që trajnojnë modelet Grok.

Emailet e dërguara stafit në mbrëmjen e 12 shtatorit i informonin ata për shkurtimet nga puna, dhe atyre që u prekën iu premtua vazhdimi i pagave deri më 30 nëntor. Megjithatë, qasja e tyre në sistemet e brendshme u ndërpre menjëherë.

Kompania e inteligjencës artificiale ndau një postim në X duke njoftuar se po rekrutonte tutorë specialistë të IA-së, së bashku me planet për të dhjetëfishuar madhësinë e grupit të saj të tutorëve specialistë nga fushat STEM.

Shkurtimet nga puna vijnë pas disa largimeve të personave të profilit të lartë nga kompania. Midis tyre ishte Mike Liberatore, drejtori financiar i xAI, i cili dha dorëheqjen së fundmi. Musk thuhet se po përpiqet ta riorientojë kompaninë pas pengesave të tij personale dhe politike në fillim të këtij viti.

Miliarderi 54-vjeçar e ka përqendruar gjithë kohën e tij në xAI që kur u nda nga Presidenti Donald Trump në qershor. Pasi u pajtuan për teknologjinë dhe politikat ekonomike, dhe madje ndanë skena gjatë fushatës presidenciale të Trump, të dy u përplasën publikisht, duke e bërë Musk të deklaronte qeverinë një “problem të pashpresë”.