Mistral Small 3.1 tejkalon Gemma 3 dhe GPT-4o Mini
Kompania franceze e AI Mistral AI ka tronditur edhe një herë peizazhin e AI me versionin e saj të fundit, Mistral Small 3.1. Ky model me 24 miliardë parametra nuk është thjesht një tjetër version me burim të hapur – ai i kalon modelet e vogla të pronarit nga Google dhe OpenAI ndërsa funksionon me efikasitet në pajisjet e konsumatorit. Rezultatet e forta të standardit të modelit, dritarja e zgjeruar e kontekstit të tokenit 128K dhe aftësitë multimodale e bëjnë atë një nga modelet më konkurruese të inteligjencës artificiale të vogla të disponueshme sot.
Mistral Small 3.1 mund Gemma 3 të Google dhe GPT-4o Mini të OpenAI në tekst, vizion dhe standarde shumëgjuhëshe.
Punon në nivel lokal në një RTX 4090 ose Mac të vetëm me 32 GB RAM.
Trajton të dyja hyrjet e tekstit dhe imazhit me gjatësi konteksti deri në 128K.
Lëshuar nën një licencë Apache 2.0, duke e bërë atë të disponueshëm falas për zhvilluesit.
Mistral Small 3 u publikua në fund të janarit. Modeli është projektuar për kuptimin e tekstit dhe multimodal, krenohet me një dritare të gjatë konteksti 128K dhe ofron efikasitet të nivelit të lartë në klasën e tij të peshës.
Mistral Small 3.1 pozicionohet si një alternativë e fuqishme por e lehtë për modelet kryesore në industri. Sipas vlerësimeve të standardeve, ai tejkalon Gemma 3 të Google dhe GPT-4o Mini të OpenAI në fushat kryesore, duke përfshirë gjenerimin e tekstit, detyrat e vizionit dhe të kuptuarit shumëgjuhësh. Performanca e modelit në MMLU (njohuri të përgjithshme), MATH (arsyetim) dhe GPQA (përgjigje në pyetje) e vendos atë përpara modeleve konkurruese me numërim më të madh të parametrave.
Ndryshe nga shumë modele moderne të AI që kërkojnë infrastrukturë të shtrenjtë cloud, Mistral Small 3.1 mund të funksionojë në mënyrë efikase në një GPU të vetme RTX 4090 ose një MacBook me 32 GB RAM kur kuantizohet. Kjo aftësi e vendosjes lokale ul kostot për startup-et dhe ndërmarrjet që kërkojnë të integrojnë AI pa u mbështetur në shërbimet cloud.
Dritarja e zgjeruar e kontekstit 128K e modelit e lejon modelin të trajtojë në mënyrë më efektive arsyetimin dhe analizën e dokumenteve në formë të gjatë. Ai gjithashtu përmban të kuptuarit e përmirësuar të shikimit, duke e bërë atë të dobishëm për aplikacione të tilla si verifikimi i dokumenteve, diagnostikimi mjekësor dhe njohja e objekteve.
Mistral AI është angazhuar për hapje, duke e lëshuar modelin nën një licencë Apache 2.0, e cila lejon përdorimin dhe modifikimin pa pagesë. Kompania gjithashtu ofron pika kontrolli bazë dhe udhëzuese, duke u mundësuar zhvilluesve të rregullojnë modelin për fusha specifike, duke përfshirë aplikacionet ligjore, të kujdesit shëndetësor dhe të shërbimit ndaj klientit.
Shtytja agresive e Mistral në AI me burim të hapur e pozicionon atë si një konkurrent në rritje të OpenAI, Google dhe Anthropic. Duke ofruar modele që përputhen ose tejkalojnë ofertat e pronarit duke ruajtur aksesin, kompania po sfidon dominimin me burim të mbyllur të firmave amerikane të AI. Modeli është tashmë i disponueshëm në Hugging Face dhe Vertex AI të Google Cloud, me integrimet e ardhshme në NVIDIA NIM dhe Microsoft Azure AI Foundry.
Ndërsa peizazhi i AI maturohet, Mistral’s Small 3.1 shërben si një tjetër kujtesë se AI me burim të hapur shumë të aftë po përparon me shpejtësi – duke riformuar ekuilibrin e fuqisë në industri.