Mistral prezanton le Chonk

Më herët këtë vit, Hugging Face u sulmua nga agjentë mashtrues të OpenAI. Ai iu drejtua modeleve kryesore të mbyllura amerikane për të ndihmuar në mbrojtjen e vetes, vetëm për të zbuluar se kangjellat e tyre po bllokonin punën. Kangjellat i ngatërruan veprimet mbrojtëse të Hugging Face me një sulm.

Hugging Face përfundoi duke përdorur GLM 5.2 të Z.ai, një model kinez me peshë të hapur.

Të martën, Mistral lançoi një prezantim publik të Mistral Large 4, me nofkën Le Chonk, me pesha që pritet të dorëzohen më 27 tetor. Kompania franceze po shet pesha të hapura si mbrojtje kundër një shitësi të mbyllur që mund të fikë një kapacitet.

Guillaume Lample, bashkëthemelues dhe shkencëtar kryesor i Mistral, është një ish-hulumtues i Meta-s. Mistral thotë se ekipi i tij shkencor është rritur nga tre studiues në afërsisht 300. Puna mbrojtëse e bllokuar e Hugging Face është lloji i kufizimit që përshkruan Lample.

Lidhur me mbrojtjen kibernetike, Lample tha, “nuk mund të përballosh të jesh i prekshëm nga fakti që modeli që po përdor për të mbrojtur veten mund të zhduket një ditë, ose mund të jetë shumë i kufizuar”.

Mistral raporton se është renditur i Madhi 4 midis pesë modeleve kryesore në Indeksin e Analizës Kibernetike Artificiale, vlerësimet publike të të cilit ende nuk e rendisin atë. Në një test që kërkon që modelet të riprodhojnë dhe rregullojnë një dobësi, Mistral raporton një rezultat prej 82%, më i larti nga çdo model. Mistral thotë se disa modele kryesore të mbyllura marrin një rezultat afër zeros sepse refuzojnë detyrën. Gjithashtu raporton 93% në Cybench.

Deri në publikimin e peshave, udhëheqësit e sigurisë kibernetike, partnerët e verifikuar dhe autoritetet shtetërore po e testojnë modelin me moderim të reduktuar dhe aftësi kibernetike të zgjeruara.

Peshat e hapura do të thotë që parametrat e trajnuar janë menduar të jenë të shkarkueshëm, kështu që një klient mund të mbajë një kopje të plotë që asnjë shitës nuk mund ta heqë. Çdo version modeli sillet paksa ndryshe, kështu që një migrim i detyruar në një model më të ri mund të prishë sistemet e ndërtuara rreth atij të vjetri.

Por ajo që ka vërtet rëndësi është të zotërosh modelin, madje edhe për kompanitë amerikane, tha Lample. Nëse përdor një model të mbyllur, nuk ka garanci se ai do të jetë ende aty nesër.

Large 4 ka rreth një trilion parametra në total, me 49 miliardë aktivë gjatë nxjerrjes së përfundimeve. Pamja paraprake pranon të dhëna multimodale dhe prodhon tekst. Ai mbështet më shumë se 160 gjuhë.

Mistral e trajnoi atë nga e para për rreth dy muaj në qendrat e saj të të dhënave evropiane, duke përdorur GPU-të Nvidia Grace Blackwell, me postimin e lançimit që jepte 3,800 GPU dhe raportet që citojnë Mistral e çojnë numrin në rreth 4,000. CEO i Nvidia, Jensen Huang, tha në X se OpenAI e trajnoi GPT-6 Astra në afërsisht 100,000 GPU. Këto shifra tregojnë ndryshimin në madhësinë e flotës, por konkurrentët nuk publikojnë llogaritjen e trajnimit në një bazë uniforme, kështu që hendeku nuk është një raport i saktë i llogaritjes së trajnimit.

Modeli i mëparshëm Large 3 kishte 675 miliardë parametra gjithsej, me 41 miliardë aktivë. Ky model u trajnua në 3,000 GPU Nvidia H200.

Qeveria amerikane akuzoi laboratorët kinezë për abuzim me distilimin, duke trajnuar modele më të vogla mbi rezultatet e modeleve më të mëdha. Mistral thotë se është trajnuar nga e para. “Ne jemi plotësisht të ndarë nga modelet e tjera dhe nuk frymëzohemi prej tyre”, tha Pierre Stock, zv.presidenti i Shkencës në Mistral.

Postimi i lançimit të Mistral i jep Large 4 një rezultat DeepSWE v1.1 prej 61.7%, të rrumbullakosur në rreth 62% në grafikun e tij. Ky grafik e vendos Beam të Reflection AI në 44% dhe Qwen 3.8 Max në 51%. GLM-5.3 është afër rezultatit të Mistral.

Por renditja live e DeepSWE, duke zgjedhur konfigurimin më të mirë të publikuar të secilit model, i vendos GLM-5.3 dhe Kimi K3 në rreth 69% që nga 6 tetori. Modelet e mbyllura nga OpenAI, Google dhe Anthropic zënë rreth 74% në atë tabelë. Në një vlerësim të kodimit të verbër, Mistral u zhvillua me Surge AI, Large 4 u rendit i dyti midis pesë modeleve, duke shënuar 3.74 pas një modeli Claude me 4.22 dhe përpara Kimi K3 me 3.59.

Large 4 mungon në tabelën e DeepSWE. Pretendimi i tij për renditje është i përkohshëm derisa të huajt të mund të testojnë modelin dhe peshat përfundimtare.

Andrea Renda, drejtoreshë kërkimore në Qendrën për Studime të Politikave Evropiane, vlerësoi pozicionin e Mistral në korrik, përpara këtij lançimi. Ambiciet e sovranitetit të BE-së dhe armiqësia amerikane krijuan “një formulë magjike që papritmas e vendos Mistral-in, performanca e të cilit nuk ka qenë spektakolare, në një pozicion të favorshëm”, tha Renda.

Në standardin ligjor të Harvey-t, grafiku i Mistral-it i jep Large 4 një përqindje kalueshmërie prej 15%. Bordi publik i Vals.ai e vlerëson Kimi K3 në 12.92%, MiMo V2.6 Pro në 10.83% dhe GLM-5.3 në 8.33%. Ky krahasim vlen edhe nëse Mistral do të përdorte të njëjtën metodë si bordi publik.

Administrata Trump kufizoi përkohësisht shpërndarjen e modeleve OpenAI dhe Anthropic në qershor për shkak të shqetësimeve për sulme kibernetike. Kujtesa se qeveria amerikane mund të revokojë aksesin hapi një derë për një laborator me peshë të hapur me bazë në Evropë. Shtëpia e Bardhë thuhet se u ka kërkuar laboratorëve amerikanë të mbajnë modelet e papublikuara edhe nga Instituti i Sigurisë së IA-së në Mbretërinë e Bashkuar.

Mistral mblodhi 3 miliardë euro në një investim Series D të udhëhequr nga Samsung më 8 shtator, me një vlerësim pas pagesës së parave mbi 21 miliardë euro. Mistral thotë se mbështet më shumë se 125 ndërmarrje, duke përfshirë Airbus, ASML dhe HSBC. Drejtori ekzekutiv Arthur Mensch, një ish-hulumtues i DeepMind, pret të ardhura vjetore të përsëritura mbi 1 miliard dollarë këtë vit.

Large 4 është shumë i madh për t’u ekzekutuar në një desktop ose laptop dhe mund të jetë jopraktik edhe për disa universitete. Deri më 27 tetor, versioni paraprak ofrohet në infrastrukturën e vetë Mistral.

Large 3 i mëparshëm përdorte Apache 2.0. Peshat e Large 4 duhet të publikohen më 27 tetor sipas një licence të personalizuar të Mistral. Që nga lançimi, faqja Hugging Face e Mistral nuk rendit asnjë pikë kontrolli të Large 4. Publikimi i planifikuar do t’u lejonte vlerësuesve të jashtëm të testonin peshat përfundimtare.