Meta lançon një model AI me pesha të hapura, që funksionon në kompjuterët Mac

Asnjë nga këto nuk është krejtësisht e gabuar, por do të faleshit nëse mendoni se agjenti i ri popullor Muse i Meta-s tani do të funksionojë lokalisht në Mac-in tuaj. Nuk do të funksionojë. Ekziston një aplikacion Muse për Mac dhe iOS (dhe uebin), por vetë agjenti aktual dhe të gjitha modelet që përdor funksionojnë në serverat e Meta-s në cloud.

Këto histori i referohen modelit të ri me peshë të hapur që Meta sapo lançoi të quajtur Muse Spark Open , krahasuar me gjeneratën aktuale të pajisjeve me inteligjencë artificiale të Metës, e cila quhet thjesht “Muse”. Meta thotë se Spark Open ka modelin me peshë të hapur më të aftë deri më tani (nga SHBA-ja). Megjithatë, nuk është një konkurrent për modelet e mbyllura të nivelit të lartë si GPT-6 Astra ose Claude Opus 5.5; këto do të ishin Muse Wonder dhe Muse Wonder Full, të cilat janë modele shumë më të mëdha që funksionojnë vetëm në cloud.

Muse Spark është i të njëjtës gjeneratë, por është një model më i vogël, i lehtë dhe me përgjigje të shpejtë, i bërë për të qenë relativisht i lirë. Dhe po, do të funksionojë në mënyrë native në një Mac! Epo, në dy Mac. Por jo në Mac-ët tuaj.

Apple ka një postim në blog rreth optimizimit të Muse Spark Open dhe dy modeleve të tjera për t’u ekzekutuar në mënyrë native në Apple Silicon Mac. Është diçka interesante, por ia vlen të përmendet se dy modelet e tjera (Mistral Medium 3.5 dhe Qwen 3.8) janë të vetmet që mund të funksionojnë në një Mac Studio të vetëm.

Muse Spark Open do të kërkonte plot 1.6 terabajt RAM në precizitetin e tij nativ (BF16) vetëm për mbi 800 miliardë parametra. Pra, Apple punoi me Meta për ta optimizuar dhe akorduar atë, dhe nëse e ekzekutoni me një precizion të kuantizuar 4-bit (NVFP4), mund ta ulni kërkesën për memorie deri në… 493 GB. Kjo është vetëm për modelin. Ka edhe shpenzime të tjera shtesë që përfshihen në ekzekutimin e tij dhe për vetë macOS, kështu që një Mac Studio i vetëm me 512 GB RAM nuk mund ta ekzekutojë atë. Do t’ju kujtoj se Mac Studio me 512 GB me M5 Ultra nuk ka dalë ende dhe pritet të kushtojë të paktën 15,000 dollarë dhe ndoshta shumë më tepër.

Ju nevojiten dy Mac Studios me 512 GB RAM për të ekzekutuar Muse Spark Open, të lidhura nëpërmjet portave të tyre Thunderbolt dhe që ekzekutojnë framework-un e ri MLX për informatikë të shpërndarë në shumë Mac. Apple nuk thotë se mund t’ia dilni mbanë me tre Mac Studios me 256 GB.

Pra, po, mund ta përdorni modelin më të fundit me peshë të hapur nga Meta ” direkt nga tavolina juaj “, siç thotë Apple, me kusht që tavolina juaj të ketë pajisje Mac Studio me vlerë mbi 30,000 dollarë.

Jo, nuk mund ta ekzekutoni agjentin Muse lokalisht në Mac-in tuaj. Nuk mund të ekzekutoni modelet më të fundit dhe më të mira LLM të frontierit nga Meta (Muse Wonder) në Mac-in tuaj. Mund ta ekzekutoni modelin më të fundit dhe më të mirë të peshave të hapura vetëm në të paktën dy Mac shumë të shtrenjtë dhe të nivelit të lartë. Për të gjithë, përveç një nëngrupi të vogël studiuesish, do të ishte shumë më mirë të paguanit për ta ekzekutuar atë në një server cloud.

Nëse ka një histori këtu për konsumatorët e rregullt, ajo është kjo: Apple e konsideron shumë seriozisht të qenit pajisja kryesore për studiuesit e inteligjencës artificiale që drejtojnë modele lokale, dhe kjo mund të sjellë rezultate të mira në formën e një softueri të optimizuar mirë të inteligjencës artificiale të destinuar për njerëzit e zakonshëm me Apple Silicon.