Nvidia zvogëlon Grace-Blackwell Superchip për të fuqizuar mini PC-në prej 3 mijë dollarësh

CES Nvidia ka njoftuar një kompjuter desktop të mundësuar nga një superçip i ri GB10 Grace-Blackwell dhe i pajisur me 128 GB memorie për t’u dhënë zhvilluesve të AI, studiuesve dhe studentëve mjetet që u nevojiten për të ekzekutuar modele të mëdha në desktop.

Me emrin e koduar Project Digits dhe i shpallur në super-ngjarjen vjetore CES në Las Vegas sot, sistemi prej 3000 dollarësh u zhvillua në bashkëpunim me MediaTek dhe mundësohet nga një CPU Grace me bazë Arm dhe GPU Blackwell që, bazuar në paraqitjet e lëshuara nga Nvidia, duket se banon në një SoC të vetëm. Kutia do të dërgohet me një pije speciale të Ubuntu Linux të para-konfiguruar për të përfituar nga hardueri.

Project Digits i ngjan në mënyrë të paqartë një mini-PC Intel NUC për sa i përket madhësisë. Nvidia nuk ka detajuar plotësisht specifikat e GB10, por ka thënë se makina që ajo fuqizon jep një petaFLOP të plotë të performancës së AI. Por, përpara se të emocionohesh shumë për mundësinë e një desktopi të vogël me faktor të formës që do të jetë më i mirë se GPU-ja e bërthamës tensor A100 të Nvidia-s, dije se performanca e makinës u mat me ngarkesa të pakta pune me pikë lundruese 4-bit.

Specifikimet që kemi parë sugjerojnë se GB10 përmban një CPU me 20 bërthama Grace dhe një GPU që paketon performancën e 40-të të GPU-ve të dyfishta Blackwell të përdorura në serverin GB200 AI të Nvidia.

Sidoqoftë, makina ka më shumë fuqi sesa një PC me AI të mundësuar nga procesorë nga Intel, AMD ose Qualcomm, por do të luftojë për të konkurruar me një stacion pune që paketon kartën e stacionit të punës të Nvidia-s, RTX 6000 Ada. Ky përshpejtues krenohet me 1,45 petaFLOPS të performancës së rrallë FP/INT8, afërsisht trefishi i performancës që mendojmë se Project Digits do të japë (500 teraFLOPS) me atë saktësi.

Furnizimi me këto flops janë 128 GB memorie LPDDR5x. Sipas Allen Bourgoyne, drejtor i marketingut të produkteve të Nvidia për platformat e ndërmarrjeve, vendimi për të pajisur sistemin me kaq shumë memorie ishte i qëllimshëm për ta bërë më të aksesueshme punën me modele të mëdha të AI.

Nvidia pretendon se Project Digits do të jetë në gjendje të mbështesë modele deri në 200 miliardë parametra në madhësi. Megjithatë, për t’i përshtatur modele të tilla në makinë, ato do të duhet të kompresohen në 4-bit, një koncept për të cilin mund të mësoni më shumë në udhëzuesin tonë praktik.

Ekzekutimi i modeleve më të mëdha do të jetë i mundur falë rrjetit në bord ConnectX që Nvidia thotë se do të lejojë që dy nga këta kompjuterë të lidhen në mënyrë që ata të mund të ekzekutojnë modele me deri në 405 miliardë parametra. Kjo e vë në lojë Llama 3.1 405B të Metës, përsëri në 4-bit.

Për referencë, nëse dëshironi të ekzekutoni të njëjtin model në 4-bit në harduerin ekzistues të stacionit të punës, do t’ju duheshin të paktën pesë GPU 48 GB.

Është e paqartë se si do të funksionojë Project Digits kur ekzekuton modele të tilla, pasi në kohën e shkrimit Nvidia nuk kishte zbuluar gjerësinë e brezit të memories, një metrikë kryesore për performancën e konkluzioneve të modeleve të gjuhëve të mëdha.

Nga paraqitjet e shfaqura në shtyp përpara fjalimit kryesor të CES mbrëma të së hënës, në të cilën Nvidia njoftoi kutinë, sistemi dukej se përmban gjashtë module LPDDR5x. Duke supozuar shpejtësi memorie prej 8,800 MT/s, ne do të shikonim rreth 825 GB/s të gjerësisë së brezit, e cila nuk do të ishte aq larg nga 960 GB/s e RTX 6000 Ada. Për një model me parametra 200 miliardë, kjo do të funksiononte në rreth tetë shenja/sek. Përsëri, ky është vetëm spekulim, pasi fleta e plotë e specifikimeve për sistemin nuk ishte e disponueshme përpara prezantimit kryesor të CES të CEO Jensen Huang.

Së bashku me konkluzionet e AI, Nvidia pret gjithashtu që Project Digits të jetë i përshtatshëm për eksperimentimin e modeleve, akordimin e imët, shkencën e të dhënave dhe aplikacionet e tjera të avantazhit.

Së bashku me një furnizim të bollshëm memorie, Project Digits do të jetë i pajisur me 4 TB hapësirë ​​ruajtëse NVMe, e cila duhet të jetë e mjaftueshme për shumicën e modeleve të hapura, veçanërisht ato që janë të kuantizuara deri në 4-bit.

Konsumatorët mund të presin që të marrin në dorë një superçip tavoline duke filluar nga maji, megjithëse, siç e përmendëm më herët, nuk do të jetë i lirë, me sisteme që fillojnë nga 3,000 dollarë.

Project Digits nuk është sulmi i parë i Nvidia në desktop. Gjigandi i GPU-së ka ofruar pajisjet e tij të zhvillimit Jetson për vite dhe debutoi një model të ri – Orin Nano Super – në dhjetor 2024.

Makina e re në thelb është thjesht një Jetson i rritur me shumë më tepër zhurmë llogaritëse.

Nvidia nuk ka thënë nëse do t’ua ofrojë GB10 prodhuesve të tjerë të PC-ve – një perspektivë joshëse që do të trondiste tregun.

Në formën e tij aktuale, kjo makinë duket më shumë sikur synon t’i qetësojë njerëzit me superçipet më të fuqishme Grace-Blackwell të Nvidia si GB200 dhe GB200 NVL4 që kemi parë më parë.

Arsyeja për këtë është e thjeshtë: bërthamat Arm Neoverse V2 të përdorura në CPU-të Grace të Nvidia deri më tani janë shpallur më shumë se dy vjet më parë dhe janë projektuar duke pasur parasysh ngarkesën e qendrës së të dhënave.

Kjo nuk do të thotë që Nvidia një ditë nuk do të tregtojë GB10 për lojëra dhe produkte grafike në qendër, siç ka bërë tashmë kompania me linjën e saj të SoC-ve Tegra. Nëse GB10 po përdor një bërthamë CPU më moderne se CPU origjinale Grace, sigurisht që nuk do të ishte jashtë fushës së mundësisë.