Intel zbulon kompjuterin më të madh neuromorfik në botë

Intel Labs zbuloi kompjuterin e tij më të madh neuromorfik të mërkurën, një sistem neurone prej 1.15 miliardë, për të cilin mendon se është afërsisht i ngjashëm me trurin e një bufi.

Por mos u shqetësoni, Intel nuk e ka rikrijuar Fallout’s Robobrain. Në vend të një rrjeti neuronesh organike dhe sinapse, Hala Point i Intel i imiton të gjitha në silikon.

Me afërsisht 20 W, truri ynë është çuditërisht efikas në përpunimin e sasive të mëdha të informacionit që rrjedhin nga secila shqisa në çdo moment të caktuar. Fusha e neuromorfikëve, për të cilën Intel dhe IBM kanë shpenzuar vitet e fundit duke eksploruar, synon të imitojë rrjetin e trurit të neuroneve dhe sinapseve për të ndërtuar kompjuterë të aftë për të përpunuar informacionin në mënyrë më efikase sesa përshpejtuesit tradicionalë.

Sa efikase? Sipas Intel, sistemi i tij i fundit – i dorëzuar në Sandia National Labs në SHBA – është një kuti 6U afërsisht me madhësinë e një mikrovalë që konsumon 2600 W, thuhet se mund të arrijë efikasitet të thellë të rrjetit nervor deri në 15 TOPS/W në 8-bit. saktësi. Për ta vënë këtë në perspektivë, sistemi më i fuqishëm i Nvidia, GB200 NVL72 me bazë Blackwell, i cili ende nuk është dërguar, menaxhon vetëm 6 TOPS/W në INT8, ndërsa sistemet e tij aktuale DGX H100 mund të menaxhojnë rreth 3.1 TOPS/W.

Kjo performancë arrihet duke përdorur 1,152 procesorë Loihi 2 të Intel, të cilët janë të bashkuar së bashku në një rrjet tre-dimensionale për një total prej 1,15 miliardë neuronesh, 128 miliardë sinapse, 140,544 bërthama përpunuese dhe 2,300 bërthama të ngulitura x86 të nevojshme për këtë pajisje. mbaje gjënë në lëvizje.

Për të qenë të qartë, ato nuk janë bërthama tipike x86. “Ato janë bërthama shumë, shumë të thjeshta, të vogla x86. Ata nuk janë asgjë si bërthamat tona të fundit apo procesorët Atom,” i tha The Register Mike Davies, drejtor i informatikës neuromorfike në Intel.

Nëse Loihi 2 i bie një zile, kjo është për shkak se çipi ka trokitur për një kohë tashmë pasi ka bërë debutimin e tij në vitin 2021 si një nga çipat e parë të prodhuar duke përdorur teknologjinë e procesit 7nm të Intel.

Pavarësisht nga mosha e tij, Intel thotë se sistemet e bazuara në Loihi janë të afta të zgjidhin disa probleme të konkluzionit dhe optimizimit të AI deri në 50 herë më shpejt se arkitekturat konvencionale të CPU dhe GPU ndërsa konsumojnë 100x më pak energji. Këto shifra duket se janë arritur [PDF] duke vendosur një çip të vetëm Loihi 2 në Jetson Orin Nano të vogël të Nvidia dhe një CPU Core i9 i9-7920X.

Ndërsa kjo mund të tingëllojë mbresëlënëse, Davies pranon se përshpejtuesit e tij neuromorfikë nuk janë ende gati të zëvendësojnë GPU-të për çdo ngarkesë pune. “Ky nuk është një përshpejtues i përgjithshëm i AI në asnjë mënyrë,” tha ai.

Për një, ndoshta aplikacioni më i popullarizuar i AI, modelet e mëdha të gjuhës (LLM) që fuqizojnë aplikacionet si ChatGPT, nuk do të funksionojnë në Hala Point, të paktën jo ende.

“Ne nuk po hartojmë asnjë LLM në Hala Point në këtë kohë. Nuk dimë se si ta bëjmë këtë. Sinqerisht, fusha e kërkimit neuromorfik nuk ka një version neuromorfik të transformatorit,” tha Davies, duke vënë në dukje se ekziston disa kërkime interesante se si mund të arrihet kjo.

Duke thënë këtë, ekipi i Davies ka pasur sukses në drejtimin e rrjeteve tradicionale nervore të thella, një perceptron me shumë shtresa, në Hala Point me disa paralajmërime.

“Nëse mund të zvogëloni aktivitetin e rrjetit dhe përçueshmërinë në atë rrjet, atëherë mund të arrini përfitime vërtet shumë të mëdha,” tha ai. “Ajo që do të thotë është se duhet të përpunojë një sinjal hyrës të vazhdueshëm … një transmetim video ose një transmetim audio, diçka ku ka njëfarë korrelacioni nga mostra në kampion në kampion.”

Intel Labs demonstroi potencialin e Loihi 2 për përpunim video dhe audio në një punim të botuar [PDF] në fund të vitit të kaluar. Gjatë testimit, ata zbuluan se çipi arriti përfitime të konsiderueshme në efikasitetin e energjisë, vonesën dhe xhiros për përpunimin e sinjalit, ndonjëherë duke tejkaluar tre rend të madhësisë, krahasuar me arkitekturat konvencionale. Megjithatë, fitimet më të mëdha erdhën në kurriz të saktësisë më të ulët.

Aftësia për të përpunuar të dhëna në kohë reale me fuqi dhe vonesë të ulët e ka bërë teknologjinë tërheqëse për aplikacione si automjetet autonome, dronët dhe robotikët.

Një rast tjetër përdorimi që është treguar premtues janë problemet e optimizimit të kombinuar, si planifikimi i rrugës për një automjet transporti, i cili duhet të lundrojë në një qendër të ngjeshur të qytetit.

Këto ngarkesa pune janë tepër komplekse për t’u zgjidhur pasi ndryshimet e vogla si shpejtësia e automjetit, aksidentet dhe mbylljet e korsive duhet të merren parasysh gjatë fluturimit. Arkitekturat konvencionale të llogaritjes nuk janë të përshtatshme për këtë lloj kompleksiteti eksponencial, kjo është arsyeja pse ne kemi parë kaq shumë shitës të informatikës kuantike që synojnë problemet e optimizimit.

Megjithatë, Davies argumenton se platforma kompjuterike neuromorfike e Intel është “shumë më e pjekur se këto alternativa të tjera kërkimore eksperimentale”.

Sipas Davies, ka gjithashtu shumë hapësirë ​​për t’u zhbllokuar. “Më vjen keq të them se nuk është shfrytëzuar plotësisht edhe sot e kësaj dite për shkak të kufizimeve të softuerit,” tha ai për çipat Loihi 2.

Identifikimi i pengesave të harduerit dhe optimizimeve të softuerit është pjesë e arsyes pse Intel Labs ka vendosur prototipin në Sandia.

“Të kuptuarit e kufizimeve, veçanërisht në nivelin e harduerit, është një pjesë shumë e rëndësishme e nxjerrjes së këtyre sistemeve atje,” tha Davies. “Ne mund t’i rregullojmë problemet e harduerit, mund ta përmirësojmë atë, por duhet të dimë se çfarë drejtimi të optimizojmë.”

Kjo nuk do të ishte hera e parë që boffins Sandia kanë marrë në dorë teknologjinë neuromorfike të Intel. Në një punim të botuar në fillim të vitit 2022, studiuesit zbuluan se teknologjia kishte potencial për HPC dhe AI. Megjithatë, ato eksperimente përdorën çipat Loihi të gjeneratës së parë të Intel-it, të cilët kanë afërsisht një të tetën e neuroneve (128,000 kundrejt 1 milion) të pasuesit të tij.