ByteDance për të krijuar GPU-të e veta me AI

Sipas gazetës The Information, ByteDance, kompania mëmë e TikTok, po zhvillon dy GPU me AI që do të hyjnë në prodhim masiv deri në vitin 2026. TSMC do t’i prodhojë të dy produktet. Duke supozuar se informacioni nga një burim jozyrtar është i saktë, ByteDance do të zvogëlojë varësinë në Nvidia për harduerin e AI duke qëndruar brenda rregulloreve të eksportit të SHBA.

Lidhja e GPU-ve të AI-së nga ByteDance, të cilat janë në fazën e projektimit dhe do të hyjnë në prodhim masiv brenda një viti, nëse jo më vonë, përfshin një për trajnimin e AI dhe një tjetër për përfundimin e AI. Broadcom, e cila tashmë ka ndërtuar çipa AI për Google, pritet të projektojë çipat e AI. GPU-të thuhet se prodhohen në një nga teknologjitë e procesit N4/N5 të TSMC, kështu që një nyje e ngjashme me 4NP të TSMC përdoret për të ndërtuar GPU-të e serisë Blackwell të Nvidia për AI dhe HPC. GPU-të e ByteDance pritet të hyjnë në prodhim masiv deri në vitin 2026, kështu që prisni vendosjen e tyre në 2026.

ByteDance thuhet se ka shpenzuar mbi 2 miliardë dollarë në më shumë se 200,000 GPU Nvidia H20 (dmth., rreth 10,000 dollarë për njësi, që është pak më pak se 12,000 dollarë – 13,000 dollarë) për përpjekjet e saj për AI vetëm këtë vit, dhe shumë nga këto GPU nuk janë dorëzuar ende. tek kompania. Ky investim i rëndë thekson rëndësinë e AI në strategjinë e përgjithshme të ByteDance.

Sipas raportit, mungesa e GPU-ve Nvidia dhe çmimi i tyre i lartë janë ndër arsyet pse ByteDance vendosi të ndërtojë harduerin e vet të AI. Nvidia projektoi DGX H20 dhe disa GPU të tjera posaçërisht për tregun kinez në përgjigje të kontrolleve të eksporteve të SHBA-së të vendosura vitin e kaluar.

Si rezultat, HGX H20 është një GPU me reduktim masiv (krahasuar me H100) që ende shitet për 10,000 dollarë nëse informacioni rreth çmimit është i saktë. Për shembull, ndërsa HGX H20 i Nvidia ofron vetëm 296 INT8/FP8 TOPS/TFLOPS dhe 148 BF16/FP16 TFLOPS për llogaritjet me AI, H100 e plotë ofron 3,958 INT8/FP8 TOPS/TFLOPS si dhe për19/TFLO6, BF16/TFLOPS, 3,958 BFLOPS/TFLO6, AI. Megjithatë, me 96 GB memorie HBM3 në bord, deri në 4,0 TB/s gjerësi brezi memorie dhe aftësi GPU me 8 drejtime, HGX H20 e Nvidia është ende në kërkesë të lartë nga kompanitë kineze në aplikacionet e botës reale. Procesori i Nvidia thuhet se mund konkurrentët e Huawei.

Ndërsa ByteDance nuk ka gjasa të jetë në gjendje t’i bëjë GPU-të e saj dukshëm më të shpejta se HGX H20 e Nvidia për shkak të rregullave të kontrollit të eksportit të SHBA (pasi TSMC nuk do të jetë në gjendje të dërgojë GPU të tilla në ByteDance), ato do të jenë dukshëm më të lira për kompaninë.

Ka një kapje masive për iniciativën e ByteDance për të zhvilluar GPU-të e saj për AI. Kompania tani mbështetet në CUDA të Nvidia dhe në grupin e softuerit mbështetës për trajnimin dhe konkluzionet e AI. Pasi të shkojë me GPU-të e tij të AI, duhet të zhvillojë platformën e tij softuerike dhe të sigurojë që grumbulli i tij i softuerit të jetë plotësisht i pajtueshëm me harduerin e tij. Edhe pse shumë kompani kineze kanë zhvilluar GPU të AI për të reduktuar varësinë nga Nvidia, ato çipa përdoren për ngarkesa të zgjedhura pune dhe vazhdojnë të mbështeten në GPU-të e Nvidia për të tjerët.

Nvidia pret të dërgojë mbi një milion njësi HGX H20 për klientët e saj kinezë këtë vit, gati dyfishi i shitjeve të parashikuara të Huawei prej 550,000 GPU AI Ascend 910B për vitin 2024. GPU-të H20 të Nvidia mund të gjenerojnë mbi 12 miliardë dollarë të ardhura, duke tejkaluar të ardhurat totale të kompanisë. vitin e kaluar, duke përfshirë shitjet e llojeve të tjera të harduerit, të tilla si GPU për lojtarë.