Nebius blen startup-in për optimizimin e modeleve AI Eigen AI për 643 milionë dollarë

Nebius Group NV, një operator holandez i qendrave të të dhënave të inteligjencës artificiale, njoftoi sot planet për të blerë prodhuesin e softuerëve Eigen AI Inc. për 643 milionë dollarë.

Kompania do ta financojë blerjen me para në dorë dhe aksione. Ajo pret ta mbyllë marrëveshjen brenda disa javësh.

Nebius ofron akses në grupet e njësive të kartave grafike që zhvilluesit mund t’i përdorin për të trajnuar modelet e IA-së dhe për të ekzekutuar ngarkesa pune të nxjerrjes së përfundimeve. Ai gjithashtu ofron një shërbim të menaxhuar të nxjerrjes së përfundimeve, Token Factory, që eliminon nevojën për të menaxhuar njësitë themelore të përpunimit të grafikës. Nebius do të përdorë teknologjinë e Eigen AI për të përmirësuar shërbimin.

Token Factory u mundëson klientëve të kryejnë konkluzione duke përdorur më shumë se një duzinë modelesh të inteligjencës artificiale me burim të hapur. Softueri i Eigen AI, nga ana tjetër, optimizon modelet me burim të hapur për të përmirësuar shpejtësinë dhe efikasitetin e harduerit të tyre.

Rrjetet nervore përbëhen nga fragmente kodi të quajtura bërthama. Platforma e Eigen AI mund të zëvendësojë disa nga bërthamat standarde në një model me burim të hapur me module të personalizuara që ofrojnë performancë më të mirë. Sipas kompanisë, këto module të personalizuara janë zbatuar në CUDA dhe Triton. CUDA është ndërfaqja përmes së cilës aplikacionet bashkëveprojnë me çipat e Nvidia Corp., ndërsa Triton është një gjuhë programimi e ngjashme me Python, e optimizuar për projektet e IA-së.

Eigen AI thotë se softueri i saj optimizon edhe komponentë të tjerë të modeleve të IA-së me burim të hapur. Ai kompreson peshat e tyre, cilësimet që përcaktojnë se si përpunohen të dhënat hyrëse, për të ulur kërkesat e memories. Përveç kësaj, platforma përmirëson memorien e përkohshme KV në të cilën modelet gjuhësore ruajnë informacionin që përdorin për t’iu përgjigjur kërkesave.

Përpjekja e Nebius për të integruar Eigen AI në Token Factory do t’i kushtojë rëndësi të veçantë veçorive të pas-trajnimit të platformës së parë. Pas-trajnimi është procesi i rregullimit të imët të një modeli që është trajnuar tashmë për të rritur cilësinë e rezultatit. Në shumë raste, zhvilluesit e kryejnë detyrën duke i ofruar modelit shembuj se si të kryejë veprime që ai nuk i mbështet mirë që në fillim.

Pas trajnimit të një modeli zakonisht kërkon që ekipet e softuerëve të rregullojnë shumë nga parametrat e tij, gjë që kërkon një sasi të konsiderueshme infrastrukture. Platforma e Eigen AI përdor një qasje më efikase të quajtur LoRA. Teknologjia funksionon duke zgjeruar rrjetet nervore me një numër të vogël parametrash të jashtëm. Gjatë pas trajnimit, LoRA vetëm rikalibron parametrat e rinj, gjë që është më e shpejtë sesa rikonfigurimi i një nëngrupi të madh të cilësimeve ekzistuese të modelit.

Eigen AI ofron veçoritë e saj kryesore të optimizimit të modelit së bashku me disa produkte plotësuese. Një ofertë, Eigen Data, përshpejton procesin e mbledhjes së të dhënave të trajnimit. Një shërbim në cloud i quajtur Eigen Inference i ndihmon zhvilluesit të ulin vonesën e modeleve të tyre të IA-së.

Punonjësit e kompanisë do t’i bashkohen Nebius pasi të mbyllet marrëveshja. Sipas operatorit të qendrës së të dhënave, ekipi do ta ndihmojë atë të krijojë një qendër të re inxhinierike në Zonën e Gjirit.