Mistral AI dhe Nvidia ka lëshuar Mistral NeMo 12B
Mistral AI dhe NVIDIA kanë lëshuar Mistral NeMo 12B, një model i ri gjuhësor që synon ndërmarrjet. Modeli shkëlqen në bisedat me shumë kthesa, matematikën, arsyetimin me sens të përbashkët, njohuritë botërore dhe kodimin. Mistral promovon saktësinë dhe fleksibilitetin e tij të paparë për aplikacione të ndryshme të ndërmarrjeve.
Mistral NeMo ka një gjatësi konteksti 128K, duke e lejuar atë të trajtojë hyrjet komplekse dhe të gjata në mënyrë më efektive se shumë konkurrentë. Modeli përpunon informacione të gjera në mënyrë koherente, duke prodhuar rezultate përkatëse kontekstuale për nevoja të ndryshme të ndërmarrjes.
Guillaume Lample, bashkëthemeluesi dhe shkencëtari kryesor i Mistral AI, theksoi përfitimet e bashkëpunimit: “Përdorimi i harduerit dhe softuerit të NVIDIA na lejon të zhvillojmë një model me saktësi, fleksibilitet dhe efikasitet të lartë, të mbështetur nga mbështetja dhe siguria e nivelit të ndërmarrjes.”
Trajnimi i modelit përdori infrastrukturën e AI të NVIDIA, duke përfshirë 3,072 GPU H100 80 GB Tensor Core në platformën DGX Cloud AI. Ky proces përfshiu teknika të përshpejtuara të trajnimit për të optimizuar performancën.
Mistral NeMo ofron disa avantazhe kryesore për përdoruesit e ndërmarrjeve:
Shkathtësia: Lëshuar nën licencën Apache 2.0, është projektuar si një zëvendësim për sistemet që përdorin Mistral 7B.
Efikasiteti: Përdor formatin e të dhënave FP8 për konkluzione, duke reduktuar nevojat e memories dhe për të përshpejtuar vendosjen pa humbje të saktësisë.
Aftësia shumëgjuhëshe: Excels në anglisht, frëngjisht, gjermanisht, spanjisht, italisht, portugalisht, kinezisht, japonisht, koreanisht, arabisht dhe hindisht.
Tokenizimi i përmirësuar: Prezanton Tekken, një tokenizues i ri i bazuar në Tiktoken, duke treguar përfitime efikasiteti në mbi 100 gjuhë.
Vendosja e lehtë: Paketuar si një mikroshërbim konkluzionesh NVIDIA NIM, duke lejuar konfigurim të shpejtë në mjedise të ndryshme.
Fleksibiliteti i harduerit: Punon në një GPU të vetme NVIDIA L40S, GeForce RTX 4090 ose RTX 4500, duke balancuar performancën dhe koston.
Për bizneset që kërkojnë të zbatojnë aftësi të avancuara të AI, Mistral NeMo 12B ofron një kombinim të fuqishëm karakteristikash. Aftësitë e tij shumëgjuhëshe dhe përpunimi efikas e bëjnë atë të përshtatshëm për një gamë të gjerë aplikimesh të ndërmarrjeve.
Për më tepër, Mistral NeMo është projektuar me siguri dhe mbështetje të nivelit të ndërmarrjes, duke shfaqur degë të veçorive të dedikuara, procese rigoroze të vërtetimit dhe marrëveshje gjithëpërfshirëse të nivelit të shërbimit. Ndërmarrjet mund të integrojnë pa probleme Mistral NeMo në aplikacionet e tyre komerciale, duke përfituar nga aksesi i drejtpërdrejtë te ekspertët e NVIDIA AI dhe performanca e besueshme dhe e qëndrueshme.