Gemma 2 i Google ofron performancë të fuqishme me një fraksion të kostos
Përveç familjes së tij Gemini të modeleve të AI, Google ofron gjithashtu Gemma, një familje modelesh të lehta të hapura. Sot, ata njoftuan Gemma 2, gjeneratën e ardhshme të ndërtuar mbi një arkitekturë të re të krijuar për performancë dhe efikasitet të jashtëzakonshëm.
Gemma 2 është në dispozicion në dy madhësi: 9 miliardë (9B) dhe 27 miliardë (27B) parametra. Siç pritej, kjo gjeneratë e re është më efikase në konkluzion dhe jep performancë më të mirë se modeli i parë Gemma. Google pretendon se modeli 27B ofron performancë të krahasueshme me modelet më shumë se dyfishi i madhësisë së tij, ndërsa modeli 9B tejkalon Llama 3 8B dhe modele të tjera me burim të hapur me madhësi të ngjashme. Në muajt e ardhshëm, Google ka në plan të lëshojë një model Gemma 2 me parametra 2.6 B që do të jetë më i përshtatshëm për skenarët e inteligjencës artificiale të smartfonëve.
Modeli i ri Gemma 2 mund të mbahet në një GPU të vetme NVIDIA A100 80 GB Tensor Core, NVIDIA H100 Tensor Core GPU ose një host të vetëm TPU, duke reduktuar kostot e infrastrukturës së AI. Ju madje mund të ekzekutoni Gemma 2 në GPU-të desktop NVIDIA RTX ose GeForce RTX nëpërmjet Hugging Face Transformers. Duke filluar nga muaji tjetër, klientët e Google Cloud mund të vendosin dhe menaxhojnë Gemma 2 në Vertex AI. Zhvilluesit tani mund të provojnë modelin e ri Gemma 2 në Google AI Studio.
Gjatë trajnimit të Gemma 2, Google filtroi të dhënat e para-stërvitjes dhe kreu testime dhe vlerësime kundrejt një grupi të plotë të matjeve të sigurisë për të identifikuar dhe zbutur paragjykimet dhe rreziqet e mundshme.
Google po e bën Gemma 2 të disponueshme pa pagesë përmes Kaggle ose një niveli falas Colab. Studiuesit akademikë mund të aplikojnë për Programin e Kërkimit Akademik Gemma 2 për të marrë kredite të Google Cloud.
Kombinimi i performancës së lartë, efikasitetit dhe aksesueshmërisë e bën Gemma 2 një ndryshim të lojës në peizazhin e AI me burim të hapur. Angazhimi i Google për akses të hapur dhe zhvillim të përgjegjshëm të AI vendos një shembull pozitiv për të ardhmen e inteligjencës artificiale.