Meta lëshon “Code Llama 70B” të fuqishëm, një mjet kodimi me burim të hapur për të rivalizuar GitHub Copilot
Modeli më i avancuar dhe pa përdorim i gjuhës së madhe i Meta, Code Llama, është tani i disponueshëm për shkarkim për studiuesit dhe zhvilluesit. Ky model gjenerues i AI krenohet me 70 miliardë parametra dhe fillimisht u shpall në gusht 2023.
“Ne po ofrojmë me burim të hapur një Code Llama të ri dhe të përmirësuar, duke përfshirë një model më të madh parametrash 70B. Shkrimi dhe redaktimi i kodit është shfaqur si një nga përdorimet më të rëndësishme të modeleve të AI sot. Aftësia për të koduar është dëshmuar gjithashtu të jetë thelbësore për modelet e AI për të përpunuar informacionin në fusha të tjera në mënyrë më rigoroze dhe logjike. Unë jam krenar për përparimin këtu dhe mezi pres t’i përfshij këto përparime në Llama 3 dhe modelet e ardhshme gjithashtu”, tha CEO i Meta, Mark Zuckerberg në një postim në Facebook.
Meta thekson se Code Llama është modeli më i avancuar dhe me performancën më të mirë në familjen Llama, i disponueshëm falas në tre versione: CodeLlama – 70B, modeli i kodit themelor, CodeLlama – 70B – Python, 70B i specializuar për Python dhe Code Llama – 70B – Instruct 70B, i cili është një version i akorduar mirë me udhëzimet njerëzore dhe sintezën e kodit të vetë-udhëzimit.
Kodi Llama është ndërtuar mbi Llama dhe është i aftë të gjenerojë kod. Sipas kompanisë, modeli ka shënuar 67.8 në HumanEval, një standard gjenerues i AI, ndërsa GPT-4 Turbo, një model shumë më i madh, ka shënuar 81.7. Meta pohon gjithashtu se Code Llama është akorduar për gjenerimin e kodit, dhe pjesa më e mirë është se është një model me burim të hapur.
Modeli më i fundit gjenerues i AI nga Meta mund të shkruajë kode në C++, Java, PHP dhe Python. Modeli është trajnuar duke përdorur 500 miliardë argumente kodi dhe të dhëna të lidhura, dhe Meta ka zgjeruar gjithashtu dritaren e kontekstit, e cila tani mund të pranojë të dhëna me deri në 100,000 argumente ose rreth 75,000 fjalë.
Vlen të përmendet se Code Llama bazohet në Llama, një model AI me qëllim të përgjithshëm 175 miliardë parametrash. Përdoruesit mund të hyjnë në Code Llama përmes platformave si Hugging Face ose PyTorch, dhe kompania gjithashtu ka konfirmuar se disa nga këto avancime do të përfshihen në Llama 3 dhe modelet e ardhshme nga Meta.