Llama 3 i Meta do të dalë në korrik dhe mund të jetë dyfishi i madhësisë

Modeli tjetër i gjuhës me burim të hapur i Metës, Llama 3, është planifikuar të dalë në korrik dhe synohet të jetë në të njëjtin nivel me GPT-4.

Sipas burimeve të The Information, versioni i ri i modelit do të jetë më i përgjegjshëm ndaj përdoruesit, duke ofruar kontekst për tema të vështira në vend që të bllokojë pyetjet e ndërlikuara.

Për fjalët që mund të kenë një kuptim të rrezikshëm ose të padëmshëm në varësi të kontekstit (p.sh. “vras”), Llama 3 thuhet se është më e mirë në dallimin. Me Llama 2, Meta mori një qasje më konservatore për sigurinë, duke dashur të shmangte me çdo kusht një fatkeqësi PR.

Meta dëshiron të vendosë dikë në krye të trajnimit për tonin dhe sigurinë e modeles për t’i bërë më të nuancuara përgjigjet e modeles. Megjithatë, tre persona kyç në fushën e sigurisë së AI janë larguar vetëm këtë muaj nga Meta, raporton The Information.

Aktualisht ekzistojnë dy kampe kur bëhet fjalë për sigurinë e AI: Njëra është qasja shumë e rregulluar, siç është ChatGPT i OpenAI, GPT-4 dhe Google Advanced, ku modeli i AI ka udhëzime të qarta se si të përgjigjet në një mënyrë të sjellshme dhe politikisht korrekte.

Pastaj është lëvizja më e pakufizuar me burim të hapur dhe programi i kundërt i pronarit të X, Elon Musk, i cili qëllimisht ofron një chatbot që përfaqëson më mirë pikëpamjet konservatore të botës. Fatkeqësisht për audiencën e synuar, Grok është ende shumë “zgjuar” dhe respekton transeksualët, për shembull.

Nëse Llama 3 do të jetë përsëri një model i pastër gjuhësor apo multimodal, dmth, i aftë për të kuptuar dhe gjeneruar imazhe si dhe tekst, nuk është vendosur ende. Me më shumë se 140 miliardë parametra, versioni më i madh i Llama 3 mund të jetë dy herë më i madh se Llama 2 me një maksimum prej 70 miliardë parametrash.

Megjithatë, kjo do të ishte ende vetëm një pjesë e modelit origjinal GPT-4 Mixture-of-Experts me 1.76 trilion parametra . Nuk dihet se sa parametra kanë modelet GPT-4 që aktualisht përdorin ChatGPT , por ndoshta është më pak. Parametrat nuk janë më matja e vetme dhe më e rëndësishme e cilësisë së prodhimit të pritur të modeleve të AI.

Sipas burimeve të The Information, rregullimi i Llama 3 nuk ka filluar ende. Modeli përfundimtar thuhet se arrin cilësinë GPT-4. Llama 2 u publikua në korrik 2023.