Përpiluesi i ri LLM i Metës mund të ndryshojë mënyrën se si kodojmë

Ekipi hulumtues i inteligjencës artificiale të Meta Platforms Inc. tha sot se po ofron me burim të hapur një grup modelesh të fuqishme të AI të quajtur Përpiluesi i Modelit të Madh të Gjuhës Meta.

Sipas studiuesve, ai mund të transformojë mënyrën se si zhvilluesit shkojnë për optimizimin e kodit për zhvillimin e LLM, duke e bërë procesin më të shpejtë dhe më efikas me kosto.

Në një postim në blog, ekipi i kërkimit të sistemeve të Metës shpjegon se trajnimi i LLM-ve është një detyrë intensive e burimeve dhe jashtëzakonisht e shtrenjtë që përfshin mbledhjen e gjerë të të dhënave dhe një numër të madh të njësive të përpunimit grafik. Si i tillë, procesi është pengues për shumë organizata dhe studiues.

Megjithatë, ekipi beson se LLM-të mund të ndihmojnë në thjeshtimin e procesit të trajnimit LLM përmes aplikimit të tyre në kodin dhe optimizimin e përpiluesit, i cili i referohet procesit të modifikimit të sistemeve softuerike për t’i bërë ato të punojnë në mënyrë më efikase ose të përdorin më pak burime.

Studiuesit thanë se ideja e përdorimit të LLM-ve për optimizimin e kodit dhe përpiluesit është një ide që është nëneksploruar. Kështu ata filluan të trajnojnë përpiluesin LLM mbi një korpus masiv prej 546 miliardë tokenash të projektit LLVM dhe kodit të montimit, me qëllim që ta bëjnë atë të aftë “të kuptojë përfaqësimet e ndërmjetme të përpiluesit, gjuhën e asamblesë dhe teknikat e optimizimit”.

Në letër, studiuesit e Metës shkruan se kuptimi i përmirësuar i LLM Compiler për ato teknika i mundëson atij të kryejë detyra që më parë mund të kryheshin vetëm nga njerëzit ose mjete të specializuara.

Për më tepër, ata pretendojnë se përpiluesi LLM ka demonstruar efikasitet të jashtëzakonshëm në optimizimin e madhësisë së kodit, duke arritur 77% të potencialit optimizues të një kërkimi automatik në eksperimentet e tyre. Ata thonë se kjo tregon potencialin e saj për të reduktuar ndjeshëm kohën e përpilimit të kodit dhe për të rritur efikasitetin e kodit në aplikacione të ndryshme.

Përpiluesi LLM arriti rezultate edhe më të mira kur sfidohej me detyrat e çmontimit të kodit. Ai shënoi një shkallë suksesi prej 45% në çmontimin vajtje-ardhje, me 14% përputhje të sakta, kur u sfidua për të kthyer x86_64 dhe montimin ARM në LLMV-IR, duke demonstruar potencialin e tij për detyra të tilla si mirëmbajtja e kodit të vjetër dhe inxhinieria e kundërt e softuerit.

“LLM Compiler hap rrugën për eksplorimin e potencialit të pashfrytëzuar të LLM-ve në fushën e kodit dhe optimizimit të përpiluesit”, tha Cris Cummins, një nga kontribuesit kryesorë në projekt.

Ekipi i Metës beson se LLM Model Compiler mund të përmirësojë potencialisht shumë aspekte të zhvillimit të softuerit. Për shembull, studiuesit fitojnë më shumë rrugë për të eksploruar optimizimet e përpiluesve të fuqizuar nga AI, ndërsa zhvilluesit e softuerit mund të realizojnë kohë më të shpejta të përpilimit të kodit, të krijojnë kode më efikase dhe madje të ndërtojnë mjete të reja për të kuptuar dhe rregulluar aplikacionet dhe sistemet komplekse.

Për të ndihmuar që kjo të ndodhë, Meta tha se po lëshon LLM Compiler nën një licencë komerciale të lejueshme, që do të thotë se si studiuesit akademikë ashtu edhe kompanitë mund ta përdorin atë dhe ta përshtatin atë në çdo mënyrë që ata e shohin të arsyeshme.

Edhe pse inkurajues në disa mënyra, Përpiluesi LLM ngre pyetje në lidhje me evolucionin e dizajnit dhe zhvillimit të softuerit dhe rolin e inxhinierëve të softuerit njerëzor. Ai jep shumë më tepër sesa thjesht fitime në rritje të efikasitetit, duke përfaqësuar një ndryshim thelbësor në mënyrën se si afrohet teknologjia e optimizimit të kodit dhe përpiluesit.