Koreja e Jugut zgjedh tre grupe për t’u ofruar çdo qytetari akses falas në AI
Koreja e Jugut më 28 gusht zgjodhi tre konsorciume të udhëhequra nga SK Telecom, KT dhe Kakao për të ndërtuar shërbime bazë të inteligjencës artificiale që do të jenë falas dhe pa kufizime përdorimi për çdo qytetar. Qeveria do t’u furnizojë grupeve një kombinim prej 512 procesorësh grafikë Nvidia B200 gjatë vitit 2026. Shërbimet kanë për qëllim të identifikojnë përfitimet dhe të ndihmojnë njerëzit me aplikacionet publike, por kostoja dhe kapaciteti kompjuterik i nevojshëm për përdorim të pakufizuar nuk janë përcaktuar ende.
SK Telecom po ndërton një shërbim që mund të pranojë një kërkesë përmes planifikimit, ekzekutimit dhe konfirmimit. Do të funksionojë përmes një aplikacioni dhe internetit, si dhe përmes telefonatave dhe mesazheve me tekst për njerëzit që kanë vështirësi me shërbimet dixhitale.
KT planifikon të kombinojë shërbimet publike dhe komerciale brenda një bisede të vetme. Pikat e aksesit do të shfaqen në kërkimin dhe përmbajtjen e Daum, në platformat e blerjeve dhe strehimit të partnerëve, si dhe përmes kanaleve të telekomunikacionit dhe televizionit të KT.
Kakao do ta bëjë KakaoTalk hyrjen e saj kryesore. Shërbimi i saj është projektuar për të trajtuar rezervimet, aplikimet dhe pagesat, me agjentë të specializuar për fusha të tilla si kujdesi për të moshuarit dhe taksat.
Rregullat e nxjerra në korrik kërkojnë që të paktën 50% e përdorimit të modelit të secilit shërbim të vijë nga modelet koreane të fondacionit që përmbushin standardet e pavarësisë së qeverisë. Të paktën 30% duhet të vijë nga modelet vendase të zhvilluara jashtë operatorit kryesor. Modelet e huaja mund të mbulojnë funksione të kufizuara, por përdorimi i tyre nuk do të marrë fonde qeveritare.
Chatbot-i bazë dhe agjenti i shërbimit publik supozohet të jenë falas pa kufizime përdorimi. Sipas kushteve të korrikut, operatorët mund të vazhdojnë të kërkojnë tarifa për shërbime të specializuara ose veçori me performancë më të lartë. Agjenti publik ka për qëllim të identifikojë përfitimet për të cilat një përdorues mund të kualifikohet dhe të ndihmojë me aplikimet.
Ministria e shkencës planifikon të nënshkruajë marrëveshje me tre operatorët në shtator 2026, të fillojë testimin beta pas kësaj dhe të lançojë shërbimin e plotë deri në fund të vitit. Qeveria do të fillojë të mbështesë një pjesë të shpenzimeve operative në të gjithë vendin në vitin 2027, ndërsa kompanitë duhet të kontribuojnë me fonde dhe të zhvillojnë burime të ardhurash.
Qeveria nuk e ka zbuluar koston e saktë të programit dhe mbështetja operative në të ardhmen mbetet e pacaktuar. Gjithashtu, nuk ka vendosur një objektiv për miratimin e tij. Zyrtarët e Seulit vlerësojnë se më shumë se 20 milionë koreano-jugorë përdorin versione falas të inteligjencës artificiale gjeneruese, por projekti nuk ka një objektiv se sa prej tyre do të kalojnë në shërbimet e mbështetura nga qeveria.
Një llogaritje e kapacitetit më 17 korrik modeloi një operator që merrte 256 procesorë B200. Filloi me të dhënat e analizës standarde të Nvidia që tregonin se një B200 gjeneronte rreth 10,000 tokena dalëse në sekondë me modelin Llama 3.3 me 70 miliardë parametra. Duke supozuar shpërndarjen e 50 tokenave dalëse në sekondë për secilin përdorues, skenari e vendosi kapacitetin e njëkohshëm në afërsisht 51,000 përdorues.
Një llogaritje e dytë supozoi katër pyetje për përdorues çdo ditë, një përgjigje mesatare prej 500 tokenësh dhe kërkesë maksimale gjashtë herë më të lartë se mesatarja ditore. Kjo prodhoi një kapacitet teorik prej rreth 18.4 milionë përdoruesish të përditshëm. Shifra prej 51,000 mat kapacitetin e njëkohshëm, ndërsa vlerësimi prej 18.4 milionësh shpërndan përdorimin gjatë një dite sipas këtyre supozimeve të kërkesës. Këto shifra janë supozime, jo performancë e përcaktuar. Ato varen nga modele të lehta dhe shumë të optimizuara, kërkesa të shkurtra dhe asnjë rritje të menjëhershme të kërkesës.
Supozimet u kryen edhe para përzgjedhjes së tre operatorëve. Sipas ndarjes së përcaktuar në korrik, konsorciumi i renditur më i larti do të merrte 256 B200, ndërsa secili prej dy të tjerëve do të merrte nga 128. Ministria nuk ka zbuluar se cili konsorcium u rendit i pari. Modelet më të mëdha, bisedat më të gjata dhe detyrat e agjentëve të shërbimit publik mund të ulin numrin e përdoruesve që secili përpunues mund të trajtojë, duke rritur njëkohësisht kostot e token-eve.
“Ajo që mbetet e paqartë është se si do të mbulohen kostot e token-eve dhe si do të ruhet qëndrueshmëria financiare e shërbimit”, tha një zyrtar i kompanisë së shërbimeve të inteligjencës artificiale në korrik.