Google mburret me 1.3 kuadrilionë ‘tokens’ çdo muaj, por shifra është kryesisht për sy e faqe

foto

Google thotë se tani përpunon më shumë se 1.3 katrilion tokena çdo muaj me modelet e saj të inteligjencës artificiale. Por ky numër kryesor pasqyron kryesisht përpjekjet kompjuterike, jo përdorimin real ose vlerën praktike, dhe ngre pyetje në lidhje me pretendimet mjedisore të vetë Google-it.

foto

Sipas Google, ajo përpunon mbi 1.3 katrilion tokena në muaj me produktet dhe ndërfaqet e saj të inteligjencës artificiale. Kjo markë e re u njoftua nga CEO i Google, Sundar Pichai, në një event të Google Cloud.

foto

Google e njoftoi këtë moment historik gjatë një eventi të kohëve të fundit të Google Cloud, me CEO-n Sundar Pichai që e theksoi shifrën. Në qershor, Google tha se kishte arritur në 980 trilion token, më shumë se dyfishi i totalit të majit. Rritja e fundit shton rreth 320 trilion token që nga qershori, por rritja është ngadalësuar tashmë, një trend që nuk pasqyrohet në prezantimin e Pichai-t.

Tokenat janë njësia më e vogël e përpunuar nga modele të mëdha gjuhësore, të ngjashme me fragmentet e fjalëve ose rrokjet. Një numër i madh tokenash tingëllon si përdorim në rritje, por në realitet, është kryesisht një masë e kompleksitetit kompjuterik në rritje.

Faktori kryesor që nxit këtë është ndoshta lançimi i modeleve të arsyetimit nga Google, si Gemini 2.5 Flash . Këto modele kryejnë shumë më tepër llogaritje të brendshme për çdo kërkesë. Edhe diçka aq bazike sa “Përshëndetje” mund të shkaktojë dhjetëra hapa përpunimi në modelet e arsyetimit të sotëm përpara se të kthejë një përgjigje.

Një analizë e kohëve të fundit tregoi se Gemini Flash 2.5 përdor rreth 17 herë më shumë tokena për kërkesë sesa versioni i tij i mëparshëm dhe është deri në 150 herë më i shtrenjtë për detyra arsyetimi. Për më tepër, veçoritë komplekse si përpunimi i videos, imazhit dhe audios ka të ngjarë të përfshihen në total, por Google nuk i ndan ato.

Pra, numri i tokenit është kryesisht një masë e ngarkesës së informatikës në prapavijë dhe shkallëzimit të infrastrukturës, jo një tregues i drejtpërdrejtë i aktivitetit të përdoruesit apo përfitimit real.

Statistikat e reja të token-ave të Google nxjerrin në pah gjithashtu një problem kyç me raportin mjedisor të vetë Google duke u përqendruar në njësinë më të vogël të llogaritjes, studimi anashkalon shkallën reale dhe ndikimin mjedisor të operacioneve të IA-së. Ai pretendon se një kërkesë e vetme Gemini përdor vetëm 0.24 vat-orë energji elektrike, 0.03 gramë CO₂ dhe 0.26 mililitra ujë – gjoja më pak se nëntë sekonda kohë televizive.

Këto vlerësime bazohen në një kërkesë teksti “tipike” në aplikacionin Gemini. Google nuk sqaron nëse kjo pasqyron modele të lehta gjuhësore (me shumë gjasa) apo modele arsyetimi shumë më intensive në burime (pa shumë gjasa). Studimi gjithashtu lë jashtë rastet e përdorimit më të rënda si analiza e dokumenteve, gjenerimi i imazheve ose audios, kërkesat multimodale ose kërkimet në internet të drejtuara nga agjentët.