CEO i OpenAI, Sam Altman, thotë se kompania ka mbetur pa GPU

Shefi ekzekutiv i OpenAI, Sam Altman tha se kompania u detyrua të pengonte prezantimin e modelit të saj më të ri, GPT-4.5, sepse OpenAI është “jashtë GPU”.

Në një postim në X, Altman tha se GPT-4.5, të cilin ai e përshkroi si “gjigant” dhe “të shtrenjtë”, do të kërkojë “dhjetëra mijëra” më shumë GPU përpara se përdoruesit shtesë të ChatGPT të kenë akses. GPT-4.5 do të vijë së pari për abonentët e ChatGPT Pro duke filluar nga e enjtja, e ndjekur nga klientët ChatGPT Plus javën e ardhshme.

Ndoshta pjesërisht për shkak të madhësisë së tij të madhe, GPT-4.5 është jashtëzakonisht i shtrenjtë. OpenAI po tarifon 75 dollarë për milion argumente (~ 750,000 fjalë) të futura në model dhe 150 dollarë për milion argumente të gjeneruara nga modeli. Kjo është 30 herë kostoja hyrëse dhe 15 herë kostoja e prodhimit të modelit GPT-4o të OpenAI.

“Ne jemi rritur shumë dhe jemi pa GPU,” shkroi Altman. “Ne do të shtojmë dhjetëra mijëra GPU javën e ardhshme dhe do ta hedhim atë në nivelin Plus më pas… Kjo nuk është mënyra se si ne duam të veprojmë, por është e vështirë të parashikohen në mënyrë të përsosur rritjet e rritjes që çojnë në mungesa të GPU-ve.”

Altman ka thënë më parë se mungesa e kapacitetit kompjuterik po vonon produktet e kompanisë. OpenAI shpreson ta luftojë këtë në vitet e ardhshme duke zhvilluar çipat e veta të AI dhe duke ndërtuar një rrjet masiv qendrash të dhënash.