Anthropic lëshon modelin Claude 3 Haiku të përballueshëm dhe me shpejtësi të lartë
Anthropic PBC, një startup i inteligjencës artificiale që ndërton modele të besueshme të inteligjencës artificiale që rivalizojnë GPT-4 të OpenAI, të mërkurën publikoi Claude 3 Haiku, shtesën më të re në familjen e modeleve të saj Claude 3 të krijuara për shpejtësi dhe përballueshmëri.
Anthropic prezantoi familjen Claude 3 të modeleve të mëdha gjuhësore më herët në mars me tre modele. Modeli më i avancuar, Claude 3 Opus, kompania thotë se ka fuqi të konsiderueshme përpunimi që rivalizon edhe më të mirët në klasë nga gjigantët e industrisë si OpenAI dhe Google LLC. Soneti tjetër i vëllait të tij balancon shpejtësinë për kosto.
Kompania thotë se Haiku është tre herë më i shpejtë se kolegët e tij kur përpunon shumicën e ngarkesave të punës, duke e bërë atë të përsosur për rastet e përdorimit që kërkojnë shpejtësi të madhe dhe vonesë të ulët. Kjo e bën atë ideal për raste përdorimi si shërbimi ndaj klientit, puna në terren, pyetje-përgjigje dhe aplikacione të tjera ku përgjigjet e shpejta janë ideale.
“Shpejtësia është thelbësore për përdoruesit tanë të ndërmarrjeve që duhet të analizojnë shpejt grupe të dhënash të mëdha dhe të gjenerojnë rezultate në kohë për detyra si mbështetja e klientit,” tha kompania në njoftim. “Ai gjithashtu gjeneron rezultate të shpejta, duke mundësuar përvoja të përgjegjshme, tërheqëse të bisedës dhe ekzekutimin e shumë detyrave të vogla së bashku.”
Sipas Anthropic, Haiku është në gjendje të përpunojë deri në 21,000 argumente, ose rreth 30 faqe tekst, në sekondë për kërkesat nën 32,000 shenja.
Ashtu si pjesa tjetër e modeleve të familjes Claude 3, Haiku është në gjendje t’u përgjigjet pyetjeve dhe kërkesave themelore. Ka një madhësi maksimale të shpejtë prej 200,000 argumentesh, që është rreth 150,000 fjalë, ose më shumë se 500 faqe material. Kompania tha se të tre modelet kanë aftësi të përmirësuara kur bëhet fjalë për krijimin e përmbajtjes, gjenerimin e kodit dhe analizën, si dhe rrjedhshmëri të përmirësuar në gjuhët jo-anglisht si spanjisht, japonisht dhe frëngjisht.
Kompania gjithashtu vuri fokus të veçantë në bërjen e modelit të përballueshëm, duke vendosur një model çmimi 1:5 në raportin e tokenit hyrje-dalje për ngarkesat e punës të ndërmarrjeve ku kërkesat më të gjata janë të zakonshme. Bizneset shpesh mbështeten në LLM për të tretur dhe analizuar dokumente jashtëzakonisht të mëdha dhe kjo mund të çojë në kosto më të larta. Anthropic tha se modeli mund të analizojë 400 raste të Gjykatës së Lartë ose 2,500 imazhe për vetëm 1 dollarë.
“Bizneset mund të mbështeten te Haiku për të analizuar shpejt vëllime të mëdha dokumentesh, të tilla si regjistrime tremujore, kontrata ose çështje ligjore, për gjysmën e kostos së modeleve të tjera në nivelin e performancës së saj,” tha kompania.
Si pjesë e njoftimit, Anthropic tha se Haiku po i bashkohet Sonetit në renë publike të Amazon Web Service Inc. përmes Amazon Bedrock , një shërbim i menaxhuar që ofron akses në modelet e fondacionit të AI nga AWS dhe kompani të tjera. Kompania tha se modeli do të vijë së shpejti edhe në Google Cloud Vertex AI, një platformë nga Google LLC për trajnimin dhe vendosjen e modeleve gjeneruese të AI.