Anthropic tërhiqet nga politika që ‘sabotoi’ punën e studiuesve
Kompania Anthropic po tërhiqet nga një politikë që i pengonte në mënyrë diskrete studiuesit të përdornin programin e saj të ri Claude Fable 5 LLM për të krijuar modele konkurruese të inteligjencës artificiale, tha kompania për Wired. “Ne po ndryshojmë masat mbrojtëse të Fable 5 për zhvillimin e LLM-ve në nivel fronti për t’i bërë ato të dukshme”, tha kompania në një deklaratë. “Ne bëmë kompromisin e gabuar dhe kërkojmë ndjesë që nuk arritëm ekuilibrin e duhur.”
Kur Anthropic publikoi Claude Fable 5, një model të ri të bazuar në sistemin e saj të fuqishëm Mythos, studiuesit vunë re diçka të çuditshme. Ata zbuluan se Fable 5 do t’i ridrejtonte në heshtje kërkesat drejt një modeli më të dobët kur i kërkohej të kryente veprime të caktuara. Për më tepër, ky kufizim nuk u zbulua në dokumentacionin e modelit.
Modeli i ri ose po refuzonte ose po degradonte përgjigjet për detyra të tilla si trajnimi i LLM-ve konkurruese, debugging-u i kodit të IA-së dhe optimizimi i arkitekturës nervore. Studiuesit u shqetësuan jo vetëm nga ky degradim, por edhe nga mungesa e transparencës së Anthropic në lidhje me të. Ata ishin gjithashtu të shqetësuar, sigurisht, se kishin djegur tokena dhe para për një model që nuk bënte atë që prisnin.
Anthropic e ka paraqitur veten si një alternativë më etike dhe më miqësore ndaj studiuesve ndaj OpenAI, kështu që veprimet e saj me Fable 5 krijuan një reagim të menjëhershëm. “Degradimi i performancës në kërkimin e ML pa ia treguar përdoruesit është tronditësisht armiqësor dhe një pamje e tmerrshme”, tha studiuesi dhe autori i Substack, Dean W. Ball, në lidhje me X.
Anthropic nuk po e ndryshon politikën e saj të mbrojtjes në Fable 5, por përkundrazi po i bën kufizimet të dukshme për përdoruesit. “Nëse kompania dyshon se një përdorues po përpiqet të përdorë Claude për të ndërtuar një inteligjencë artificiale shumë të aftë, ajo do ta njoftojë atë se ose po e refuzon kërkesën, ose po e ridrejton përdoruesin në një model më pak të aftë”, shkroi Wired.