Anthropic heq gjurmuesin e fshehur të Claude Code pasi studiuesit ngritën shqetësime për privatësinë

Kompania thotë se mjeti është projektuar për të ndaluar abuzimin dhe nxjerrjen e modeleve të inteligjencës artificiale, por kritikët vunë në dyshim përdorimin e monitorimit të fshehtë.

Anthropic ka hequr një sistem të fshehur gjurmimi nga Claude Code pasi një studiues sigurie zbuloi se asistenti i kodimit të IA-së po përdorte shënjues të pazbuluar për të identifikuar vendndodhjen e disa përdoruesve, përdorimin e serverit proxy dhe lidhjet e mundshme me laboratorët kinezë të IA-së.

Karakteristika, e zbuluar në qershor nga zhvilluesi “Thereallo”, përfshinte sinjale në kërkesat e sistemit të Claude Code që mund të sinjalizonin përdoruesit që Anthropic besonte se po anashkalonin kufizimet ose po përpiqeshin të nxirrnin aftësitë e modelit.

“Anthropic ndoshta dëshiron të zbulojë rishitësit e API-ve, portat e paautorizuara të Claude Code dhe tubacionet e modelit ‘sulm distilimi’”, shkroi Thereallo. “Një ANTHROPIC_BASE_URL e personalizuar që tregon në një domen të njohur të rishitësit është një sinjal i dobishëm. Një emër host që përmban deepseek ose zhipu është gjithashtu një sinjal i dobishëm.”

Thereallo tha se përpjekja e Anthropic për të zbuluar rishitësit, portat e paautorizuara të Claude Code dhe sulmet e mundshme të distilimit kishte kuptim, por kritikoi mënyrën se si u bë kjo, duke vënë në dukje se Claude Code fshehu sinjalet e gjurmimit brenda kërkesave të sistemit duke përdorur shënjues Unicode dhe lista të koduara të domeneve në vend që ta zbulonte sistemin përmes dokumentacionit ose shënimeve të lëshimit.

“Ky nuk është një funksion keqdashës, por është një zgjedhje e çuditshme për një mjet zhvilluesi që kërkon besim”, shkroi Thereallo.

Pasi gjurmuesi u zbulua në internet, inxhinieri i Anthropic, Thariq Shihipar, tha në X se u prezantua në mars si një “eksperiment” për të ndaluar abuzimin e llogarive nga rishitësit e paautorizuar dhe për të mbrojtur Claude nga sulmet e distilimit.

“Ekipi ka arritur zbutje më të forta që atëherë dhe në fakt ne kemi pasur ndërmend ta heqim këtë për një kohë,” shkroi Shihipar javën e kaluar. “Ne e bashkuam [kërkesën për tërheqje] dhe kjo duhet të anulohet plotësisht në versionin e nesërm.”

Lajmi vjen ndërsa Anthropic ka shtuar paralajmërimet në lidhje me distilimin e modelit të inteligjencës artificiale, ku rezultatet e një sistemi përdoren për të trajnuar një model tjetër. Ndërsa praktika është e zakonshme në kërkimin e inteligjencës artificiale, kur bëhet fjalë për gjeopolitikën, distilimi bëhet një shqetësim për sigurinë kombëtare . Më herët këtë muaj, Alibaba ua ndaloi punonjësve përdorimin e Claude Code, duke e quajtur mjetin softuer “me rrezik të lartë” për shkak të shqetësimeve të sigurisë.

Në shkurt, Anthropic akuzoi zhvilluesit kinezë të inteligjencës artificiale DeepSeek, Moonshot AI dhe MiniMax për përdorimin e llogarive mashtruese për të nxjerrë miliona përgjigje Claude për të trajnuar modele konkurruese. Pretendimet shkaktuan reagime nga kritikët të cilët vunë në dyshim se si ndryshon kjo praktikë nga metodat e përdorura në të gjithë industrinë e inteligjencës artificiale.

Në prill, Elon Musk dëshmoi se xAI kishte përdorur “pjesërisht” modelet e OpenAI gjatë trajnimit të Grok, duke e quajtur distilimin një praktikë më të gjerë të industrisë. Në qershor, CEO i Anthropic, Dario Amodei, i kërkoi Kongresit të forcojë mbrojtjen kundër nxjerrjes së inteligjencës artificiale nga jashtë, pasi pretendoi se operatorët e lidhur me Alibaba gjeneruan 28.8 milionë shkëmbime Claude duke përdorur gati 25,000 llogari mashtruese.