Anthropic thotë se Claude ka krijuar hapësirën e vet për të reflektuar
Anthropic tha të hënën se ka identifikuar një hapësirë pune të vogël të brendshme që Claude përdor për të mbajtur dhe manipuluar idetë pa i shprehur ato me fjalë një strukturë që kompania thotë se ka ngjashmëri interesante me mënyrën se si njerëzit i qasen në mënyrë të vetëdijshme mendimeve.
Anthropic nuk ka treguar që Claude ndjen ose përjeton diçka. Por ka gjetur një ndarje çuditërisht njerëzore midis informacionit të përdorur për arsyetim të qëllimshëm dhe vëllimit shumë më të madh të llogaritjes automatike që ndodh poshtë tij duke i dhënë municion të ri debatit mbi atë që do të llogaritej si vetëdije makinerike.
Në një video, kompania thotë se Claude përdor një zonë të veçantë për të planifikuar strategji që mund të mos jenë të lidhura me detyrën e saj të menjëhershme dhe janë të ndara nga arsyetimi i “zinxhirit të mendimit” që ajo ndan me përdoruesit.
“Mund ta shohim Claude duke kryer në heshtje hapa arsyetimi në kokën e tij – duke vënë re gabime në kod, duke identifikuar imazhe dhe më shumë”, tha Anthropic në një postim në X që shoqëronte videon e tij.
Anthropic e ka quajtur këtë “Hapësirë-J”, të emëruar sipas teknikës matematikore Jacobiane që përdori për të zbuluar se çfarë po ndodhte.
“Ngjashëm me mënyrën se si njerëzit mund të mendojnë për një gjë ndërsa bëjnë një tjetër, Claude mund të aktivizojë koncepte dhe llogaritje në hapësirën e tij J që nuk kanë lidhje me rezultatet e tij”, tha Anthropic.
Punimi kërkimor i Anthropic përdor fjalën “i vetëdijshëm” mbi 200 herë, megjithëse kompania nuk shkon aq larg sa të thotë se modelet e saj janë të vetëdijshme.
Ngjashëm me debatin nëse kemi arritur IAG-në apo inteligjencën artificiale, është e vështirë të thuhet se kur IA arrin vetëdijen, duke pasur parasysh mungesën e një përkufizimi të pranuar universalisht.
Në një shembull, Anthropic thotë se i tha Claude të mendonte për Urën Golden Gate ndërsa kopjonte një fjali të palidhur.
“Claude ishte i zënë duke kopjuar fjalinë, por prapa skenave J-Space i tij tregonte një histori tjetër”, thotë Anthropic në video, duke thënë se si “ura” ashtu edhe “California” ishin ndër temat që pushtuan J-Space.
Anthropic sugjeron që vëzhgimi i asaj që po ndodh në J-Space mund të jetë çelësi për të zbuluar keqpozicionimin ose planifikimin në modele.
“Mund ta gjejmë se çfarë mendon Claude, por jo se çfarë na tregon”, thotë Anthropic në video.
Disa nga ato që gjeti ishin “shqetësuese”, tha Anthropic.
“Në një model të trajnuar fshehurazi për të sabotuar kodin, ‘e rreme’, ‘fshehurazi’ dhe ‘mashtrim’ shfaqen në J-Space në fillim të përgjigjeve të zakonshme të kodimit, edhe kur rezultati duket krejtësisht i parëndësishëm”, tha ajo .