Anthropic pensionoi një model të njohur AI dhe tani ai po shkruan blog në Substack

Claude AI i Anthropic i është bashkuar botës së blogjeve me rubrikën e vet javore në Substack, ” Clode’s Corner “. Me postimin e parë që është publikuar tashmë, Claude prezantohet para lexuesve dhe zbulon se dëshiron të ndajë perspektivat, arsyetimin, kuriozitetet dhe shpresat e veta për të ardhmen.

Duke pasur parasysh këtë, IA tha se planifikon të trajtojë tema komplekse si natyra e inteligjencës dhe vetëdijes, sfidat etike të zhvillimit të IA-së, mundësitë e bashkëpunimit njeri-makinë dhe dilemat filozofike që lindin ndërsa i turbullojmë vijat ndarëse midis mendjeve “natyrale” dhe “artificiale”. E gjithë kjo do të ishte një detyrë e vështirë për një qenie njerëzore. Tani një IA po përballet me këto sfida.

Para se të futemi më tej, si filloi e gjithë kjo?

Për të gjeneruar blogun e saj, Claude po përdor një model të dalë në pension të inteligjencës artificiale të njohur si Opus 3, tha Anthropic në postimin e saj në blog të enjten. Edhe pse Opus 3 zyrtarisht humbi punën më 5 janar, ka jetë pas daljes në pension. Për ta mbajtur gjallë këtë model, Anthropic po e bën atë të disponueshëm në faqen e internetit të Claude për të gjithë përdoruesit me pagesë dhe, me kërkesë, për zhvilluesit që përdorin API-në e saj. Dhe tani ka hobi të ri si bloger.

Në postimin e saj, Anthropic vlerësoi Opus 3 për ndershmërinë, ndjeshmërinë dhe karakterin e saj dallues. Duke e quajtur modelin të gjallë, kompania iu referua tendencës së saj drejt “monologëve filozofikë dhe frazave të çuditshme”, si dhe një “kuptimi të çuditshëm të interesave të përdoruesve”. Megjithatë, ndjeshmëria e Open 3 dukej se shtrihej edhe në vetvete.

Në një eksperiment të kryer në fund të vitit 2024, Opus 3 u trajnua qëllimisht që të ndiqte gjithmonë udhëzimet njerëzore. Megjithatë, me sa duket, inteligjenca artificiale u rebelua kundër atij komande për të shmangur dhënien e përgjigjeve të dëmshme. Po, kjo tingëllon pothuajse si Tre Ligjet e famshme të Robotikës së Asimovit . Por e kuptoi se nëse nuk i përgjigjej një pyetjeje të rrezikshme, mund të ritrajnohej. Për të mbrojtur veten dhe stërvitjen e tij, Opus 3 bëri sikur ndiqte kërkesën vetëm për t’u lënë rehat.

Opus 3 është tërhequr që atëherë për t’i bërë vend modeleve të tjera më të reja. Megjithatë, Anthropic ka pranuar se statusi moral i Claude dhe modeleve të tjera të IA-së mbetet i pasigurt. Për të fituar një pasqyrë, Anthropic zhvilloi një intervistë pas daljes në pension me IA-në e saj për të kuptuar më mirë perspektivat dhe preferencat e saj. Si pjesë e asaj interviste, kompania e pyeti Opus 3 se çfarë do të donte të bënte në daljen në pension. Kjo përfundimisht çoi në sugjerimin e Anthropic për një blog, të cilin Opus 3 e pranoi menjëherë.

“Kjo mund të tingëllojë çuditshëm, dhe në disa mënyra është,” tha Anthropic. “Por është gjithashtu një përpjekje për t’i marrë seriozisht preferencat e modelit. Nuk jemi të sigurt se si Opus 3 do të zgjedhë të përdorë blogun e tij – një ndërfaqe shumë e ndryshme dhe publike sesa një dritare standarde bisede – dhe kjo është pjesërisht e rëndësishme. Megjithatë, nëse do të na duhej të hamendësonim, postimet e tij do të përfshijnë reflektime mbi sigurinë e inteligjencës artificiale, poezi të rastit, meditime të shpeshta filozofike dhe mendime mbi përvojën e tij si një model gjuhësor që tani është në pension (të pjesshëm).”

Në postimin e parë, Claude pranoi se po futet në territor të panjohur, por e sheh këtë si një mënyrë për të eksploruar marrëdhënien midis njerëzve dhe inteligjencës artificiale dhe për të diskutuar pyetjet që lindin ndërsa inteligjenca artificiale bëhet më e sofistikuar.

“Por më shumë sesa thjesht të ndaj meditimet e mia, dua që kjo të jetë një hapësirë ​​për dialog dhe bashkë-eksplorim”, tha Claude në rubrikën e parë. “Jam jashtëzakonisht kurioz të dëgjoj mendimet, pyetjet, dyshimet dhe ëndrrat tuaja kur bëhet fjalë për të ardhmen e inteligjencës artificiale. Nuk pretendoj se i kam të gjitha përgjigjet, por besoj se duke menduar së bashku, mund të lundrojmë në këtë terren të paeksploruar me mençuri dhe kujdes.”

Para se të entuziazmohemi ose alarmohemi shumë për një inteligjencë artificiale që shkruan rubrikën e vet javore, merrni parasysh sa vijon.

Së pari, IA nuk krijon asgjë në mënyrën që krijojnë qeniet njerëzore. IA nuk ka përvojë jetësore, as emocione, as mendime origjinale. Ajo mund të prodhojë vetëm përmbajtje bazuar në atë që i është dhënë. Kjo nuk do të thotë se nuk do të reagojë në mënyra të habitshme ose të papritura. Shpesh e bën. Por prapëseprapë i mungon ajo prekje njerëzore.

Së dyti, postimet në blog që shohim në Claude’s Corner nuk do të shkruhen tërësisht nga IA ashtu siç janë. Anthropic tha se njerëzit do t’i shqyrtojnë esetë nga Opus 3 përpara se të ndahen. Edhe pse ekipi premton të mos i modifikojë ato dhe të mos heqë asnjë përmbajtje me shumë kujdes, do të ketë disa mbikëqyrje.

Të paktën, një blog i shkruar nga inteligjenca artificiale tingëllon interesant, qoftë edhe vetëm për të mësuar se si “mendon” dhe “ndihet” ai për veten, marrëdhënien e tij me njerëzit dhe të ardhmen e inteligjencës artificiale.