Anthropic paralajmëron se është shumë pranë arritjes së aftësisë RSI, pra inteligjencës artificiale që mund të përmirësojë dhe ndërtojë vetveten

Ndërkohë që shumë vëmendje është përqendruar në të dhënat financiare të përditësuara që Anthropic zbuloi në S-1/A-në e saj të rishikuar të hënën (të ardhurat janë në rritje, por edhe shpenzimet), laboratori i IA-së publikoi një tjetër bombë të vogël me shkronja të vogla.

Dokumenti duket se paralajmëron se kompania është në prag të krijimit të një modeli të aftë për vetë-përmirësim rekursiv (RSI).

RSI është pika në të cilën IA rritet aq mirë në trajnimin e vetvetes saqë sjell një përshpejtim dramatik të aftësive të IA-së. Për ata që e shkatërrojnë IA-në, RSI përfaqëson kataklizmin nga i cili nuk ka kthim, në të cilin IA ndërtohet në diçka mjaftueshëm të fuqishme saqë del jashtë kontrollit njerëzor dhe mund të jetë indiferente ndaj dëmit që shkakton gjatë arritjes së qëllimeve të saj.

Për entuziastët e inteligjencës artificiale, RSI, ose ndonjë version i saj që përdor veten në mënyrë të besueshme për t’u përmirësuar, përfaqëson premtimin e teknologjisë, ku ajo bëhet një mjet i produktivitetit të paimagjinueshëm, zbulimeve shkencore dhe më shumë.

Anthropic duket se beson se RSI është njëkohësisht një premtim dhe një rrezik. Në S-1 thuhet se përdor IA-në në kërkim-zhvillimin e saj, por paralajmëron: “Përdorimi i IA-së për të ndihmuar në ndërtimin e IA-së më të aftë mund të paraqesë gjithashtu një rrezik të konsiderueshëm për sigurinë, veçanërisht nëse përshpejton ndjeshëm ritmin e progresit. Kjo është një nga fushat e mbuluara nga Politika jonë e Shkallëzimit të Përgjegjshëm, e cila përcakton planet tona për të monitoruar dhe zbutur rreziqet ndërsa i afrohemi asaj që është quajtur ‘vetëpërmirësim rekursiv’.”

Kur termi RSI u bë popullor në fillim të këtij viti, shumë veta besuan se ishte një fjalë kyçe ose, në rastin më të mirë, një qëllim shumë i vështirë për t’u arritur, përcaktuar ose provuar.

Por të hënën, Anthropic shtoi deklarata të reja në seksionin e Faktorëve të Rrezikut, duke thënë 1) se tashmë ka përdorur IA-në për të zhvilluar modele të reja, hapat e aftësive të të cilave nuk i njihte në atë kohë, dhe 2) se së shpejti mund të përmbushë përkufizimin e vet të RSI-së (theksi i theksuar është yni, më poshtë):

Përveç kësaj, përdorimi ynë në rritje i sistemeve të IA-së për të përshpejtuar kërkimin dhe zhvillimin tonë mund të bëjë që aftësitë e modeleve tona të përparojnë më shpejt sesa aftësia jonë për të zhvilluar, validuar dhe zbatuar masa përkatëse të sigurisë, harmonizimit dhe mbrojtjes. Si rezultat, në të kaluarën nuk kemi identifikuar dhe mund të mos identifikojmë në të ardhmen një përshpejtim të ndjeshëm në ritmin tonë të zhvillimit derisa të ketë ndodhur.

Për shembull, vlerësimet tona të brendshme dhe pritjet tona në lidhje me modelet e ardhshme, në vend të modeleve tona aktuale, tregojnë se ne mund të përmbushim së shpejti përkufizimin e Politikës sonë të Shkallëzimit të Përgjegjshëm për “progres të përshpejtuar në mënyrë dramatike që i atribuohet IA-së”. Ne nuk kemi përcaktuar asnjë nga modelet tona aktuale si tejkalues ​​të këtij pragu dhe vazhdojmë të vlerësojmë të dhënat bazë.

Megjithatë, Anthropic tha gjithashtu në dosje se asnjë nga modelet e saj nuk e ka kaluar ende këtë prag RSI dhe se premton t’i mbajë njerëzit në procesin e Kërkimit dhe Zhvillimit për të ardhmen e parashikueshme. “Ne nuk parashikojmë të jemi në gjendje ta përdorim Claude në mënyrë të sigurt për të projektuar dhe ndërtuar plotësisht në mënyrë autonome breza të njëpasnjëshëm të modeleve kufitare pa mbikëqyrje ose kuptim domethënës njerëzor, nëse dhe kur kjo të bëhet teknikisht e mundur. Prandaj, ne po shqyrtojmë përditësime të Politikës sonë të Shkallëzimit të Përgjegjshëm për t’i mbajtur njerëzit në kontroll të zhvillimit të modeleve kufitare në Anthropic.”

Skeptikët mund të theksojnë se një S-1 funksionon si zbulim dhe marketing, dhe se pretendimet për të qenë afër një modeli aq të fuqishëm sa mund të ndërtohet vetë mund të bien në kategorinë e dytë.

Megjithatë, nuk ka dyshim se aftësitë e Claude, veçanërisht në aspektin e kodimit, matematikës dhe sigurisë kibernetike, janë rritur me hapa të mëdhenj këtë vit. Nëse Anthropic mendon se mundësia e RSI është afër, ndoshta duhet ta besojmë dhe të veprojmë – ndoshta të qeverisim – në përputhje me rrethanat.