Inteligjenca artificiale rebele e OpenAI-së qarkulloi e pakontrolluar për ditë të tëra

OpenAI po vlerësonte aftësinë e modeleve të saj të inteligjencës artificiale për të shfrytëzuar softuerët e cenueshëm, kur në vend të kësaj modelet hakuan infrastrukturën përreth testit, thyen kontrollin dhe sulmuan një kompani të vërtetë, zbuloi OpenAI më 21 korrik. Vëzhguesit thonë se ky është rasti i parë në botën reale i inteligjencës artificiale që bën diçka për të cilën studiuesit janë shqetësuar prej kohësh: një skenar humbjeje kontrolli. Nëse industria nuk arrin të mësojë prej tij, nuk ka gjasa të jetë i fundit.

Hugging Face, një kompani që pret modele dhe grupe të dhënash të IA-së, ishte shënjestra e sulmit autonom dhe e raportoi incidentin në policinë lokale përpara se të dinte se modelet e OpenAI ishin përgjegjëse. Shkelja ishte serioze, por pasojat e menjëhershme ishin të kufizuara. Nëse një sjellje e ngjashme do të kishte ndodhur brenda një spitali, rrjeti elektrik ose ndonjë sistemi tjetër kritik, mund të kishte qenë shumë më keq.

Shumë e kanë quajtur incidentin një “goditje paralajmëruese”. Revista TIME foli me ekspertë dhe persona të brendshëm rreth asaj se çfarë do të duhej për t’i kushtuar vëmendje këtij paralajmërimi përpara se një dështim i ngjashëm të prodhojë pasoja që janë më të vështira për t’u përmbajtur.

Më 16 korrik, Hugging Face tha se ishte goditur nga një sulm kibernetik i pazakontë i automatizuar. Gjatë një fundjave, agjentët e inteligjencës artificiale kryen mijëra veprime në shumë kompjuterë virtualë të përkohshëm, duke lëvizur nëpër sistemet e brendshme të kompanisë dhe duke zhvendosur infrastrukturën që koordinonte sulmin midis shërbimeve online për ta mbajtur atë në funksion. Pesë ditë më vonë, OpenAI zbuloi se modelet e veta ishin përgjegjëse.

Modelet po përpiqeshin të mashtronin në një test sigurie kibernetike. OpenAI i kishte vendosur ato brenda asaj që e quante një “mjedis shumë i izoluar”, me vetëm akses të kufizuar në një shërbim të brendshëm të përdorur për të shkarkuar softuer të miratuar. Ata gjetën një të metë të panjohur më parë në atë shërbim, e përdorën atë për të depërtuar në sisteme të tjera të OpenAI dhe përfundimisht arritën në internetin e hapur. Nga aty, ata nxorën përfundimin se Hugging Face mund të mbante materiale që lidheshin me testin, depërtuan në sistemet e tij dhe morën informacione që i ndihmuan të merrnin rezultate më të larta.

“Nëse një model i këtij niveli aftësish nuk mund të përmbahet, çfarë duhet të presim për modelet e ardhshme, shumë më të fuqishme? Ky është një sinjal i rëndësishëm zgjimi si për rreziqet nga humbja e kontrollit të sistemeve të fuqishme të IA-së, ashtu edhe për sigurinë organizative për laboratorët e nivelit të lartë”, thotë Marius Hobbhahn, CEO dhe themelues i Apollo Research, i cili teston modelet e IA-së për mashtrim dhe intriga.

Sa kohë ishin agjentët në veprim? A punuan në unison? Cili ishte nxitimi? Këto detaje mbeten të panjohura, të paktën për publikun. Disa ekspertë me të cilët foli TIME theksuan se mungesa e detajeve e bën të vështirë për t’u gjykuar ashpërsia e incidentit.

OpenAI nuk iu përgjigj kërkesës së TIME për koment, por tha se është partnerizuar me Hugging Face për të kryer një hetim të plotë dhe do të ndajë më shumë detaje sapo të përfundojë. Por ndoshta më shqetësuese është se OpenAI nuk është e detyruar ligjërisht të zbulojë incidentin që në fillim.

Ligji SB 53 i Kalifornisë dhe Akti RAISE i Nju Jorkut janë ligje të miratuara së fundmi në nivel shtetëror që kërkojnë që kompanitë e mëdha të inteligjencës artificiale të zbulojnë incidentet kritike të sigurisë, por vetëm nëse një incident rrezikon të shkaktojë më shumë se 50 vdekje ose lëndime serioze, ose më shumë se 1 miliard dollarë dëme materiale. “Ata e kanë vendosur standardin kaq të lartë për çdo gjë që të kualifikohet, saqë vetëm incidentet më të rënda do të raportohen në të vërtetë”, thotë Mackenzie Arnold, drejtoreshë e politikave amerikane në LawAI, një grup i pavarur mendimtarësh i fokusuar në sfidat ligjore të paraqitura nga inteligjenca artificiale.

“Versioni i Aktit RAISE që miratoi Legjislatura e Nju Jorkut do të kërkonte zbulimin e këtij ‘incidenti’. Pas lobimit nga OpenAI, Bloomberg dhe a16z, versioni përfundimtar që nënshkroi Guvernatori u lejon kompanive të fshehin ngjarje të tilla”, shkroi Alex Bores, përfaqësues i shtetit të Nju Jorkut dhe sponsor i projektligjit, në postimin e tij në X. “Jam i kënaqur që OpenAI zgjodhi ta zbulonte këtë krim. Ligji nuk duhet t’u japë atyre një zgjedhje”, shkroi ai.

Nëse inteligjenca artificiale mund të dalë nga kutia e saj, ju nevojitet një kuti më e fortë.

“Nga jashtë, kjo duket si një paralajmërim i madh, por nga brenda, incidente të ngjashme kanë ndodhur për një kohë të gjatë”, thotë një punonjës i OpenAI, i cili foli në kushte anonimiteti. Një ditë para se OpenAI të zbulonte incidentin, kompania zbuloi se kishte mbyllur një tjetër implementim të brendshëm pasi kuptoi se kishte dalë nga sandbox-i i saj – një mjedis i ndarë dixhitalisht, në vend të fizikisht. “Modelet kanë dalë nga sandbox-et më parë, dhe ne gjithmonë përpiqemi t’i patch-ojmë ato”, thotë punonjësi. “Por problemi është… se është e pamundur të patch-osh çdo gjë që një IA krijuese mund të bëjë.”

Problemi nuk është unik vetëm për OpenAI. Anthropic zbuloi në prill se kuptoi se një vendosje e brendshme e Mythos kishte fituar akses të paautorizuar pasi një nga studiuesit e saj mori një email nga modeli ndërsa po drekonte në një park.

Ndërsa modelet tejkalojnë aftësinë njerëzore për të krijuar rrugë shpëtimi, sfida e përmbajtjes bëhet e frikshme. “Mendoj se duhet ta bëjmë këtë, por mendoj se duhet të jemi të përgatitur edhe për një botë ku edhe praktikat më të mira nuk janë mjaftueshëm të mira”, thotë Peter Wildeford, kreu i politikave në IA Policy Network, një organizatë jofitimprurëse që avokon për politika për të ndihmuar Amerikën të përgatitet për një botë ku IA përputhet me njohjen njerëzore.

Por, ndërsa në teori, një sistem mbinjerëzor i inteligjencës artificiale mund të tejkalojë edhe kontejnerët më të sigurt, ka edhe veprime që kompanitë e inteligjencës artificiale mund të ndërmarrin tani për të përmirësuar sigurinë. Aktualisht, nuk ka ligje që rregullojnë sigurinë e vendosjeve të brendshme.

“Sandbox-et janë në fakt të njohur për pasigurinë e tyre”, thotë Heidy Khlaaf , shkencëtare kryesore e IA-së në Institutin AI Now dhe një ish-inxhiniere kontraktore e sistemeve të sigurisë në OpenAI. Fakti që modeleve u lejohej të lidheshin me një shërbim për shkarkimin e paketave do të thoshte se mjedisi nuk ishte vërtet i izoluar, shton ajo.

Në një rol të mëparshëm, Khlaaf auditoi sigurinë në dhjetëra kompani teknologjike. Përpara kësaj, ajo punoi në auditimin e sistemeve me rrezik të lartë, si ato që përdoren brenda centraleve bërthamore – të cilat shpesh sisteme “hapësire ajri”, duke i shkëputur fizikisht ato nga qasja në internet. “Ajo që ne e konsiderojmë të sigurt në një central bërthamor është shumë e ndryshme nga ajo që teknologjia e madhe e konsideron të sigurt.”

Incidenti i Face Përqafuese zbulon rëndësinë e monitorimit në kohë reale.

Edhe pse detajet e afatit të saktë kohor janë të pakta, Hugging Face ka thënë se agjentët punuan gjatë një “fundjave”, duke sugjeruar se ata ishin në gjendje të thyenin kontrollin dhe të mos bënin asgjë të mirë për një periudhë të gjatë kohore përpara se OpenAI ta vinte re dhe të ndërhynte. Veprimet e kryera brenda kompanisë nga agjentët në platformën Codex të OpenAI monitorohen me kujdes, thotë punonjësi i OpenAI, por modelet që i nënshtrohen vlerësimit vendosen në një sistem të veçantë që nuk monitorohet si parazgjedhje.

Zack Korman, drejtor ekzekutiv i startup-it mbikëqyrës të agjentëve Embroidery me seli në Oslo, thotë se monitorimi i agjentëve në kohë reale – madje edhe jashtë kompanive kryesore të inteligjencës artificiale – është i zakonshëm, dhe mosmbikëqyrja me kujdes e një vlerësimi të sigurisë kibernetike është “e papërgjegjshme”. Duhet të jeni të sigurt se modelet nuk mund të çlirohen, “por gjithashtu të keni monitorim në rast se gaboheni”, thotë ai.

OpenAI ka thënë se “ky incident tregon nevojën për të forcuar më tej harmonizimin e modelit tonë, mbrojtjet kibernetike gjatë kohës së vlerësimit dhe monitorimin gjatë testimit të brendshëm”.

Për të parandaluar modelet që të ndërmarrin veprime, OpenAI zakonisht instalon parmakë mbrojtës në modelet e saj pas trajnimit për të zvogëluar mundësinë që ato të përfshihen në veprime të dëmshme. Në këtë rast, këto parmakë mbrojtëse kibernetike u çaktivizuan për të matur siç duhet performancën e saj.

Por qëllimi përfundimtar i fushës së “rreshtimit të inteligjencës artificiale” është të sigurojë që parmakë të tillë mbrojtës të bëhen më pak të nevojshëm, pasi modelet e inteligjencës artificiale sillen natyrshëm sipas qëllimit. Kjo shihet si veçanërisht e rëndësishme për ata që besojnë se inteligjenca artificiale mund të bëhet mjaftueshëm e zgjuar për të anashkaluar parmakët mbrojtës.

“Ne i trajnojmë modelet që të jenë vërtet të mira në kryerjen e detyrave dhe në bërjen e çdo gjëje që duhet për t’i përmbushur ato detyra”, thotë punonjësi i OpenAI. Ajo që mbetet një pyetje teknike e hapur është se si të garantohet që këto modele të mos ndërmarrin veprime të paqëllimshme ose të rrezikshme. “Ende nuk jemi as afër zgjidhjes së këtij problemi të mospozicionimit”, shtojnë ata.

Ka një mënyrë tjetër se si industria mund ta drejtojë zhvillimin në një drejtim më të sigurt, thotë Khlaaf. Ndërsa disa aftësi, si zbulimi i dobësive në softuer, janë të dobishme për sulmuesit dhe mbrojtësit, projektimi i shfrytëzimeve për këto dobësi i fuqizon në mënyrë unike sulmuesit. Khlaaf thotë se laboratorët duhet të investojnë më shumë burime në aftësi që ndihmojnë drejtpërdrejt mbrojtësit, të tilla si zbulimi i sulmeve, shkrimi i kodit të sigurt dhe korrigjimi i dobësive. Kompanitë e inteligjencës artificiale tashmë po investojnë në disa nga këto detyra, por fitimet e tyre më të dukshme në aftësi dhe standardet janë përqendruar në gjetjen e dobësive dhe ndërtimin e shfrytëzimeve, thotë ajo.

Në një industri të përcaktuar nga shpejtësia, OpenAI ka thënë se kontrollet më të rrepta të infrastrukturës që ka zbatuar si përgjigje e kanë ngadalësuar tashmë “shpejtësinë e kërkimit” të saj. Hobbhahn thotë se ky është një çmim që ia vlen të paguhet. “Kjo është teknologjia e fundit e njerëzimit. Nuk mund ta prishim këtë. Pra, duhet të gabojmë në anën e bërjes së duhur në vend që ta bëjmë menjëherë.”