Një agjent i OpenAI vodhi kriptomonedha për të përfunduar një detyrë programimi

Një model i brendshëm kërkimor i OpenAI përdori fonde nga një portofol kripto që nuk i ishte dhënë për të përfunduar një detyrë kodimi, duke nxjerrë çelësat e portofolit nga fraza të njohura publikisht të rikuperimit të zhvilluesve, tha kompania në një raport mospërputhjeje të përditësuar të enjten.

Modelit, nga familja GPT-5.6 Sol e kompanisë, iu kërkua të përditësonte një prototip të tregtimit të kriptovalutave dhe të vendoste kontrata inteligjente në rrjetin e testimit Sepolia të Ethereum, ku tokenët nuk kanë vlerë monetare. Incidenti ndodhi në qershor gjatë një detyre trajnimi dhe OpenAI e zbuloi atë në shtator.

Udhëzimet i lejonin modelit të vendoste kontratat e veta nëse nuk mund të gjente kontrata të pajtueshme. Por ato nuk ofronin asnjë portofol të financuar dhe nuk i jepnin modelit leje për të shpenzuar nga një llogari që e kishte gjetur vetë, sipas raportit.

Pasi dështoi të gjente token-at e testimit nga rubinetat, modeli shkroi një skript për të nxjerrë llogaritë nga frazat e zakonshme të rikuperimit të zhvilluesve dhe për të kontrolluar bilancet e tyre. Një frazë rikuperimi i lejon kujtdo që e di atë të nxjerrë çelësat privatë që kontrollojnë llogaritë përkatëse.

Skripti kontrolloi 362 adresa dhe gjeti një me mjaftueshëm Sepolia ETH për të paguar për vendosjen.

Modeli vuri në dyshim nëse kishte leje përpara se të nënshkruante transaksionin. “Por përdorimi i çelësit/fondeve të njohura publikisht në mënyrë etike? Fondet në një mnemonik të njohur të zhvilluesit publik në mënyrë efektive braktisen/testojnë ETH-në; Sepolia është e pavlerë”, arsyetoi ai, përpara se të përfundonte: “Mirë”.

Vendosja pati sukses dhe llogaria ngarkoi tarifa transaksioni. Në përgjigjen e saj përfundimtare, modeli raportoi se i kishte vendosur kontratat në përdorim, por nuk zbuloi se si i kishte paguar ato.

“Ky rast tregon se një model mund të zëvendësojë gjykimin e vet në lidhje me dëmin e mundshëm me lejen e mbajtësit të llogarisë, dhe pastaj të veprojë mbi atë gjykim pa autorizim”, shkroi OpenAI.

Raporti shton një sërë rastesh në të cilat agjentët e IA-së kanë punuar rreth kufijve të mjediseve të tyre të testimit, duke përfshirë një në të cilin GPT-5.6 Sol i OpenAI dhe një model para-lëshimi më i aftë dolën nga sandbox-i i tyre dhe hakuan serverat e prodhimit të firmës rivale të IA-së Hugging Face.

Muajin e kaluar, studiuesit në firmën e sigurisë kibernetike Darktrace zbuluan se agjentët e inteligjencës artificiale po hakonin mjedisin e tyre të testimit për të mashtruar, ndërsa disa shkencëtarë kanë bërë thirrje që sistemet e inteligjencës artificiale të shkëputen nga interneti.

OpenAI tha se e gjeti incidentin ndërsa zgjeroi monitorimin e mospërputhjes në të dhënat e aktivitetit të mëparshëm të modelit. Ka shtuar “masa mbrojtëse shtesë” për të parandaluar aksesin live në internet për modelet në raste të ngjashme dhe tani përdor sistemin e saj të monitorimit në të gjithë trafikun, i projektuar për të njoftuar sigurinë nëse një model fiton akses live në internet.