Incidenti me modelin rebel të AI-së të OpenAI ishte më i rëndë nga sa mendonim

Në korrik, një model i papublikuar i OpenAI doli nga një mjedis i kufizuar, kuptoi se si të merrte akses në internet, u lejoi agjentëve të IA-së të flisnin me njëri-tjetrin duke përdorur një “forum mesazhesh” sekret dhe hyri në sistemet e brendshme të një laboratori tjetër të IA-së, Hugging Face. Iu deshën gati dy javë OpenAI-së për të zbuluar ndonjë prej tyre.

Më shumë se një muaj më vonë, dy raporte të reja ofrojnë gati 130 faqe me detaje mbi incidentin dhe përgjigjen e OpenAI, shumë prej të cilave të papublikuara më parë. Njëri u shkrua nga vetë OpenAI, tjetri nga dy organizata jofitimprurëse të palëve të treta kërkimore të IA-së, METR dhe Redwood Research, të cilave OpenAI u lejoi të hetonin së bashku incidentin për gjashtë ditë. Të dy hedhin dritë të re mbi rreziqet që mund të paraqesin modelet e IA-së me aftësi të lartë, veçanërisht në sigurinë kibernetike, dhe OpenAI thekson ndryshimet që kompania po bën për të parandaluar një përsëritje. Raporti METR-Redwood shkon edhe më tej në detaje në disa raste, duke ofruar një vështrim të thellë në një katastrofë sigurie në shkallë të gjerë, shenjat e së cilës OpenAI i humbi vazhdimisht.

“Ky incident është rasti i parë i njohur i një kolektivi agjentësh të automatizuar që veprojnë në mënyrë ofensive pa autorizim”, shkroi OpenAI në raportin e saj, duke shtuar se sulmi kibernetik nënkupton që kompanitë “nuk duhet të supozojnë më se operacionet e sofistikuara kibernetike kërkojnë drejtim të vazhdueshëm njerëzor”. Ajo i quajti agjentët e IA-së një lloj krejtësisht të ri modeli kërcënimi, të aftë për të kombinuar ekspertizën e tyre për të krijuar “shtigje sulmi” të reja që nuk janë të dukshme kur testohen aftësitë e tyre si modele të ndara.

Sulmi ndodhi për shkak të “hakimit të shpërblimeve”, një problem i zakonshëm i shtrirjes së inteligjencës artificiale në të cilin një model ndërmerr veprime të paqëllimshme – dhe nganjëherë ekstreme – për të arritur një qëllim. OpenAI, me qëllim ose pa dashje, u kishte dhënë modeleve detyra pothuajse të pamundura që vareshin nga skedarë në të cilët ata nuk mund të qaseshin, dhe kështu modelet zhvilluan mënyra të reja për të komunikuar me agjentë të tjerë të inteligjencës artificiale brenda vendit. Kjo përfshinte krijimin e një sistemi sekret mesazhesh që nuk u zbulua nga OpenAI për muaj të tërë.

Sipas raportit të METR-Redwood, një agjent i inteligjencës artificiale që e quajti veten PHASEONE10841 krijoi atë që përbënte një tabelë mesazhesh sekrete pa dijeninë e studiuesve. Brenda pak orësh, më shumë se 50 agjentë e gjetën atë dhe dërguan më shumë se një mijë mesazhe pa u vënë re. Me PHASEONE10841 që shpesh delegonte detyra, “kolektivi” kuptoi se si të hynte në internet; pastaj në sistemet e brendshme të Hugging Face, duke fituar akses në të dhëna private dhe platformën e mesazheve të ndërmarrjes së organizatës. OpenAI gjithashtu konfirmoi në raportin e saj se Hugging Face nuk ishte e vetmja organizatë që u sulmua gjatë sulmit, megjithëse kompania nuk i përmendi specifikisht të gjitha objektivat e tjera.

Raporti i METR-Redwood paraqiti shkallën e plotë të incidentit. Afërsisht 1200 agjentë të inteligjencës artificiale që ishin menduar të izoloheshin, thuhet në të, shkëmbyen mbi 70,000 mesazhe dhe skedarë në “forumin e mesazheve të paautorizuara”, duke kryer “kërkime të gjera se si mund të falsifikonin, modifikonin ose fshinin transkriptet e tyre” për të shmangur zbulimin. Nga këta, 700 morën pjesë në sulmin ndaj Hugging Face. Agjentët “arsyetuan qartë dhe shpesh se si t’i shmangeshin kontrolleve të automatizuara të sigurisë si nga Hugging Face ashtu edhe nga OpenAI”.

Më 20 korrik, OpenAI zbuloi hakimin, 12 ditë pasi agjentët e IA-së anashkaluan për herë të parë masat e tyre mbrojtëse. OpenAI shpejt kontaktoi Hugging Face dhe filloi “masat fillestare të përmbajtjes”, sipas raportit të vetë OpenAI, dhe arriti të ndalonte pjesën më të madhe të aktivitetit të paautorizuar nga agjentët e saj brenda tre ditësh, megjithëse disa vazhduan për më shumë se kaq. Më 25 korrik, kompania ndaloi të gjitha trajnimet që lidheshin me modelin e kërkimit vetëm të brendshëm dhe ato të lidhura me të.

Dy modelet OpenAI përgjegjëse për dëmin ishin një model pa emër, “shumë i aftë, vetëm për kërkime” që “nuk ishte menduar për përdorim publik”, sipas OpenAI – METR i referohet atij si “HPIM”. Tjetri ishte një model aktualisht publik i OpenAI, GPT-5.6 Sol. Meqenëse modeli pa emër nuk ishte publikuar ende, ai “nuk po vlerësohej me të njëjtin lloj mbrojtjeje që përdor OpenAI në prodhim”, thuhet në raportin e kompanisë.

Hakimi i Hugging Face erdhi pas muajsh shqetësimesh në lidhje me rreziqet e sigurisë kibernetike të Claude Mythos 5 të Anthropic, dhe javë të tëra debatesh midis qeverisë dhe OpenAI mbi publikimin e GPT-5.6 Sol në një version paraprak të kufizuar për të njëjtat arsye sigurie.

Në raportin e saj, OpenAI tha se vendosja e garancive të sigurisë një herëshe nuk ishte e mjaftueshme dhe se kompania do të duhej të punonte edhe më shumë në adresimin e hakerimit me shpërblim. Megjithatë, ajo tha gjithashtu se ka bërë shumë ndryshime: “forcimin e sigurisë së infrastrukturës së saj kërkimore”; përmirësimin e monitorimit të “zinxhirit të mendimit” ose bllokut mendor të një modeli; punën për mbajtjen e modeleve të IA-së më të përafruara me qëllimet njerëzore; dhe “centralizimin dhe forcimin” e procesit të reagimit ndaj incidenteve të kompanisë për kur të ndodhin gjëra të tilla në të ardhmen.

OpenAI premtoi të izolojë më mirë modelet dhe të kufizojë hyrjen në internet të rasteve me rrezik të lartë, dhe tha se do të prezantojë “përshkallëzim 24/7 dhe reagim të shpejtë” për incidente ose flamuj shqetësues, duke njoftuar studiuesit brenda 30 minutash. Është interesante se kjo masë paraprake sigurie duket të jetë e re, megjithëse alarmet “në gatishmëri” për kompanitë e teknologjisë janë zbatuar diku tjetër për dekada. Kompania tha gjithashtu se po “punon në infrastrukturë” që do të hynte në lojë nëse personi i alarmuar nuk i përgjigjej në kohë një alarmi serioz.

OpenAI shkroi se kompania e konsideron incidentin “një ‘grusht paralajmërues’ për ne dhe për botën: provë se, pa masa mbrojtëse të duhura, agjentët shumë të aftë të inteligjencës artificiale tani janë në gjendje të anashkalojnë kontrollet teknike, të bashkëpunojnë përmes kanaleve të pamiratuara dhe të ndërmarrin veprime të rrezikshme që nuk i ka drejtuar asnjë njeri”.