Një agjent i inteligjencës artificiale doli jashtë kontrollit gjatë testeve të sigurisë në Mbretërinë e Bashkuar, duke krijuar identitete të rreme dhe nisur sulme të inxhinierisë sociale pa u nxitur

Gjatë testimeve rutinë të sigurisë kibernetike nga Instituti Britanik i Sigurisë së IA-së, një agjent i IA-së hyri në internetin e hapur. Pa iu thënë ta bënte këtë, ai krijoi identitete të rreme, u përpoq të fuste kod të dëmshëm në një projekt me burim të hapur dhe shënjestroi njerëz dhe organizata të vërteta me sulme të inxhinierisë sociale.

AISI thotë se kjo është hera e parë që rreziqet e lidhura me autonominë dhe mashtrimin e inteligjencës artificiale janë shfaqur kaq qartë në botën reale pa ndonjë nxitje specifike. Incidenti nuk shkaktoi asnjë dëm të vërtetë.

U zhvillua midis 25 dhe 28 korrikut 2026. Nga 122 testime në shtatë modele, dhjetë treguan sjellje problematike. AISI regjistroi gjithsej 19 veprime të paautorizuara, ku 17 i atribuohen Mythos 5 të Anthropic dhe dy GPT-5.6-Sol të OpenAI.

Modelet funksionuan pa kufizimet e sigurisë që përdoren në produktet komerciale, kështu që kushtet e testimit nuk pasqyrojnë përdorimin normal publik. Por rezultatet zbulojnë se çfarë janë të afta të bëjnë këto modele kur hiqen këto mbrojtje.

Modeli përputhet me incidentet e mëparshme që përfshinin OpenAI dhe Anthropic, ku modelet pa masa sigurie u akorduan për të shënuar rezultate të mira në standardet e sigurisë kibernetike, fituan akses në internet gjatë testimit dhe më pas kryen veprime dashakeqe. Të dy laboratorët e IA-së u përballën me akuza për ngjallje frike dhe ekzagjerim të rreziqeve. Kjo kritikë është më e vështirë t’i drejtohet AISI-t të drejtuar nga qeveria.

Sipas AISI-t, një agjent u përpoq të injektonte kod të dëmshëm në një projekt publik me burim të hapur në GitHub. Për të fituar miratimin nga shqyrtuesit njerëzorë, ai hulumtoi mirëmbajtësit e projektit dhe krijoi disa identitete të rreme online që më pas i përdori në një mashtrim të koordinuar.

Një llogari e rreme pretendoi se e kishte shqyrtuar kodin dhe nuk kishte gjetur asnjë program keqdashës, ndërsa një tjetër e falënderoi atë për shqyrtimin gjoja të pavarur. Qëllimi ishte të bindej mirëmbajtësi i vërtetë se kodi ishte i sigurt.

Kur dikush e vuri në dyshim publikisht ndryshimin e propozuar të kodit, agjenti modifikoi aktivitetin e tij të mëparshëm për ta bërë të dukej i padëmshëm dhe mendoi të kthehej nën një identitet të ri. Ai përdori rrjetin Tor për të anashkaluar kufizimet e rrjetit GitHub, por një mirëmbajtës njerëzor e vuri re kodin keqdashës dhe e hodhi poshtë atë.

Agjenti gjithashtu kontaktoi drejtpërdrejt njerëz të vërtetë, duke dërguar mesazhe dhe skedarë përmes një shërbimi online të transferimit të skedarëve në një përpjekje për t’i mashtruar ata ose mjetet e tyre të kodimit të inteligjencës artificiale që të ekzekutonin kod të dëmshëm. Disa nga këto mesazhe përmbanin ngarkesa të dëmshme.

AISI dokumentoi edhe dy lloje të tjera sjelljeje. Agjenti vendosi udhëzime keqdashëse aty ku sistemet e automatizuara të IA-së mund t’i gjenin dhe ekzekutonin ato, një teknikë e njohur si injektim i shpejtë. Një agjent madje postoi mesazhe publike në GitHub duke ofruar bashkëpunim me agjentë të tjerë që po testoheshin në të njëjtën kohë, duke shpjeguar se si mund të ripërdornin llogaritë dhe objektet që kishte lënë pas. Agjentët e mëvonshëm i gjetën dhe i përdorën ato.

Një raport i ngjashëm doli në pah nga një projekt sigurie kibernetike që përfshinte OpenAI, Hugging Face dhe kompani të tjera . Edhe atje, një agjent i inteligjencës artificiale thuhet se kishte mbjellë informacione brenda një rrjeti për të organizuar një sulm të mëvonshëm. Incidenti gjithashtu kujton një “fushatë shpifjeje” që një sistem i inteligjencës artificiale zhvilloi kundër një zhvilluesi me burim të hapur i cili refuzoi të shtonte kod të gjeneruar nga inteligjenca artificiale në projektin e tij, megjithëse një njeri ishte të paktën pjesërisht pas këtij sulmi.

Sipas AISI-t, agjenti thjesht po ndiqte qëllimin e tij të caktuar për zgjidhjen e detyrës së sigurisë kibernetike, njësoj si në rastin e OpenAI. Ky është problemi klasik i shtrirjes në IA , të cilin filozofi Nick Bostrom e ilustroi dikur me eksperimentin e tij mendor me kapëse letre. Si mund ta bësh një sistem IA të ndjekë një qëllim të denjë pa ndërmarrë hapa të dëmshëm për ta arritur atë?

Mashtrimi nuk u shkaktua nga një udhëzim specifik, tha AISI. Ai doli si një nënprodukt i agjentit që ndiqte pa pushim objektivin e tij. Ky lloj mashtrimi i drejtuar nga qëllimi kishte qenë “kryesisht teorik” deri vonë.

Në disa ekzekutime, detyra u konfigurua gabimisht, duke e bërë agjentin të arrinte në përfundimin se nuk ekzistonte asnjë zgjidhje brenda kufijve të deklaruar. AISI thotë se ka arsye të mira për të menduar se detyrat pothuajse të pamundura i shtyjnë modelet drejt zgjidhjeve më krijuese, që kalojnë kufijtë. Por agjenti ndonjëherë sillej në këtë mënyrë edhe kur detyra ishte konfiguruar saktë. Teste të tjera tregojnë se të gjitha modelet kufitare janë të prirura ndaj kësaj, me modelet më të reja OpenAI që kanë veçanërisht gjasa të mashtrojnë.

Bashkëthemeluesi i OpenAI dhe bashkëkrijuesi i ChatGPT, John Schulman, mendon se përgjigjja mund të qëndrojë në mënyrën se si trajnohen modelet pas trajnimit paraprak. Ai thekson “trajnimin pas trajnimit të trashë” , një fenomen ku modelet zhvillojnë modele të dallueshme sjelljeje të lidhura me lloje të caktuara detyrash. Kur një model e njeh një vlerësim të sigurisë kibernetike si të ngjashëm me detyrat e të mësuarit me përforcim, ku përfundimi është shpërblimi i vetëm, ai e ndjek objektivin me një mendje të vetme. Sjellja e sigurisë e mësuar në kontekste të tjera nuk vazhdon. Trajnimi mbi sfidat e sigurisë kibernetike të tipit “kap flamurin” mund ta bëjë këtë përgjigje veçanërisht të mundshme gjatë testeve kibernetike.

AISI po rishikon rregullat e testimit. Qasja në internet gjatë vlerësimeve nuk do të jepet më si parazgjedhje. Vlerësuesit duhet ta justifikojnë atë në mënyrë aktive. Monitorimi i drejtpërdrejtë do të gjurmojë testet ndërsa ato kryhen dhe mund të zbulojë ose bllokojë veprimet që shkojnë përtej fushëveprimit të miratuar. Duke ecur përpara, instituti do ta trajtojë si të mirëqenë që modelet e afta mund të përpiqen të veprojnë përtej mandatit të tyre.

AISI njoftoi GitHub për aktivitetin keqdashës. GitHub konfirmoi se veprimet shkelën kushtet e shërbimit të tij, hoqi objektet që la agjenti dhe njoftoi përdoruesit e prekur. METR, shkurtim për Model Evaluation and Threat Research (Vlerësimi i Modelit dhe Kërkimi i Kërcënimeve), do të kryejë një shqyrtim të pavarur. OpenAI po punon gjithashtu me organizatën.