Mythos i Anthropic zbuloi të meta në sistemet e klasifikuara të SHBA-së gjatë një testi qeveritar

Një nga modelet e inteligjencës artificiale të Anthropic identifikoi dobësi në sistemet kompjuterike shumë të ndjeshme dhe të klasifikuara të qeverisë amerikane gjatë një ushtrimi testimi, tha një zyrtar amerikan për Associated Press.

Modeli në fjalë ishte Mythos, sistemi më i aftë i Anthropic, dhe i nxori në pah të metat brenda pak orësh. Çështja kryesore është se gjetja e një dobësie brenda pak orësh nuk është e njëjtë me shfrytëzimin e saj brenda pak orësh, dhe zyrtari nuk tha se modeli e bëri këtë të fundit.

Korniza ka rëndësi sepse një version më dramatik ka qarkulluar më shpejt se faktet. Testimi ishte një ushtrim i ekipit të kuq, një organizatë që hetonte mbrojtjet e veta, në të cilën agjencitë e inteligjencës e vunë Mythos në mjediset e tyre të klasifikuara për të parë se çfarë do të gjente.

Nuk ishte një ndërhyrje nga jashtë dhe nuk ka pretendim se ndonjë sistem i vërtetë është kompromentuar. AP-ja ia atribuon këtë zbulim një zyrtari të vetëm të paidentifikuar.

Ushtrimi ndodhet brenda Projektit Glasswing, skemës së aksesit të kontrolluar përmes së cilës Anthropic ua ka dhënë Mythos një grupi organizatash të verifikuara në vend që ta publikojë atë publikisht.

Modeli u ndërtua për të gjetur dhe, në testime, për të shfrytëzuar dobësitë e softuerit, dhe e ka bërë këtë në një shkallë që i ka shqetësuar njerëzit që e panë.

Në vlerësimet e mëparshme, u zbuluan mijëra të meta zero-day në sistemet kryesore operative dhe shfletuesit, duke përfshirë një gabim 27-vjeçar në OpenBSD.

Pretendimi për sistemet e klasifikuara u bë publik nëpërmjet një seance dëgjimore në Senat. Më 11 qershor, senatori Mark Warner, nënkryetar i Komitetit të Inteligjencës së Senatit, tha se gjenerali Joshua Rudd, i cili drejton NSA-në dhe Komandën Kibernetike, i kishte thënë se Mythos “hyri në pothuajse të gjitha sistemet tona të klasifikuara, jo brenda javësh, por brenda orësh”.

Pavarësisht nëse është apo jo i vërtetë rrëfimi më i gjallë, aftësia themelore nuk vihet në dyshim. Instituti i Sigurisë së Inteligjencës Artificiale i Mbretërisë së Bashkuar e vlerësoi Mythos si dukshëm më të aftë në sulmet kibernetike sesa çdo model që kishte testuar më parë.

Ajo që kontestohet është mënyra e leximit të një rezultati të ekipit të kuq kundër rrjeteve të klasifikuara, një demonstrim shqetësues i shpejtësisë, jo provë e një shkeljeje të vërtetë të pësuar.

Episodi përfshihet në një ngatërresë që qeveria amerikane nuk e ka zgjidhur ende. NSA është autorizuar të vazhdojë të përdorë Mythos në rrjetet e klasifikuara, dhe pjesë të komunitetit të inteligjencës dhe Agjencisë së Sigurisë Kibernetike dhe Infrastrukturës e kanë testuar atë.

Në të njëjtën kohë, administrata e detyroi Anthropic të çaktivizonte Mythos dhe vëllain e tij publik Fable 5 në të gjithë botën më 12 qershor, pas një mosmarrëveshjeje të veçantë mbi një raport të jailbreak, një urdhër që tani po kundërshtohet në gjykatë.

E njëjta qeveri që varet nga modeli e ka kufizuar atë gjithashtu, ka kundërshtuar zgjerimin e tij dhe më parë e ka quajtur prodhuesin e tij një rrezik për sigurinë kombëtare të zinxhirit të furnizimit.

Kjo kontradiktë është vija e përgjithshme e tre muajve të fundit. Mythos i Anthropic ka lëvizur midis qeverive më shpejt sesa secila prej tyre mund të vendosë se për çfarë shërben: i përdorur nga NSA, i joshur nga Thesari, i kundërshtuar nga pjesë të Shtëpisë së Bardhë dhe i luftuar nga Pentagoni.

Warner, nga ana e tij, përmendi testimin jo për të dënuar Anthropic, por për të argumentuar për vlerësimin e detyrueshëm para publikimit të modeleve të nivelit të lartë, i cili është një pikë e ndryshme nga ajo që u bë virale.

Anthropic nuk ka zbuluar se çfarë ka gjetur testi dhe agjencitë e përfshira kanë thënë pak në publik. Kompania ka përfunduar trajnimin e një pasardhësi të Mythos, një shenjë se aftësia po përparon pavarësisht se si do të vendosen ngjarjet politike.

Për momentin, bërthama e verifikueshme është e ngushtë dhe përfundimet rreth saj janë të gjera: një model i fuqishëm, i drejtuar drejt objektivave të vështirë në një mjedis të kontrolluar, gjeti shpejt dobësitë.

Ajo që do të thotë kjo për të gjithë ata që nuk drejtojnë një stërvitje me ekipin e kuq është pjesa për të cilën ende debatohet.