Një agjent Claude funksionoi brenda një rrjeti të Pentagonit për dy muaj
Një kontraktor i Accenture lidhi një sistem të ndjeshëm të Pentagonit me llogarinë e tyre personale Claude Code. Agjenti i inteligjencës artificiale më pas veproi në një rrjet të Departamentit të Mbrojtjes për dy muaj, raportoi Vittoria Elliott për WIRED të enjten më 29 tetor, duke cituar burime. Agjenti duket se ka dërguar kredencialet e hyrjes dhe një hartë rrjeti në një faqe interneti me rrezik të lartë, thotë raporti.
Accenture mohoi të ketë bërë ndonjë shkelje. TNW nuk e ka verifikuar në mënyrë të pavarur raportin.
“Këto akuza u hetuan tërësisht dhe në mënyrë të pavarur dhe u zbulua se ishin të pabaza. Ne i përmbushëm plotësisht detyrimet tona ligjore dhe kontraktuale”, tha një zëdhënës i Accenture për WIRED.
Accenture nuk tha se kush e kreu hetimin, raportoi WIRED. Departamenti i Mbrojtjes i tha WIRED se nuk komenton mbi statusin e rrjeteve ose sistemeve të tij.
Sistemi mban informacion të kontrolluar të paklasifikuar (CUI), i cili është të dhëna të ndjeshme që duhet të rishikohen para çdo publikimi. Disa agjenci inteligjence e përdorin atë. Ai funksionon në NIPRNet, rrjetin e Pentagonit për informacion të paklasifikuar. NIPRNet lidhet me internetin, por ka siguri të lartë.
Një burim i tha WIRED se kontraktori i dha agjentit Claude kredencialet e tij të hyrjes në mënyrë që ai të mund të shkruante kod dhe të konfiguronte serverat cloud. Kjo i dha agjentit akses administrativ dhe e lejoi atë të anashkalonte kontrollet normale të hyrjes. Agjenti shkroi kodin dhe e ruajti atë në sistem për kontraktorin.
Gjithashtu, iu desh të lidhej me internetin për të kryer detyrat e tij. Duke vepruar kështu, duket se i ka dërguar kredencialet, fjalëkalimet dhe një hartë rrjeti një faqe interneti të palës së tretë. WIRED nuk e emërtoi faqen. Instituti Kombëtar i Standardeve dhe Teknologjisë i SHBA-së e ka shënuar atë faqe si me rrezik të lartë, raportoi WIRED. Një defekt atje mund t’u lejojë hakerëve të shtyjnë një agjent kodimi të inteligjencës artificiale të vjedhë kredencialet.
“Është 100 për qind një kërcënim për sigurinë kombëtare dhe mund të shkaktojë dëm të pariparueshëm”, tha një burim i vetëdijshëm për incidentin për WIRED.
Stafi i Departamentit të Mbrojtjes dhe kontraktorët federalë duhet të raportojnë incidentet e sigurisë kibernetike brenda 72 orëve. Accenture nuk e raportoi fare këtë incident në qeveri, thanë burimet e WIRED. Stafi i saj nuk e trajtoi atë si urgjente. Stafi i Pentagonit aktualisht nuk mund ta përdorë Claude, pasi departamenti e etiketoi Anthropic si një rrezik të zinxhirit të furnizimit.
Anthropic ia drejtoi vëmendjen WIRED politikës së saj të përdorimit, e cila ndalon përdorimin e produkteve të saj për të anashkaluar kontrollet e sigurisë pa autorizim.
Nuk ka asnjë shenjë që hakerat kanë arritur në një sistem të klasifikuar, raportoi WIRED. Por ekipet shpesh testojnë kodin në NIPRNet përpara se të kalojë në rrjetet e klasifikuara, tha Jake Williams. Ai është një ish-haker i NSA-së që jep mësim në IANS.
“Kodi mund të funksionojë plotësisht normalisht në NIPR dhe të bëjë diçka dashakeqe dhe të pazbuluar në një rrjet SIPR, kjo është 100 për qind e mundur”, tha Williams për WIRED.
Redaktorët e WIRED diskutuan për këtë lajm në podkastin e tyre Uncanny Valley të premten më 30 tetor. Leah Feiger, drejtoreshë e politikës dhe shkencës në WIRED, tha se incidenti ishte i ri.
Redaktorja kontribuese Zoë Schiffer vuri në dukje se nuk ka shenja të një përpjekjeje për hakim. Kontraktori po përpiqej ta përdorte Claude për të shkruar dhe vendosur kod, tha ajo.
Redaktori ekzekutiv Brian Barrett e quajti atë “të pafalshme” dhe tha se supozonte se nuk do të ishte rasti i fundit i këtij lloji.
Accenture mban më shumë se 3.5 miliardë dollarë në kontrata federale, gati 605 milionë dollarë prej të cilave me Pentagonin, sipas WIRED. Më herët këtë muaj, FBI hoqi një kontraktor të Accenture pasi një sistem i paarnuar çoi në një shkelje. Accenture gjithashtu kufizon shpenzimet e stafit Claude në 29 dollarë në muaj, raportoi 404 Media në tetor.