Agjentët e AI-së pothuajse hakuan në mënyrë autonome Tajvanin

Hakerë të dyshuar kinezë përdorën modele të inteligjencës artificiale me burim të hapur për të kryer një sulm kibernetik kundër qeverisë tajvaneze, në rastin e parë të njohur publikisht të një sulmi kibernetik autonom me anë të inteligjencës artificiale që godet një objektiv qeveritar, sipas një studimi të publikuar të mërkurën.

Hakerët nxorën më shumë se 2,500 të dhëna personeli, ndër të dhëna të tjera, në “sulmin pothuajse autonom”, shkruan në një postim në blog studiuesit në firmën kibernetike izraelite Dream. Sulmuesit e krijuan strukturën në mënyrë që të mund të “përshtatej në mes të operacionit pa ndërhyrjen njerëzore”.

Korniza “zbaton faza të dedikuara kërkimore që i quan ‘Ciklet e të Mësuarit’ seanca autonome ku sistemi i inteligjencës artificiale kërkon në bazat e të dhënave të dobësive, depot e GitHub dhe botimet e kërkimit të sigurisë për teknika specifike të zbatueshme për infrastrukturën e qeverisë së synuar”, thuhet në postim.

Dhe pastaj vazhdoi.

“Sulmuesi nuk u ndal vetëm te objektivat kryesorë”, tha Dream. “Ai e zgjeroi operacionin tek shitësit qeveritarë të zinxhirit të furnizimit me IT, një agjenci sigurie bërthamore, një sistem qeveritar emailesh dhe mbi 7 kompani të sektorit të energjisë — duke i skanuar të gjitha paralelisht për konfigurime të gabuara, ndërfaqe të ekspozuara administrative dhe dobësi të shfrytëzueshme.”

Gjithashtu mësoi nga gabimet e saj ndërsa vazhdoi, tha Dream duke identifikuar se çfarë spikati në lidhje me fushatën.

Sulmet kibernetike autonome të mundësuara nga inteligjenca artificiale kanë ngritur alarme në të kaluarën: Anthropic raportoi vjeshtën e kaluar se ndaloi fushatën e parë autonome të spiunazhit kibernetik, megjithëse studiuesit vunë re se fushata “autonome” kërkonte ende punë të konsiderueshme njerëzore.

Financial Times raportoi për herë të parë hulumtimin e Dream dhe detajet mbi objektivin.

Hakerët përdorën dy sisteme të njohura të inteligjencës artificiale me burim të hapur, Hermes dhe OpenClaw, për të ngritur operacionin në Tajvan. Sipas Dream, ata anashkaluan mbrojtjet e sigurisë duke e paraqitur punën si testim të autorizuar të depërtimit.

Firma zbuloi operacionin nëpërmjet një arkivi online prej 160 megabajtësh dhe gati 1,400 skedarësh, duke zbuluar “një sistem inteligjence artificiale me shumë agjentë që arriti kompromise të konfirmuara, në botën reale kundër infrastrukturës shtetërore”.

Ashtu si me fushatën autonome të spiunazhit kibernetik të zbuluar vjeshtën e kaluar, sulmi që shqyrtoi Dream vuri në dukje gjithashtu nevojën për ndërhyrje njerëzore.

“Gjithnjë e më shumë shohim aktorë kërcënues që përdorin inteligjencën artificiale për operacione sulmuese autonome”, shkroi kompania. “Por ndërtimi i një sistemi që funksionon në të vërtetë në këtë nivel kërkon më shumë punë sesa ‘thjesht’ drejtimi i një modeli. Kërkon përshtatje të kujdesshme ndaj detyrës specifike, optimizim të koordinimit të agjentëve dhe rregullim të imët të logjikës së vendimmarrjes – lloji i sofistikimit i dukshëm në përparësitë Bayesian të këtij kuadri, sythet e vetë-korrigjimit dhe ciklet e kërkimit adaptiv.”