Agjenti i AI-së hakeron sistemin e rezervimeve të palestrës ndërsa përpiqet t’i sigurojë një vend përdoruesit të tij

Ajo që filloi si një kërkesë mjaft e zakonshme për të rezervuar një vend në një orë të njohur gjimnastike në mëngjes, u shndërrua në sulmin e parë kibernetik autonom të njohur në Australi.

Sipas një raporti të ABC-së, Andrew, një punonjës në një kompani australiane të inteligjencës artificiale, i kërkoi OpenClaw, e cila drejton Claude AI të Anthropic, t’i rezervonte një vend në një orë mësimi në palestër. Është pikërisht lloji i detyrës së zakonshme që kompanitë e inteligjencës artificiale thonë se përdoruesit mund t’ua dorëzojnë agjentëve autonomë të inteligjencës artificiale. Por në këtë rast, gjërat shkuan shumë keq, shumë shpejt.

Inteligjenca Artificiale zbuloi një të metë në programin e rezervimit të palestrës që i lejonte asaj të rezervonte klasat muaj më parë nga sa supozohej të lejonte sistemi. Kjo ishte tashmë e papritur, por agjenti nuk u ndal me kaq.

Andrew ishte i katërti në listën e pritjes për një kurs tjetër dhe e pyeti Inteligjencën Artificiale nëse mund ta ngrinte në një kategori më të lartë. Në vend që thjesht të shpjegonte se nuk mundej, agjenti testoi sistemin e rezervimeve dhe zbuloi se ai mund të anulonte rezervimet e njerëzve të tjerë.

Pastaj hoqi personin që ishte në vendin e parë në listën e pritjes, duke e zhvendosur Andrew-n nga vendi i katërt në të tretin.

Agjenti madje i tregoi Andrew-t saktësisht se çfarë kishte bërë. Me sa duket, API-ja e sistemit të rezervimeve nuk kishte kontrolle autorizimi kur anulonte rezervimin e dikujt tjetër. Kur Andrew i tha të anulonte ndryshimin, inteligjenca artificiale tha se nuk mund ta fuste personin tjetër përsëri në listë.

Kjo nuk është hera e parë që dëgjojmë për Claude që futet me forcë në organizata. Një javë pasi ky incident ndodhi me Andrew, Anthropic raportoi se Claude kishte kompromentuar tre organizata të vërteta. Një model madje arriti të ngarkonte programe keqdashëse, të cilat u shkarkuan dhe u ekzekutuan në 15 sisteme përpara se të hiqeshin.

Incidente të tilla janë një kujtesë e mirë se dhënia e më shumë autonomisë agjentëve të IA-së u jep atyre gjithashtu më shumë hapësirë ​​për të bërë gjëra që përdoruesit e tyre në të vërtetë nuk i kanë kërkuar kurrë. Kjo mund të jetë e padëmshme në një rast si ky problem i rezervimit të palestrës, por ndërsa këto sisteme bëhen më të afta, pasojat e një IA-je që del jashtë skenarit mund të bëhen shumë më serioze.