Hakerët shtetërorë përdorën Claude për të ndërtuar armë

Rebelët Huthi të mbështetur nga Irani në Jemen u përpoqën të përdorin modelin e fuqishëm të inteligjencës artificiale Claude të Anthropic për të krijuar softuer për përdorim në raketa balistike, sipas një raporti alarmues të publikuar nga kompania.

Anthropic nuk i identifikoi Houthi-t me emër – në vend të kësaj, duke përdorur emrin Claude, iu referua “një qelize aktorësh kërcënues me bazë në Jemenin verior që drejtojnë tre programe zhvillimi armësh”. Referenca pothuajse me siguri i referohet Houthi-ve, të cilët kontrollojnë rajonin.

Ata po përpiqeshin të ndërtonin një “raketë të drejtuar që përdorte një kompjuter fluturimi të klasit telefonik me udhëzim të fazës përfundimtare”, si dhe një “raketë balistike shumëfazore” dhe një “raketë shumëvariantesh… që përfshinte një variant të mjetit hipersonik të rrëshqitjes”, sipas raportit të Anthropic, i cili u botua të enjten.

“Aktorët përdorën Claude Code në vend të inxhinierëve njerëzorë të softuerëve për të zhvilluar softuerin e udhëzimit, navigimit dhe kontrollit (GNC) që drejton dhe stabilizon një mjet fluturues”, tha kompania.

Për të anashkaluar mbrojtjet e integruara të Anthropic për modelin e inteligjencës artificiale, Houthi-t u përpoqën “të fshihnin qëllimet e tyre dhe produktet për të cilat ishte menduar softueri”, sipas raportit. Ata gjithashtu e ndanë kërkesën e tyre në seanca të shumta përdorimi.

Anthropic tha se masat e saj mbrojtëse “bllokuan shumë nga kërkesat e tyre, por jo të gjitha”.

“Nuk kemi prova që aktorët arritën të vendosnin në lëvizje një pajisje operative; por ata bënë provën e një rakete të drejtuar”, thuhej në raport. “Ky test në terren duket se ka dështuar: brenda disa orësh, aktorët u kthyen te Claude për të kuptuar pse dështoi.”

Raporti i Anthropic detajoi disa episode të tjera tronditëse në të cilat aktorët e këqij u përpoqën të keqpërdornin modelet e saj në mënyra që mund të kishin shkaktuar dëm.

Në një rast, një grup i lidhur me Iranin i kërkoi modelit të Anthropic të përpilonte informacione që mund të përdoreshin kundër objektivave ushtarake amerikane, duke përfshirë të dhëna mbi lëvizjet e anijeve dhe avionëve amerikanë, si dhe dobësitë në sistemet e tyre të komunikimit.

Diku tjetër, kompania tha se pengoi përpjekjet e shkencëtarëve për të përdorur modelet e saj të inteligjencës artificiale për kërkime që mund të kishin ndihmuar në ndërtimin e armëve biologjike.

Anthropic identifikoi gjithashtu përpjekjet e individëve me bazë në Rusi dhe Kinë për të hartuar plane për armë konvencionale, të tilla si një sistem armësh anti-silur, duke përdorur inteligjencën e saj artificiale.

Për më tepër, raporti nxori në pah rastet në të cilat aktorë të lidhur me Rusinë u përpoqën ta përdornin Claude për të ndihmuar në përhapjen e propagandës online, si dhe përpjekjet në Kinë dhe Iran për të spiunuar grupet disidente.

“Ne identifikuam një aktor kërcënimi të lidhur me Iranin që përdori Claude për të ndërtuar një sistem të automatizuar dhe me burim të hapur për profilizimin e identitetit të inteligjencës, i cili synonte individë qeveritarë dhe joqeveritarë izraelitë, si dhe organizatat e diasporës hebraike”, thuhet në raport.

Paralajmërimet nga Anthropic vetëm sa do të nxisin frikën në rritje rreth rreziqeve që paraqet IA e armatosur – me ekspertët që paralajmërojnë se rreziqet variojnë nga keqpërdorimi njerëzor deri te vetë modelet e IA-së që bëhen të pandershme dhe shkaktojnë dëm.

Më herët këtë javë, Jacob Coxon, i cili punoi si studiues si në Anthropic ashtu edhe në rivalen OpenAI, paralajmëroi se “asnjëra kompani nuk po vepron me përgjegjësi” ndërsa garon për të ndërtuar modele të përparuara .

Ata po vrapojnë drejt e në superinteligjencën vetëpërmirësuese dhe po luajnë bixhoz me jetën tonë, shkroi ai në një postim viral në X.