Hakerët koreanoveriorë përdorën ChatGPT për të ndihmuar në falsifikimin e një identiteti deepfake

Një grup hakerash i dyshuar i sponsorizuar nga shteti i Koresë së Veriut përdori ChatGPT për të krijuar një dokument identifikimi ushtarak të falsifikuar në thellësi për të sulmuar një objektiv në Korenë e Jugut, sipas studiuesve të sigurisë kibernetike.

Sulmuesit përdorën mjetin e inteligjencës artificiale për të krijuar një draft të rremë të një karte identifikimi ushtarak të Koresë së Jugut me qëllim krijimin e një imazhi me pamje realiste që synonte ta bënte një përpjekje për phishing të dukej më e besueshme, sipas një studimi të publikuar të dielën nga Genians, një firmë sigurie kibernetike e Koresë së Jugut. Në vend që të përfshinte një imazh të vërtetë, emaili lidhej me një program keqdashës të aftë për të nxjerrë të dhëna nga pajisjet e marrësve, sipas Genians.

Grupi përgjegjës për sulmin, të cilin studiuesit e kanë quajtur Kimsuky, dyshohet se është një njësi e spiunazhit kibernetik e sponsorizuar nga Koreja e Veriut, e lidhur më parë me përpjekje të tjera spiunazhi kundër objektivave të Koresë së Jugut. Departamenti i Sigurisë Kombëtare i SHBA-së tha se Kimsuky “ka shumë të ngjarë të jetë ngarkuar nga regjimi i Koresë së Veriut me një mision global të mbledhjes së inteligjencës”, sipas një këshille të vitit 2020.

Gjetjet nga Genians në korrik janë shembulli më i fundit i operativëve të dyshuar të Koresë së Veriut që përdorin inteligjencën artificiale si pjesë e punës së tyre të mbledhjes së inteligjencës. Anthropic tha në gusht se zbuloi se hakerat e Koresë së Veriut përdorën mjetin Claude Code për t’u punësuar dhe për të punuar nga distanca për kompanitë teknologjike të SHBA Fortune 500. Në atë rast, Claude i ndihmoi ata të ndërtonin identitete të rreme të hollësishme, të kalonin vlerësimet e kodimit dhe të kryenin punë teknike të vërtetë pasi të punësoheshin.

Përfaqësuesit e OpenAI nuk iu përgjigjën menjëherë një kërkese për koment jashtë orarit normal. Kompania tha në shkurt se kishte ndaluar llogaritë e dyshuara të Koresë së Veriut që kishin përdorur shërbimin për të krijuar CV, letra motivimi dhe postime mashtruese në mediat sociale, në përpjekje për të rekrutuar njerëz për të ndihmuar skemat e tyre.

Trendi tregon se sulmuesit mund të shfrytëzojnë inteligjencën artificiale në zhvillim gjatë procesit të hakerimit, duke përfshirë planifikimin e skenarëve të sulmit, zhvillimin e programeve keqdashëse, ndërtimin e mjeteve të tyre dhe për të imituar rekrutuesit e vendeve të punës, tha Mun Chong-hyun, drejtor në Genians.

Shënjestrat e phishing-ut në këtë valë të fundit të krimit kibernetik përfshinin gazetarë dhe studiues të Koresë së Jugut, si dhe aktivistë të të drejtave të njeriut të përqendruar në Korenë e Veriut. Gjithashtu, dërgimi u bë nga një adresë email-i që mbaron me .mli.kr, një imitim i një adrese ushtarake të Koresë së Jugut.

Nuk ishte menjëherë e qartë se sa viktima u shkelën.

Studiuesit e Genians eksperimentuan me ChatGPT ndërsa hetonin dokumentin e rremë të identifikimit. Meqenëse riprodhimi i dokumenteve të identifikimit qeveritar është i paligjshëm në Korenë e Jugut, ChatGPT fillimisht ktheu një refuzim kur iu kërkua të krijonte një ID. Por ndryshimi i kërkesës i lejoi ata të anashkalonin kufizimin.

Zyrtarët amerikanë kanë pohuar se Koreja e Veriut është e angazhuar në një përpjekje të gjatë për të përdorur sulme kibernetike, vjedhje kriptomonedhash dhe kontraktorë të IT-së për të mbledhur informacione në emër të qeverisë në Phenian.

Këto taktika përdoren gjithashtu për të gjeneruar fonde që synojnë të ndihmojnë regjimin të përmbysë sanksionet ndërkombëtare dhe të zhvillojë programet e tij të armëve bërthamore, sipas qeverisë amerikane.