BE-ja heton Grok-un e Musk-ut për deepfake seksuale të krijuara nga inteligjenca artificiale

Rregullatorët e Bashkimit Evropian kanë hapur një hetim të ri ndaj platformës së mediave sociale X të Elon Musk, duke u përqendruar në chatbot-in e tij të inteligjencës artificiale Grok dhe duke pretenduar se ai mund të përdoret për të gjeneruar imazhe të seksualizuara të grave dhe të miturve.

Hetimi, i njoftuar sot (26 janar), vjen pas kritikave ndërkombëtare në rritje ndaj mjetit dhe shqetësimeve se përdoruesit mund të manipulojnë fotot e zakonshme në përmbajtje eksplicite duke përdorur mesazhe të thjeshta me tekst, të tilla si “futeni me bikini” ose “hiqni rrobat e saj”.

Ky veprim shënon një përshkallëzim të masave të BE-së ndaj platformave që beson se nuk po arrijnë të frenojnë përmbajtjen e paligjshme ose të dëmshme, dhe ngre pyetje më të gjera se si mjetet gjeneruese të inteligjencës artificiale që lëvizin me shpejtësi do të rregullohen sipas ligjeve ekzistuese të sigurisë dixhitale.

Komisioni Evropian tha se po shqyrton nëse X i ka adresuar në mënyrë adekuate “rreziqet që lidhen me përhapjen e përmbajtjes së paligjshme në BE, siç janë imazhet e manipuluara me përmbajtje seksuale eksplicite, duke përfshirë përmbajtje që mund të përbëjë materiale abuzimi seksual me fëmijë”.

Presidentja e KE-së, Ursula von der Leyen, e cilësoi çështjen si një vijë të kuqe ligjore dhe morale.

“Në Evropë, ne nuk do të tolerojmë sjellje të paimagjinueshme, siç është zhveshja dixhitale e grave dhe fëmijëve”, tha ajo. “Është e thjeshtë – ne nuk do t’ua dorëzojmë pëlqimin dhe mbrojtjen e fëmijëve kompanive të teknologjisë për të shkelur dhe për të fituar para. Dëmi i shkaktuar nga imazhet e paligjshme është shumë real.”

Rasti përqendrohet në mënyrën se si Grok, një chatbot i integruar në X, dyshohet se po përdoret për të gjeneruar imazhe të seksualizuara nga fotot duke përdorur udhëzime minimale. Kritikët argumentojnë se lehtësia e prodhimit të përmbajtjes së tillë rrit rrezikun e ngacmimit, shfrytëzimit dhe përhapjes së materialit të paligjshëm, veçanërisht kur përfshihen të mitur.

Hetimi vjen disa ditë pasi një hulumtim i publikuar nga Qendra për Kundërshtimin e Urrejtjes Dixhitale (CCDH), një organizatë mbikëqyrëse jofitimprurëse, pretendoi se Grok gjeneroi rreth tre milionë imazhe të seksualizuara të grave dhe fëmijëve brenda pak ditësh.

Kjo shifër ka intensifikuar presionin mbi rregullatorët dhe mbi X për të demonstruar se masat e saj mbrojtëse janë efektive. Ndërsa metodat e përdorura për të vlerësuar shkallën e gjenerimit të imazheve nuk u detajuan në njoftimin e shkurtër, numri kryesor ka theksuar shqetësimet se sistemet gjeneruese mund të keqpërdoren më shpejt sesa mund të përballojnë sistemet e moderimit.

Për kritikët e platformës, kjo polemikë është një tjetër shembull se si produktet e inteligjencës artificiale mund të prezantojnë forma të reja abuzimi duke automatizuar veprime që më parë kërkonin aftësi më të larta teknike – duke e shndërruar krijimin e deepfake në diçka më afër sjelljes së përditshme në mediat sociale.

Henna Virkkunen, personi përgjegjës i Komisionit Evropian për sovranitetin teknologjik, tha se hetimi do të “përcaktojë nëse X ka përmbushur detyrimet e tij ligjore” sipas Aktit të Shërbimeve Dixhitale (DSA) të BE-së, një rregullore historike e hartuar për të frenuar rreziqet e paraqitura nga platformat më të mëdha online në botë.

Ajo shtoi se të drejtat e grave dhe fëmijëve në BE nuk duhet të jenë “dëm kolateral” i shërbimeve të X-it.

DSA kërkon që platformat kryesore të identifikojnë rreziqet sistemike dhe të ndërmarrin veprime për të zvogëluar dëmet, siç është shpërndarja e përmbajtjes së paligjshme. Në terma praktikë, BE-ja do të kërkojë prova që X ka bërë mjaftueshëm për të parandaluar Grok-un të prodhojë dhe përhapë përmbajtje të manipuluar me përmbajtje seksuale eksplicite – veçanërisht nëse ajo kalon kufirin në materiale abuzimi seksual me fëmijë.

Nëse rregullatorët arrijnë në përfundimin se X nuk i ka menaxhuar këto rreziqe, kompania mund të përballet me penalitete të mëtejshme, kërkesa për ndryshime në produkt ose shqyrtim më të thellë të përputhshmërisë. Rasti mund të bëhet gjithashtu një provë e rëndësishme nëse DSA mund t’i adresojë në mënyrë efektive dëmet gjeneruese të nxitura nga IA, edhe pse ligji nuk është hartuar posaçërisht për mjetet moderne të gjenerimit të imazheve.

Polemika pasqyron një problem që po zgjerohet me shpejtësi: mjetet e “zhveshjes dixhitale” dhe deepfake-et seksuale janë përdorur gjithnjë e më shumë për të synuar gratë, figurat publike dhe të miturit.

Edhe kur imazhet e manipuluara nuk përmbushin përkufizimin e rreptë ligjor të materialit të abuzimit seksual me fëmijë, ato prapëseprapë mund të shkaktojnë dëme të rënda, duke përfshirë ngacmimin, shantazhin, dëmtimin e reputacionit dhe traumën psikologjike afatgjatë. Viktimat shpesh kanë pak kontroll pasi përmbajtja përhapet në internet dhe proceset e heqjes mund të jenë të ngadalta, të fragmentuara ose të paqëndrueshme në të gjitha platformat dhe juridiksionet.

Gjuha e përdorur nga BE-ja sugjeron se ajo po e trajton çështjen jo si një rast të skajshëm, por si një dështim të drejtpërdrejtë të sigurisë me pasoja në botën reale – veçanërisht sepse imazhet mund të gjenerohen dhe të ndahen në shkallë të gjerë.

Brukseli tha se po zgjeronte një hetim ekzistues ndaj X, i cili fillimisht u përqendrua në përmbajtje të paligjshme dhe manipulim informacioni.

X ka qenë nën shqyrtimin e BE-së që nga dhjetori i vitit 2023 sipas rregullave të bllokut për përmbajtjen dixhitale. Komisioni më parë e gjobiti X me 120 milionë euro (142 milionë dollarë) në dhjetor për shkelje të detyrimeve të transparencës së DSA-së, duke përmendur shkelje që përfshijnë “dizajnin mashtrues” të sistemit të tij të verifikimit “shenjë blu” dhe dështimin për të siguruar akses në të dhënat publike për studiuesit.

Kjo gjobë shkaktoi kritika të ashpra nga administrata e Presidentit të SHBA-së, Donald Trump, duke theksuar se si qasja e Evropës ndaj rregullimit të teknologjisë është bërë një pikë e nxehtë në politikën transatlantike.

Për zyrtarët e BE-së, hetimi i Grok ka të ngjarë të përkufizohet si një vazhdim i një axhende të qëndrueshme zbatimi: vendosja e detyrimeve mbi platformat pavarësisht presionit politik, ndikimit të kompanisë apo popullaritetit të teknologjive specifike.

Hetimi ka të ngjarë të shqyrtojë me kujdes se si Grok i trajton kërkesat e ndjeshme, nëse X ka sisteme të mjaftueshme zbulimi dhe heqjeje për imazhet e manipuluara me seksualitet dhe sa shpejt i përgjigjet kompania rreziqeve pasi ato bëhen të dukshme.

Rezultati mund të formësojë mënyrën se si trajtohen mjetet e tjera të IA-së gjeneruese sipas DSA-së, dhe nëse platformat do të pritet të zbatojnë kufizime më të forta parazgjedhjeje, monitorim të përmirësuar dhe llogaridhënie më të qartë për përmbajtjen e drejtuar nga IA.

Për çështjen X të Musk, çështja shton presionin rregullator në rritje në Evropë në një kohë kur autoritetet po sinjalizojnë se dëmet e mundësuara nga inteligjenca artificiale – veçanërisht ato që përfshijnë gratë dhe fëmijët – do të trajtohen si një përparësi zbatimi, jo si një debat politik.