X i Elon Musk përballet me hetime në Evropë, Indi dhe Malajzi pasi Grok gjeneroi imazhe eksplicite të grave dhe fëmijëve

Skaneri X i Elon Musk po hetohet nga autoritetet në Evropë, Indi dhe Malajzi pasi chatbot-i i tij Grok i lejoi përdoruesit të krijonin dhe të ndanin imazhe të seksualizuara të gjeneruara nga inteligjenca artificiale të fëmijëve dhe grave.

Mbikëqyrësi britanik i medias, Ofcom, tha gjithashtu se ka kërkuar informacion nga X, i cili është në pronësi të xAI, në lidhje me çështjet e Grok. Dhe të dielën, një anëtare e parlamentit të Brazilit tha në mediat sociale se i ka kërkuar prokurorit publik federal të vendit dhe autoritetit të mbrojtjes së të dhënave që të pezullojnë përdorimin e Grok derisa të përfundojë një hetim.

Hetimet vijnë pas një rritjeje globale gjatë disa javëve të fundit në përdorimin e Grok për të krijuar dhe ndarë imazhe intime jo konsensuale, ose NCII, të nxjerra nga foto ose video të njerëzve të vërtetë në përgjigje të kërkesave të përdoruesit. Imazhet shqetësuese janë shpërndarë gjerësisht në X.

Kompania e Musk-ut kohët e fundit përditësoi veçoritë e Grok Imagine, duke mundësuar gjenerimin më të lehtë të imazheve nga kërkesat me tekst në platformë.

Ndërsa ekspertët e sigurisë dhe kritikët e teknologjisë kritikuan përhapjen e imazheve dhe klipeve shfrytëzuese në X, Musk dukej se tallte situatën duke ndarë një sërë imazhesh të gjeneruara nga Grok, përfshirë një që e përshkruante veten me bikini, të shoqëruar me emoji që të bëjnë të qeshësh e të qash.

Në një konferencë për shtyp të hënën, zëdhënësi i Komisionit Evropian, Thomas Regnier, tha se autoriteti po “e shqyrtonte shumë seriozisht këtë çështje” dhe ishte “i vetëdijshëm” se X dhe Grok “tani po ofronin një mënyrë pikante që tregonte përmbajtje eksplicite seksuale me disa rezultate të gjeneruara me imazhe fëminore”.

Kjo nuk është ‘pikante’, tha Regnier. Kjo është e paligjshme. Kjo është e tmerrshme. Kjo është e neveritshme. Kështu e shohim ne dhe kjo nuk ka vend në Evropë.

Në fund të javës së kaluar, Ministria e Elektronikës dhe Teknologjisë së Informacionit e Indisë urdhëroi X të kryente një “shqyrtim gjithëpërfshirës teknik, procedural dhe në nivel qeverisjeje” të Grok. Kompanisë iu dha afat deri më 5 janar për t’u pajtuar.

Komisioni Malajzian i Komunikimeve dhe Multimedias tha gjatë fundjavës se po heton rastin X dhe do të thërrasë përfaqësuesit e kompanisë.

“MCMC u bën thirrje të gjitha platformave të arritshme në Malajzi që të zbatojnë masa mbrojtëse në përputhje me ligjet malajziane dhe standardet e sigurisë online, veçanërisht në lidhje me veçoritë e tyre të mundësuara nga inteligjenca artificiale, chatbot-et dhe mjetet e manipulimit të imazheve”, tha grupi në një deklaratë.

Ndërkohë, në SHBA, Qendra Kombëtare për Shfrytëzimin Seksual (NCOSE) i bëri thirrje Departamentit të Drejtësisë dhe Komisionit Federal të Tregtisë të hetojnë çështjen në një intervistë me CNBC. Dani Pinter, zyrtari kryesor ligjor dhe drejtor i Qendrës Ligjore për NCOSE, tha se “nuk ka shumë përparësi ligjore për këto çështje specifike”.

Megjithatë, ajo tha se ligjet federale ndalojnë krijimin dhe shpërndarjen e materialeve të abuzimit seksual me fëmijë, ose CSAM, dhe kjo mund të zbatohet për përmbajtjen e krijuar virtualisht “kur përshkruan një fëmijë të identifikueshëm ose përshkruan një fëmijë të angazhuar në sjellje seksuale eksplicite”.

Këto ligje përfshijnë Aktin “Take It Down”, i cili u miratua nga Zonja e Parë Melania Trump përpara se të miratohej vitin e kaluar.

Një zëdhënës i Departamentit të Drejtësisë tha në një deklaratë me email për CNBC të hënën në mbrëmje: “Departamenti i Drejtësisë e merr jashtëzakonisht seriozisht materialin e abuzimit seksual me fëmijë të gjeneruar nga inteligjenca artificiale dhe do të ndjekë penalisht në mënyrë agresive çdo prodhues ose posedues të CSAM. Ne vazhdojmë të eksplorojmë mënyra për të optimizuar zbatimin në këtë fushë për të mbrojtur fëmijët dhe për t’i mbajtur përgjegjës individët që shfrytëzojnë teknologjinë për të dëmtuar më të prekshmit tanë.”

FTC nuk pranoi të komentojë. XAI nuk dha ndonjë koment përtej një përgjigjeje automatike.

Kompania e mediave sociale e Musk bëri deklaratën e saj të parë publike mbi këtë çështje të shtunën në një postim në llogarinë zyrtare X Safety.

“Ne ndërmarrim veprime kundër përmbajtjes së paligjshme në X, duke përfshirë Materialin e Abuzimit Seksual të Fëmijëve (CSAM), duke e hequr atë, duke pezulluar përgjithmonë llogaritë dhe duke bashkëpunuar me qeveritë lokale dhe zbatimin e ligjit sipas nevojës”, shkroi kompania.

Musk shkroi, në një postim të veçantë në X, “Kushdo që përdor ose nxit Grok-un të krijojë përmbajtje të paligjshme do të vuajë të njëjtat pasoja sikur të ngarkonte përmbajtje të paligjshme.”

Të nesërmen, një punonjës i xAI me emrin Ethan He shkroi në një postim në X se Grok Imagine ishte përditësuar, por nuk specifikoi ndonjë ndryshim në lidhje me aftësinë për të krijuar imazhe të dëmshme dhe eksplicite.

Musk dhe X kanë një histori të lejimit të përdoruesve që krijuan postime që tregonin shfrytëzimin seksual të fëmijëve të qëndronin në platformë.

Në vitin 2023, X pezulloi për pak kohë dhe më pas e rivendosi llogarinë e një përdoruesi të quajtur Dom Lucre pasi ai postoi “foto shfrytëzimi të fëmijëve të lidhura me dënimin penal të një burri australian në Filipine”, raportoi Mashable. Musk tha në atë kohë se X vendosi të fshinte postimet fyese të Lucre, por ta rivendoste ndikuesin e krahut të djathtë në platformë. Lucre aktualisht ka një llogari të monetizuar në X me 1.6 milion ndjekës të listuar.

Tom Quisel, CEO i Musubi AI, i cili ndihmon rrjetet sociale dhe kompanitë e IA-së të automatizojnë moderimin e përmbajtjes duke përdorur IA-në, tha se dukej se xAI kishte dështuar të ndërtonte madje edhe “shtresa besimi dhe sigurie të nivelit fillestar” në lançimin e Grok Imagine to X.

Quisel tha se do të ishte e lehtë për një kompani si xAI që modeli i saj të zbulonte dhe bllokonte “një imazh që përfshin fëmijë ose lakuriqësi të pjesshme”, ose të refuzonte kërkesat e përdoruesve për ta vendosur subjektin e një fotoje me veshje që sugjerojnë seksualisht.

Polemika nuk ka bërë asgjë për të dëmtuar trafikun e X-it.

Sipas Apptopia, e cila monitoron trendet e aplikacioneve mobile, shkarkimet ditore të Grok janë rritur me 54% që nga 2 janari, ndërsa shkarkimet ditore të X janë rritur me 25% në tre ditët e fundit.