X ndalon disa kërkime të Taylor Swift ndërsa përhapen imazhe eksplicite të rreme

Platforma e mediave sociale X e Elon Musk ka bllokuar disa kërkime për Taylor Swift pasi imazhet pornografike të rrejshme të këngëtares kanë qarkulluar në internet.

Përpjekjet për të kërkuar emrin e saj pa thonjëza në sajt të hënën rezultuan në një mesazh gabimi dhe një kërkesë për përdoruesit që të riprovonin kërkimin e tyre, i cili shtoi: “Mos u shqetësoni – nuk është faji juaj”.

Megjithatë, vendosja e thonjëzave rreth emrit të saj lejoi që të shfaqen postime që përmendnin emrin e saj.

Imazhet e rreme seksuale dhe abuzive të Swift filluan të qarkullojnë gjerësisht javën e kaluar në X, duke e bërë atë viktimën më të famshme të një fatkeqësie që platformat e teknologjisë dhe grupet kundër abuzimit kanë luftuar për ta rregulluar.

“Ky është një veprim i përkohshëm dhe i bërë me shumë kujdes, pasi ne i japim përparësi sigurisë për këtë çështje,” tha në një deklaratë Joe Benarroch, kreu i operacioneve të biznesit në X.

Ndryshe nga imazhet më konvencionale të modifikuara që kanë shqetësuar të famshëm në të kaluarën, imazhet e Swift duket se janë krijuar duke përdorur një gjenerator imazhi të inteligjencës artificiale që mund të krijojë menjëherë imazhe të reja nga një kërkesë e shkruar.

Pasi imazhet filluan të përhapen në internet, baza e përkushtuar e fansave të këngëtares “Swifties” u mobilizua shpejt, duke nisur një kundërofensivë në X dhe një hashtag #ProtectTaylorSwift për ta mbushur me imazhe më pozitive të yllit të popit. Disa thanë se po raportonin llogari që po shpërndanin falsifikimet e thella.

Grupi i zbulimit të falsifikimit të thellë, Reality Defender tha se gjurmoi një përmbytje të materialeve pornografike jokonsensuale që përshkruan Swift, veçanërisht në X, i njohur më parë si Twitter. Disa imazhe u futën gjithashtu në Facebook në pronësi të Meta-s dhe platforma të tjera të mediave sociale.

Studiuesit gjetën të paktën disa duzina imazhe unike të krijuara nga AI. Më të përhapurat ishin të lidhura me futbollin, duke treguar një Swift të lyer ose të gjakosur që e objektivizonte atë dhe në disa raste i shkaktoi dëmtim të dhunshëm personalitetit të saj të rrejshëm.

Imazhet e Swift dolën për herë të parë nga një fushatë e vazhdueshme që filloi vitin e kaluar në platformat e skajshme për të prodhuar imazhe seksualisht eksplicite të grave të famshme të krijuara nga AI, tha Ben Decker, themeluesi i grupit të inteligjencës së kërcënimeve Memetica. Një nga imazhet e Swift që u bë virale javën e kaluar u shfaq në internet qysh më 6 janar, tha ai.

Shumica e gjeneratorëve komercialë të imazheve të AI kanë masa mbrojtëse për të parandaluar abuzimin, por komentuesit në tabelat anonime të mesazheve diskutuan taktikat se si të anashkalohej moderimi, veçanërisht në mjetin tekst-në-imazh të Microsoft Designer, tha Decker.

Microsoft tha në një deklaratë të hënën se “po vazhdon të hetojë këto imazhe dhe ka forcuar sistemet tona ekzistuese të sigurisë për të parandaluar më tej keqpërdorimin e shërbimeve tona për të ndihmuar në gjenerimin e imazheve si ato”.

Decker tha se “është pjesë e një marrëdhënieje të gjatë, kundërshtare midis trollëve dhe platformave”.

“Për sa kohë që platformat ekzistojnë, trollët do të përpiqen t’i prishin ato,” tha ai. “Dhe për sa kohë që trollët ekzistojnë, platformat do të ndërpriten. Pra, shtrohet me të vërtetë pyetja, sa herë të tjera do të ndodhë kjo përpara se të ketë ndonjë ndryshim serioz?”

Lëvizja e X për të reduktuar kërkimet e Swift ka të ngjarë të jetë një masë ndaluese.

“Kur nuk je i sigurt se ku është gjithçka dhe nuk mund të garantosh se gjithçka është hequr, gjëja më e thjeshtë që mund të bësh është të kufizosh aftësinë e njerëzve për ta kërkuar atë,” tha ai.

Studiuesit kanë thënë se numri i “deepfakes” është rritur në vitet e fundit, pasi teknologjia e përdorur për të prodhuar imazhe të tilla është bërë më e aksesueshme dhe më e lehtë për t’u përdorur.

Në vitin 2019, një raport i publikuar nga firma e AI DeepTrace Labs tregoi se këto imazhe ishin armatosur në masë të madhe kundër grave. Shumica e viktimave, tha ajo, ishin aktorë të Hollivudit dhe këngëtarë të K-pop Koresë së Jugut.

Në Bashkimin Evropian, pjesë të veçanta të legjislacionit të ri përfshijnë dispozita për “deepfakes”. Akti i Shërbimeve Dixhitale, i cili hyri në fuqi vitin e kaluar, kërkon që platformat në internet të marrin masa për të frenuar rrezikun e përhapjes së përmbajtjes që shkel “të drejtat themelore” si privatësia, të tilla si imazhe “jo konsensuale” ose pornografi të rreme. Akti i inteligjencës artificiale i bllokut 27-vendesh, i cili ende pret miratimet përfundimtare, do t’u kërkojë kompanive që krijojnë falsifikime të thella me sistemet e AI të informojnë gjithashtu përdoruesit se përmbajtja është artificiale ose e manipuluar.