Apple dhe Google urdhërohen të heqin nga dyqanet e aplikacioneve aplikacionet ‘nudify’ që krijojnë imazhe nudo

Qyteti i San Franciskos i ka urdhëruar Apple dhe Google të heqin nga dyqanet e tyre të aplikacioneve dhjetëra aplikacione që “zhveshin” — programe softuerësh që mund të ndryshojnë dixhitalisht fotografitë për të zhveshur njerëzit në to.

Ligji i Kalifornisë kriminalizon çdo aktivitet që “lehtëson me vetëdije” ose “ndihmon ose nxit në mënyrë të pamatur” krijimin e pornografisë së rreme pa pëlqim. Në vitin 2025, Kalifornia miratoi gjithashtu një ligj që u lejon viktimave të ngrenë padi civile kundër lehtësuesve të palëve të treta të materialeve të tilla. Qyteti thotë se, pavarësisht këtyre rregulloreve të njohura mirë, të dy kompanitë e teknologjisë kanë vazhduar të presin dhe të fitojnë para nga programe të tilla.

“Apple dhe Google po përfitojnë nga aplikacionet që shfrytëzojnë gratë dhe vajzat duke gjeneruar deepfake intime pa pëlqimin e tyre”, tha Prokurori i Qytetit të San Franciskos, David Chiu, në një deklaratë me email për TechCrunch. “Ndërsa kompanitë i ndërpresin lidhjet me disa aplikacione problematike, Apple dhe Google kanë përgjegjësi të jenë proaktivë dhe vigjilentë për të parandaluar abuzimin seksual.”

Letrat e dërguara nga zyra e Chiu-së te Google dhe Apple, të cilat u panë nga TechCrunch, vënë në dukje se kompanitë kanë qenë “të njoftuara” për rolin e tyre në “përpunimin e pagesave për blerje të paligjshme për gati një vit”, por megjithatë kanë vazhduar ta bëjnë këtë.

Sipas letrave, të dyja kompanitë janë paralajmëruar vazhdimisht se po i hostojnë këto aplikacione. Në janar dhe përsëri në prill, Projekti i Transparencës Teknologjike lëshoi ​​raporte dhe u dërgoi letra të dyja kompanive duke vënë në dukje se brenda dyqaneve të tyre të aplikacioneve kishte “dhjetëra aplikacione” që “shisnin imazhe intime jo konsensuale NCII të rreme në këmbim të pagesave” nga të përpunuara nga firmat.

Raporti i TTP-së nga prilli tha se Google dhe Apple i kishin “drejtuar” qëllimisht përdoruesit drejt aplikacioneve të tilla dhe i quajti të dyja kompanitë “pjesëmarrës kryesorë në përhapjen e mjeteve të inteligjencës artificiale që mund t’i shndërrojnë njerëzit e vërtetë në imazhe të seksualizuara”.

Për më tepër, Chiu i tha Wired se të dy kompanitë me shumë gjasa kishin fituar “miliona dollarë në tarifa” nga aplikacionet që ofronin shërbime të tilla.

Letrat nga zyra e Chiu paralajmërojnë se Apple dhe Google mund të përballen me penalitete civile për shkelje të ligjit dhe kërkojnë që të kontaktojnë qytetin brenda 28 ditëve.

Kur TechCrunch u kontaktua për koment, një zëdhënës i Apple tha se aplikacionet nudify ishin të ndaluara të shfaqeshin në App Store, duke vënë më tej në dukje: “Ne kemi hequr tre nga aplikacionet në fjalë dhe jemi në proces të mbylljes së llogarive të tyre të zhvilluesve nga programi ynë. Jemi në kontakt me katër të tjerë që duhet të adresojnë shkeljet e politikave ose rrezikojnë të hiqen gjithashtu.”

Një zëdhënës i Google pohoi se të pesë aplikacionet Play të përmendura në letrën e Chiu ishin pezulluar nga Google Play. “Kur na raportohen shkelje, ne hetojmë dhe ndërmarrim veprime të shpejta, të cilat në rastin e këtyre aplikacioneve kanë përfshirë pezullimin e qindra aplikacioneve shkelëse dhe kufizimin e termave të kërkimit të lidhur me to si ‘nudify’ në dyqanin tonë”, shtoi zëdhënësi.

Pornografia e rreme ka qenë kryesisht një problem për personazhet e famshëm femra, megjithëse aplikacionet nudify bëjnë të mundur që kushdo që ka një foto të disponueshme publikisht të jetë cak i sulmeve.