Apple heq 19 aplikacione që krijonin imazhe nudo të rreme me inteligjencë artificiale, duke përdorur imazhet e viktimave

Apple ka hequr 19 aplikacione që fshihnin mjete të rreme të inteligjencës artificiale me përmbajtje seksuale abuzive pas funksioneve të zakonshme, pasi një hetim zbuloi një rrjet të projektuar për t’iu shmangur shqyrtimit të App Store.

Një hetim i 2 nëntorit identifikoi më shumë se 400 aplikacione dhe domene interneti të lidhura që dukeshin se ofronin shërbime të padëmshme të inteligjencës artificiale, duke përfshirë portrete kafshësh shtëpiake, mësime gjuhe dhe trajnime fitnesi. Disa prej tyre mund të ngarkonin mjete për të gjeneruar imazhe dhe video me përmbajtje seksuale eksplicite duke përdorur fotografi të njerëzve të vërtetë.

Gjetjet mbështeten në hulumtime të mëparshme që tregojnë se aplikacionet e afta për të krijuar imazhe seksuale pa pëlqim po arrinin në App Store pavarësisht kufizimeve të Apple. Rrjeti i zbuluar rishtazi shkoi më tej duke përdorur servera të largët për të kontrolluar se cilat veçori u shfaqeshin përdoruesve individualë.

Sipas hetimit të WIRED, studiuesit zbuluan se aplikacionet në rrjet kontaktuan serverat e largët pas instalimit. Ato transmetuan informacione duke përfshirë gjuhën e përdoruesit, burimin e referimit dhe një identifikues unik.

Serveri vendoste nëse do të shfaqte veçoritë e reklamuara të aplikacionit apo do të ngarkonte një faqe interneti të veçantë me gjeneratorë të qartë të deepfake-ut. Dikush që shkarkon aplikacionin normalisht mund të mos shohë asgjë të dyshimtë, ndërsa dikush që vjen përmes një reklame të caktuar mund të hyjë në mjetet e fshehura.

Një shkaktar i dukshëm ishte shkarkimi i një aplikacioni pasi klikuam një reklamë në Facebook ose Instagram. Studiuesit gjurmuan mijëra reklama që promovonin deepfakes seksualisht abuzive në aplikacionet e shpërndara përmes App Store të Apple dhe Google Play.

Një shembull ishte Viefur, një gjenerator portretesh kafshësh shtëpiake me anë të inteligjencës artificiale që dukej se transformonte fotografitë e kafshëve në personazhe njerëzore. Pas kësaj ndërfaqeje të padëmshme, studiuesit gjetën akses në mjete të afta për t’i vendosur njerëzit në skenarë seksualisht eksplicitë dhe të dhunshëm.

Studiuesit zbuluan gjithashtu një paketë JavaScript që përmbante referenca për qindra aplikacione dhe domene të lidhura, së bashku me çelësa enkriptimi dhe gjurmues reklamash. Infrastruktura e përbashkët tregonte një operacion të koordinuar dhe jo një koleksion zhvilluesish të palidhur.

Në shtator 2026, studiuesit identifikuan 27 aplikacione të lidhura në Google Play që kishin grumbulluar së bashku më shumë se 350,000 shkarkime. Shumë prej tyre u vlerësuan si të përshtatshme për të gjitha grupmoshat, duke treguar se rrjeti shtrihej përtej ekosistemit të Apple.

Hetuesit identifikuan gjithashtu lidhje teknike me zhvilluesit në gjuhën kineze dhe një kompani të regjistruar në Hong Kong të quajtur KeLing Technology Limited. Lidhjet përfshinin infrastrukturën e strehimit, kodin dhe informacionin e kontaktit, megjithëse provat nuk përcaktojnë në mënyrë përfundimtare se kush e kontrollonte të gjithë rrjetin.

Apple hoqi 19 aplikacione, përfshirë Viefur, pasi gazetarët kontaktuan kompaninë dhe ndanë detajet e rrjetit. Zëdhënësi Adam Dema tha se aplikacionet ishin në përputhje me rregullat e App Store gjatë shqyrtimeve të tyre fillestare. Sipas rrëfimit të Apple, zhvilluesit më pas ndryshuan faqet e internetit që furnizonin përmbajtjen e tyre, duke zëvendësuar materialin e miratuar me pornografi.

Shpjegimi nxjerr në pah një kufizim të shqyrtimit të aplikacioneve para publikimit. Zhvilluesit mund të ndryshojnë potencialisht përmbajtjen e ofruar nga serverat e jashtëm pa paraqitur një version të ri të aplikacionit për miratim, duke lejuar që veçoritë e ndaluara të shfaqen pasi një aplikacion të ketë kaluar shqyrtimin.

Apple tha gjithashtu se kishte pezulluar dhjetëra mijëra aplikacione gjatë vitit të kaluar për taktika të ngjashme “ngacmimi dhe ndërrimi”. Pezullimet u shtrinë përtej rrjetit të identifikuar.

Më 16 tetor, Apple përditësoi udhëzimet e saj për të forcuar kufizimet ekzistuese kundër imazheve intime jo konsensuale dhe aplikacioneve që fshehin funksionalitetin e tyre gjatë shqyrtimit.

Udhëzimi 1.2 tani trajton në mënyrë të qartë imazhet intime jo konsensuale të gjeneruara nga inteligjenca artificiale, duke kërkuar që zhvilluesit të parandalojnë ose heqin përmbajtje të tillë. Udhëzimi 2.5.19 sqaron ndalimin e gjatë të Apple kundër veçorive të fshehura, joaktive ose të padokumentuara, duke përfshirë funksionalitetin e aktivizuar pas miratimit.

Ndryshimet forcojnë politikat ekzistuese të Apple, por ato nuk mund t’i ndalojnë zhvilluesit të ndryshojnë përmbajtjen e vendosur në servera të jashtëm. Kompania ende përballet me sfidën e zbulimit të këtyre ndryshimeve pasi aplikacionet të jenë miratuar.