Rregullat e reja të App Store synojnë falsifikimet e thella me AI dhe aplikacionet që zhveshin njerëzit virtualisht

Apple sot zgjeroi rregullat e moderimit të App Store për të mbuluar imazhet intime jo konsensuale të gjeneruara nga inteligjenca artificiale. Përmbajtja me përmbajtje seksuale eksplicite ishte ndaluar tashmë, por tani Apple thotë se zhvilluesit e aplikacioneve duhet të parandalojnë dhe heqin në mënyrë proaktive deepfake-t e gjeneruara nga inteligjenca artificiale nga platformat e tyre. Apple paralajmëron se aplikacionet me përmbajtje ofenduese mund të hiqen nga App Store nëse zhvilluesit nuk veprojnë.

Rregulli i përditësuar 1.2 emërton aplikacionet e krijimit të përmbajtjes së IA-së dhe mund të synojë aplikacione si Grok, ndër të tjera. Përdoruesit janë ankuar për përdorimin e chatbot-it Grok të xAI për deepfake-e nudo dhe të seksualizuara, dhe në fillim të këtij viti, Apple i tha xAI se do ta hiqte Grok nga App Store nëse do të vazhdonte të lejonte deepfake-e nudo. xAI vendosi masa mbrojtëse dhe Apple miratoi një version të përditësuar të aplikacionit.

Apple shtoi gjithashtu udhëzimin 2.5.19 për të sqaruar se zhvilluesit që shtojnë veçori ose funksionalitete që nuk janë të pranishme në versionin e një aplikacioni të paraqitur për shqyrtim rrezikojnë të hiqen nga ‌App Store‌ dhe Programi i Zhvilluesve të Apple. Apple e lidh rregullin me aplikacionet e “nudifikimit” që krijojnë imazhe seksualisht eksplicite të individëve të vërtetë pa pëlqimin e tyre, duke sugjeruar se disa nga aplikacionet kanë fshehur qëllimin e tyre të vërtetë gjatë shqyrtimit dhe kanë shtuar veçorinë e nudifikimit pas miratimit.

Aplikacionet që përmbajnë veçori të fshehura ose të padokumentuara janë gjithashtu të ndaluara në App Store, duke përfshirë aplikacionet që keqinterpretojnë qëllimin e tyre gjatë shqyrtimit dhe zbulojnë vetëm aftësi të dëmshme – të tilla si “zhveshja” – pas miratimit, një taktikë e njohur zakonisht si “karrem dhe ndërrim”.

Së bashku me ndryshimet e përqendruara në përmbajtjen e gjeneruar nga inteligjenca artificiale, Apple përditësoi seksionin 5 për të zgjeruar ndalimin e aplikacioneve që lehtësojnë trafikimin e qenieve njerëzore ose shfrytëzimin e fëmijëve në shpërndarjen alternative të aplikacioneve.

“Ne nuk hezitojmë të heqim aplikacionet dhe të përjashtojmë zhvilluesit që fshihen pas tyre, kur ata shkelin këto udhëzime”, thuhet në postimin e lajmeve të Apple për zhvilluesit mbi ndryshimet e rregullave.