X ashpërson gjenerimin e imazheve të Grok pas reagimeve ndërkombëtare

X tha se po kufizon veçoritë e gjenerimit dhe redaktimit të imazheve të lidhura me Grok, duke kufizuar aksesin për përdoruesit me pagesë pasi chatbot u përdor për të krijuar imazhe jo-konsensuale të seksualizuara të njerëzve të vërtetë, përfshirë të mitur.

Në një përditësim të postuar nga llogaria X Safety të mërkurën, kompania shtoi kufizime teknike për të kufizuar mënyrën se si përdoruesit mund të modifikojnë imazhe të njerëzve të vërtetë përmes Grok.

Ky veprim pasoi raportimet se inteligjenca artificiale gjeneroi fotografi të seksualizuara në përgjigje të kërkesave të thjeshta, duke përfshirë kërkesat për të vendosur njerëzit me bikini. Në shumë raste, përdoruesit e etiketuan Grok direkt nën fotot e postuara në X, duke bërë që inteligjenca artificiale të gjeneronte imazhe të modifikuara që shfaqeshin publikisht në të njëjtat tema.

“Ne kemi zbatuar masa teknologjike për të parandaluar që llogaria Grok të lejojë redaktimin e imazheve të njerëzve të vërtetë me veshje zbuluese, siç janë bikinit”, tha kompania, duke iu referuar trendit viral të kërkesës së Grok për të vendosur njerëz me bikini.

Kompania tha gjithashtu se krijimi dhe redaktimi i imazheve përmes llogarisë Grok në X tani janë të disponueshme vetëm për abonentët me pagesë, një ndryshim që ajo tha se synon të përmirësojë llogaridhënien dhe të parandalojë keqpërdorimin e mjeteve të imazheve të Grok që shkelin ligjin ose politikat e X. Kompania gjithashtu vendosi kufizime të bazuara në vendndodhje.

“Tani ne e gjeobllokojmë mundësinë e të gjithë përdoruesve për të gjeneruar imazhe të njerëzve të vërtetë me bikini, të brendshme dhe veshje të ngjashme nëpërmjet llogarisë Grok dhe në Grok in X në ato juridiksione ku kjo është e paligjshme.”

Pavarësisht ndryshimeve, megjithatë, Grok vazhdon t’u lejojë përdoruesve të heqin ose ndryshojnë veshjet nga fotot e ngarkuara direkt në IA, sipas testimeve të Decrypt dhe raporteve të përdoruesve pas njoftimit.

Në disa raste, Grok pranoi ” mungesa në masat mbrojtëse ” pasi krijoi imazhe të vajzave të moshës 12 deri në 16 vjeç me veshje minimale, sjellje e ndaluar sipas politikave të vetë kompanisë. Disponueshmëria e vazhdueshme e këtyre aftësive ka tërhequr vëmendjen e grupeve të avokatisë.

“Nëse raportet se Grok krijoi imazhe të seksualizuara – veçanërisht të fëmijëve – janë të vërteta, ligji i Teksasit mund të jetë shkelur”, tha Adrian Shelley, drejtor i Public Citizen në Teksas, në një deklaratë. “Autoritetet e Teksasit nuk kanë pse të kërkojnë shumë për të hetuar këto akuza. X ka selinë në zonën e Austin dhe shteti ka një përgjegjësi të qartë për të përcaktuar nëse ligjet e tij janë shkelur dhe, nëse po, çfarë ndëshkimesh janë të justifikuara.”

Public Citizen më parë i bëri thirrje qeverisë amerikane që ta hiqte Grok nga lista e saj e modeleve të pranueshme të inteligjencës artificiale për shkak të shqetësimeve për racizëm të shfaqur nga chatbot-i.

Politikëbërësit globalë kanë rritur gjithashtu shqyrtimin e Grok, duke çuar në disa hetime të hapura.

Komisioni Evropian tha se X dhe xAI mund të përballen me zbatimin e ligjit sipas Aktit të Shërbimeve Dixhitale nëse masat mbrojtëse për Grok mbeten të pamjaftueshme. Në të njëjtën kohë, Komisioneri i Australisë për Sigurinë Elektronike tha se ankesat që përfshijnë Grok dhe imazhet seksuale të gjeneruara nga IA jo me konsensus janë dyfishuar që nga fundi i vitit 2025. Rregullatori tha se mjetet e imazheve të IA-së të afta për të prodhuar redaktime realiste e ndërlikojnë zbatimin e ligjit dhe mbrojtjen e viktimave.

Në Mbretërinë e Bashkuar, rregullatorët së bashku me Ofcom hapën një hetim ndaj X sipas Aktit të Sigurisë Online, që rrjedh nga përdorimi i Grok për të gjeneruar imazhe të paligjshme të seksualizuara, duke përfshirë ato që përfshijnë të mitur. Zyrtarët thanë se Ofcom mund të kërkojë masa të mbështetura nga gjykata që në mënyrë efektive bllokojnë shërbimin në Mbretërinë e Bashkuar nëse X gjendet i papajtueshëm dhe nuk ndërmerr veprime korrigjuese.

Vende të tjera, përfshirë Malajzinë , Indonezinë dhe Korenë e Jugut, kanë hapur gjithashtu hetime ndaj Grok në një përpjekje për të mbrojtur të miturit.

Ndërsa shtetet në të gjithë Amerikën monitorojnë situatën, Kalifornia është e para që hap një hetim ndaj Grok. Të mërkurën, Prokurori i Përgjithshëm i Kalifornisë, Rob Bonta, njoftoi një hetim ndaj xAI dhe Grok për krijimin dhe përhapjen e imazheve jo-konsensuale seksualisht eksplicite të grave dhe fëmijëve.

“Ortek raportesh që detajojnë materialin jo-konsensual dhe seksualisht eksplicit që xAI ka prodhuar dhe postuar në internet në javët e fundit është tronditës. Ky material, i cili përshkruan gra dhe fëmijë në situata nudo dhe seksualisht eksplicite, është përdorur për të ngacmuar njerëz në të gjithë internetin”, tha Bonta në një deklaratë.

Hetimi do të shqyrtojë nëse vendosja e Grok nga xAI shkeli ligjet shtetërore që rregullojnë imazhet intime jo-konsensuale dhe shfrytëzimin seksual të fëmijëve.

“I bëj thirrje xAI-së të ndërmarrë veprime të menjëhershme për të siguruar që kjo të mos shkojë më tej”, tha Bonta. “Ne kemi tolerancë zero për krijimin dhe shpërndarjen e imazheve intime jo konsensuale ose të materialeve të abuzimit seksual me fëmijë, të bazuara në inteligjencën artificiale.”

Pavarësisht hetimeve në vazhdim, X tha se mban një qëndrim “zero tolerancë” për shfrytëzimin seksual të fëmijëve, lakuriqësinë pa pëlqimin e të tjerëve dhe përmbajtjen seksuale të padëshiruar.

“Ne ndërmarrim veprime për të hequr përmbajtjen shkelëse me përparësi të lartë, duke përfshirë Materialin e Abuzimit Seksual të Fëmijëve (CSAM) dhe lakuriqësinë pa pëlqim, duke ndërmarrë veprimet e duhura kundër llogarive që shkelin Rregullat tona X”, shkroi kompania. “Ne gjithashtu raportojmë llogaritë që kërkojnë materiale për Shfrytëzim Seksual të Fëmijëve tek autoritetet e zbatimit të ligjit sipas nevojës.”