Meta nxitet të ndërmarrë masa më të ashpra kundër aplikacioneve që “zhveshin” imazhet

Meta ka ndërmarrë veprime ligjore kundër një kompanie e cila transmeton reklama në platformat e saj duke promovuar të ashtuquajturat aplikacione “nudify”, të cilat zakonisht përdorin inteligjencën artificiale (IA) për të krijuar imazhe të rreme nudo të njerëzve pa pëlqimin e tyre.

Ajo ka paditur firmën që qëndron pas aplikacioneve CrushAI për ta ndaluar atë të postojë reklama krejtësisht, pas një beteje si maceja me miun për t’i hequr ato gjatë një sërë muajsh.

“Ky veprim ligjor nënvizon si seriozitetin me të cilin e marrim këtë abuzim, ashtu edhe angazhimin tonë për të bërë gjithçka që mundemi për të mbrojtur komunitetin tonë prej tij”, tha Meta në një postim në blog.

Alexios Mantzarlis, autor i blogut Faked Up, tha se ka pasur “të paktën 10,000 reklama” që promovojnë aplikacione nudo në platformat e Metës në Facebook dhe Instagram.

Z. Mantzarlis i tha BBC-së se ishte i kënaqur që Meta ndërmori këtë hap, por paralajmëroi se duhej të bënte më shumë.

“Edhe ndërsa po bëhej ky njoftim, arrita të gjej një duzinë reklamash nga CrushAI të transmetuara drejtpërdrejt në platformë dhe njëqind të tjera nga ‘nudifiers’ të tjerë,” tha ai.

“Ky vektor abuzimi kërkon monitorim të vazhdueshëm nga studiuesit dhe media për t’i mbajtur platformat përgjegjëse dhe për të kufizuar shtrirjen e këtyre mjeteve të dëmshme.”

Në blogun e saj, Meta tha: “Ne do të vazhdojmë të ndërmarrim hapat e nevojshëm – të cilët mund të përfshijnë veprime ligjore – kundër atyre që abuzojnë me platformat tona në këtë mënyrë.”

Rritja e inteligjencës artificiale gjeneruese ka çuar në një rritje të aplikacioneve “nudifyuese” në vitet e fundit.

Ato janë bërë aq të përhapura saqë në prill komisioni i fëmijëve për Anglinë i bëri thirrje qeverisë të miratojë legjislacion për t’i ndaluar ato krejtësisht.

Është e paligjshme të krijosh ose të posedosh përmbajtje seksuale të gjeneruar nga inteligjenca artificiale që paraqet fëmijë.

Por Matthew Sowemimo, Drejtor i Asociuar i Politikave për Sigurinë e Fëmijëve në Internet në NSPCC, tha se hulumtimi i organizatës bamirëse kishte treguar se grabitqarët po i “përdornin si armë” aplikacionet për të krijuar imazhe të paligjshme të fëmijëve.

“Ndështimi emocional mbi fëmijët mund të jetë absolutisht shkatërrues”, tha ai.

“Shumë njerëz ndihen të pafuqishëm, të dhunuar dhe të zhveshur nga kontrolli mbi identitetin e tyre.

“Qeveria duhet të veprojë tani për të ndaluar aplikacionet ‘nudify’ për të gjithë përdoruesit e Mbretërisë së Bashkuar dhe për të ndaluar reklamimin dhe promovimin e tyre në shkallë të gjerë.”

Meta tha se kishte bërë edhe një ndryshim tjetër kohët e fundit në një përpjekje për t’u marrë me problemin më të gjerë të “nudifying” të aplikacioneve online, duke ndarë informacion me firma të tjera teknologjike.

“Që kur filluam të ndajmë këtë informacion në fund të marsit, u kemi ofruar më shumë se 3,800 URL unike kompanive të teknologjisë pjesëmarrëse”, tha ajo.

Firma pranoi se kishte një problem me kompanitë që shmangnin rregullat e saj për të vendosur reklama pa dijeninë e saj, siç është krijimi i emrave të rinj të domeneve për të zëvendësuar ato të ndaluara.

Tha se kishte zhvilluar teknologji të re të projektuar për të identifikuar reklama të tilla, edhe nëse ato nuk përfshinin lakuriqësi.

Aplikacionet Nudify janë vetëm shembulli më i fundit i përdorimit të inteligjencës artificiale për të krijuar përmbajtje problematike në platformat e mediave sociale.

Një shqetësim tjetër është përdorimi i inteligjencës artificiale për të krijuar deepfakes – imazhe ose video shumë realiste të personazheve të famshëm – për të mashtruar ose mashtruar njerëzit.

Në qershor, Bordi Mbikëqyrës i Metës kritikoi një vendim për të lënë të hapur një postim në Facebook që tregonte një video të manipuluar nga inteligjenca artificiale të një personi që dukej të ishte legjenda braziliane e futbollit Ronaldo Nazário.

Meta më parë është përpjekur të luftojë mashtruesit që përdorin në mënyrë mashtruese personazhe të famshëm në reklama duke përdorur teknologjinë e njohjes së fytyrës.

Gjithashtu kërkon që reklamuesit politikë të deklarojnë përdorimin e inteligjencës artificiale, për shkak të frikës rreth ndikimit të “deepfakes” në zgjedhje.