Letra e hapur e studiuesve të inteligjencës artificiale kërkon veprim ndaj deepfakes përpara se të shkatërrojnë demokracinë

Një letër e hapur nga studiuesit e AI paralajmëron për rreziqet e falsifikimeve të thella dhe u bën thirrje qeverive të vendosin detyrime përgjatë gjithë zinxhirit të vlerës për të frenuar përhapjen e tyre.

Letra bën thirrje për kriminalizimin e pornografisë së rreme për fëmijë, futjen e dënimeve penale për krijimin ose shpërndarjen e vetëdijshme të falsifikimeve të dëmshme dhe detyrimin e zhvilluesve dhe shpërndarësve të softuerëve për të mbrojtur produktet e tyre kundër krijimit të depfakeve të dëmshme.

Nënshkruesit theksojnë urgjencën e shqetësimeve të tyre, duke përmendur shifra nga studime dhe raporte të ndryshme, duke përfshirë se numri i “deepfakes” u rrit me 550% midis 2019 dhe 2023.

Vetëm pornografia “Deepfake” përbën 98% të të gjitha videove “deepfake” në internet dhe 99% e viktimave janë gra. Mashtrimet dhe falsifikimet e të famshmëve dhe politikanëve janë gjithashtu në rritje, sipas letrës, dhe ligjet ekzistuese nuk janë të mjaftueshme për të frenuar prodhimin dhe shpërndarjen e deepfakes, duke e bërë gjithnjë e më të vështirë të dallosh se çfarë është e vërtetë në internet, gjë që mund të çojë deri në konfuzion masiv.

“Me gjysmën e popullsisë së botës që përballet së shpejti me zgjedhje, krijimi dhe përhapja e gjerë e “deepfakes” është një kërcënim në rritje për proceset demokratike në mbarë botën”, thuhet në letër.

Nënshkruesit i përkufizojnë falsifikimet e thella si “zëra, imazhe ose video jo konsensuale ose jashtëzakonisht mashtruese të krijuara nga AI, që një person i arsyeshëm do t’i gabonte si të vërteta”. Ata dënojnë gjithashtu përmbajtjen sintetike të krijuar për argëtim, përveç nëse është “argëtim i padëmshëm” ose satirik.

“Nëse argëtimi i transmetuar bëhet i ngopur me deepfakes, lidhja midis audiencës dhe interpretuesve do të gërryhet dhe deepfakes do të zhvendosë padrejtësisht njerëzit, veprat e të cilëve janë përdorur për të “trajnuar” AI në radhë të parë”, thuhet në letër.

Autorët e letrës sugjerojnë që prodhuesit e pajisjeve, zhvilluesit e softuerit dhe kompanitë e mediave duhet të punojnë së bashku për të promovuar dhe shpërndarë metodat e vërtetimit të përmbajtjes që mund të përdoren për të verifikuar vërtetësinë e fotove dhe videove. Përpjekjet tashmë janë duke u zhvilluar, si standardi C2PA , të cilit po i bashkohen kompanitë e AI dhe platformat sociale, por është larg zgjidhjes së problemit.

Midis nënshkruesve janë Jaron Lanier, studiues i Microsoft dhe shpikës i termit “realiteti virtual”; Frances Haugen, e njohur si denoncuesja e Meta/Facebook; Stuart Russell, profesor i shquar i shkencave kompjuterike në Universitetin e Kalifornisë, Berkeley; Andrew Yang, bashkëkryetar i Partisë Përpara dhe kandidat për president të vitit 2020; Steven Pinker, Profesor i Psikologjisë në Familjen Johnstone në Universitetin e Harvardit; dhe fitues i çmimit Turing Yoshua Bengio.