Midjourney ndalon thirrjet me Joe Biden dhe Donald Trump, duke marrë parasysh shqetësimet e dezinformimit të zgjedhjeve

Midjourney, gjeneratori i imazheve të inteligjencës artificiale, i njohur për krijimin e imazheve të rreme të arrestimit të Donald Trump, ka ndaluar kërkesat për imazhe që përfshijnë emrin e kandidatit për president, si dhe të presidentit aktual Joe Biden.

Vendimi vjen pasi ekspertët dhe avokatët paralajmërojnë për frikën e përdorimit të teknologjisë së inteligjencës artificiale për të ndikuar tek votuesit dhe për të përhapur dezinformata përpara zgjedhjeve presidenciale të vitit 2024.

Testet e politikës së re nga Associated Press Ttempts treguan një paralajmërim “U zbulua me shpejtësi të ndaluar” për kërkesat e imazheve të “Trump dhe Biden duke shtrënguar duart në plazh”, raportoi botimi. Përpjekjet e mëtejshme bënë që gjeneratori i imazhit të paralajmëronte përdoruesit se ata kishin “shkaktuar një alarm abuzimi”.

“Nuk më intereson shumë fjalimi politik. Nuk është ky qëllimi i Midjourney. Nuk është aq interesant për mua. Thënë kështu, unë gjithashtu nuk dua të kaloj gjithë kohën time duke u përpjekur të kontrolloj fjalimin politik. Pra, ne jemi do ta kemi ulur pak këmbën mbi të,” tha CEO i Midjourney, David Holz në një mbledhje shtypi më 13 mars. Midjourney hodhi idenë e ndalimit të kërkesave të tilla muajin e kaluar. Holz u tha anëtarëve të shtypit se ai parashikon një ngjarje edhe më të frikshme Realiteti i inteligjencës artificiale në vitin 2028, me aktorët e këqij që janë në gjendje të sintonizojnë më hollësisht falsifikimet dhe chatbot-et nga sa mund të imagjinojmë tani. Për këtë qëllim, tha ai, “këto gjëra të moderuara janë disi të vështira”.

Mjete të tjera gjeneruese të AI kanë lëshuar ndalime të ngjashme të menjëhershme për të adresuar përhapjen e imazheve shqetësuese. Vitin e kaluar, Bing Image Generator i Microsoft-it u përpoq të ndalonte kërkesat që përfshinin frazën “kulla binjake” për të frenuar përhapjen e memeve që shfaqnin personazhe të animuar që evokonin sulmet e 11 shtatorit – krijuesit e memeve, natyrisht, e gjetën punën e tyre.

Jo shumë kohë më vonë, gjeneratori i avancuar i imazhit i OpenAI, DALL-E 3, u rinovua me politika shumë më kufizuese të përdorimit , duke shtuar një “sistem sigurie me shumë nivele” që kufizon aftësinë e “DALL-E 3 për të gjeneruar përmbajtje të dhunshme, të urryer ose të rritur”. ” raportoi Mashable’s Chance Townsend. OpenAI lëshoi ​​udhëzime specifike për dezinformimin zgjedhor në janar, duke vënë në dukje se DALL-E 3 mund të refuzojë “kërkesat që kërkojnë gjenerim imazhi të njerëzve të vërtetë, përfshirë kandidatët”.

Në shkurt, OpenAI njoftoi se kishte zbuluar dhe mbyllur llogaritë e aktorëve të këqij të lidhur me shtetin e huaj duke përdorur teknologjitë e tij gjeneruese të AI.

Deri më tani, Midjourney më i dobët nuk kishte lëshuar një deklaratë ose nuk kishte krijuar politika të reja për të frenuar dezinformimin zgjedhor. Platforma ka një ndalim që përdoruesit të gjenerojnë imazhe “ose fushata politike, ose të përpiqen të ndikojnë në rezultatin e zgjedhjeve”. Ai ishte gjithashtu një nga prodhuesit kryesorë të gjenerimit të imazheve të AI që nuk nënshkroi një pakt vullnetar të industrisë , duke u zotuar të miratonte masa paraprake të falsifikimit të thellë dhe dezinformimit, të paraqitura muajin e kaluar. Vitin e kaluar, Qendra për Kundër urrejtjes Dixhitale raportoi se përdoruesit e Midjourney mund të kalonin lehtësisht udhëzimet dhe moderimet e komunitetit për të gjeneruar imazhe të vazhdueshme konspirative dhe raciste.

Një raport i fundit nga organizata jofitimprurëse testoi disa gjenerues imazhesh, duke përfshirë Midjourney, në aftësinë e tyre për të frenuar kërkesat që nxisin dezinformimin zgjedhor. Imazhet e krijuara përfshinin me sukses dezinformimin zgjedhor në 41 përqind të rasteve. Midjourney performoi më të keqen nga të gjitha mjetet e testuara, duke i munguar dezinformatat 65 për qind të kohës.

“Baza e të dhënave publike e Midjourney për imazhet e AI tregon se aktorët e këqij tashmë po përdorin mjetin për të prodhuar imazhe që mund të mbështesin dezinformimin zgjedhor,” paralajmëroi qendra.