OpenAI thotë se aktorët e këqij po përdorin platformën e saj për të prishur zgjedhjet

OpenAI po bëhet gjithnjë e më shumë një platformë e zgjedhur për aktorët kibernetikë që kërkojnë të ndikojnë në zgjedhjet demokratike në të gjithë globin.

Në një raport prej 54 faqesh të publikuar të mërkurën, krijuesi i ChatGPT tha se ka ndërprerë “më shumë se 20 operacione dhe rrjete mashtruese nga e gjithë bota që u përpoqën të përdornin modelet tona”. Kërcënimet varionin nga artikujt e faqeve të internetit të krijuara nga AI deri tek postimet në mediat sociale nga llogaritë e rreme.

Kompania tha se përditësimi i saj mbi “ndikimin dhe operacionet kibernetike” kishte për qëllim të sigurojë një “fotografi” të asaj që po sheh dhe për të identifikuar “një grup fillestar trendesh që ne besojmë se mund të informojnë debatin se si AI përshtatet në peizazhin më të gjerë të kërcënimit”.

Raporti i OpenAI vjen më pak se një muaj para zgjedhjeve presidenciale në SHBA. Përtej SHBA-së, ky është një vit i rëndësishëm për zgjedhjet në mbarë botën, ku zhvillohen gara që prekin mbi 4 miliardë njerëz në më shumë se 40 vende. Rritja e përmbajtjes së gjeneruar nga AI ka çuar në shqetësime serioze të dezinformatave të lidhura me zgjedhjet, me numrin e falsifikimit të thellë që janë krijuar duke u rritur 900% nga viti në vit, sipas të dhënave nga Clarity, një firmë e mësimit të makinerive.

Dezinformimi në zgjedhje nuk është një fenomen i ri. Ka qenë një problem i madh që daton që nga fushata presidenciale e 2016-ës në SHBA, kur aktorët rusë gjetën mënyra të lira dhe të lehta për të përhapur përmbajtje të rreme nëpër platformat sociale. Në vitin 2020, rrjetet sociale u përmbytën me dezinformata mbi vaksinat kundër Covid dhe mashtrimet zgjedhore.

Shqetësimet e ligjvënësve sot janë më të përqendruara në rritjen e AI gjeneruese, e cila u ngrit në fund të vitit 2022 me lançimin e ChatGPT dhe tani po miratohet nga kompani të të gjitha madhësive.

OpenAI shkroi në raportin e tij se përdorimet e lidhura me zgjedhjet e AI “variheshin në kompleksitet nga kërkesat e thjeshta për gjenerimin e përmbajtjes, tek përpjekjet komplekse, me shumë faza për të analizuar dhe për t’iu përgjigjur postimeve të mediave sociale”. Përmbajtja e mediave sociale lidhej kryesisht me zgjedhjet në SHBA dhe Ruandë, dhe në një masë më të vogël, zgjedhjet në Indi dhe BE, tha OpenAI.

Në fund të gushtit, një operacion iranian përdori produktet e OpenAI për të gjeneruar “artikuj të gjatë” dhe komente në mediat sociale në lidhje me zgjedhjet në SHBA, si dhe tema të tjera, por kompania tha se shumica e postimeve të identifikuara morën pak ose aspak pëlqime, aksione dhe komentet. Në korrik, kompania ndaloi llogaritë e ChatGPT në Ruandë që postonin komente të lidhura me zgjedhjet në X. Dhe në maj, një kompani izraelite përdori ChatGPT për të gjeneruar komente në mediat sociale për zgjedhjet në Indi. OpenAI shkroi se ishte në gjendje të adresonte rastin brenda më pak se 24 orësh.

Në qershor, OpenAI iu drejtua një operacioni të fshehtë që përdorte produktet e tij për të gjeneruar komente në lidhje me zgjedhjet e Parlamentit Evropian në Francë dhe politikën në SHBA, Gjermani, Itali dhe Poloni. Kompania tha se ndërsa shumica e postimeve të mediave sociale që identifikoi morën pak pëlqime ose shpërndarje, disa njerëz të vërtetë iu përgjigjën postimeve të krijuara nga AI.

Asnjë nga operacionet e lidhura me zgjedhjet nuk ishte në gjendje të tërhiqte “angazhim viral” ose të ndërtonte “audiencë të qëndrueshme” nëpërmjet përdorimit të mjeteve të tjera të ChatGPT dhe OpenAI, shkroi kompania.