ElevenLabs thuhet se ndaloi llogarinë që falsifikoi zërin e Biden me mjetet e tij të AI
ElevenLabs , një startup i inteligjencës artificiale që ofron shërbime të klonimit të zërit me mjetet e tij, ka ndaluar përdoruesin që krijoi një fake të thellë audio të Joe Biden të përdorur në një përpjekje për të prishur zgjedhjet, sipas Bloomberg . Audioja që imitonte presidentin u përdor në një thirrje automatike që iu drejtua disa votuesve në New Hampshire javën e kaluar, duke u thënë atyre të mos votonin në zgjedhjet paraprake të shtetit të tyre. Fillimisht nuk ishte e qartë se çfarë teknologjie u përdor për të kopjuar zërin e Biden, por një analizë e plotë nga kompania e sigurisë Pindrop tregoi se autorët përdorën mjetet e ElevanLabs.
Firma e sigurisë hoqi zhurmën e sfondit dhe pastroi audion e thirrjes robotike përpara se ta krahasonte atë me mostrat nga më shumë se 120 teknologji të sintezës së zërit të përdorura për të gjeneruar falsifikime të thella. CEO i Pindrop, Vijay Balasubramaniyan i tha Wired se “u kthye në veri të 99 përqind se ishte ElevenLabs”. Bloomberg thotë se kompania u njoftua për gjetjet e Pindrop dhe është ende duke hetuar, por tashmë ka identifikuar dhe pezulluar llogarinë që ka bërë audion e rreme. ElevenLabs i tha organizatës së lajmeve se nuk mund të komentojë vetë çështjen, por se “i përkushtohet parandalimit të keqpërdorimit të mjeteve të AI-së audio dhe [që i merr] jashtëzakonisht seriozisht çdo incident keqpërdorimi”.
Thirrja robotike e falsifikuar e Bidenit tregon se si teknologjitë që mund të imitojnë ngjashmërinë dhe zërin e dikujt tjetër mund të përdoren për të manipuluar votat në këto zgjedhje presidenciale të ardhshme në SHBA. “Kjo është vetëm maja e ajsbergut në atë që mund të bëhet në lidhje me shtypjen e votuesve ose sulmet ndaj punonjësve të zgjedhjeve,” i tha The Hill Kathleen Carley, një profesore në Universitetin Carnegie Mellon . “Ishte pothuajse një pararojë e gjërave që duhet të prisnim gjatë muajve të ardhshëm.”
Internetit iu deshën vetëm disa ditë pasi ElevenLabs lançoi versionin beta të platformës së tij për të filluar përdorimin e tij për të krijuar klipe audio që tingëllojnë si të famshëm duke lexuar ose thënë diçka të dyshimtë. Fillimi lejon klientët të përdorin teknologjinë e tij për të klonuar zërat për “fjalim artistik dhe politik që kontribuon në debatet publike”. Faqja e saj e sigurisë paralajmëron përdoruesit se ata “nuk mund të klonojnë një zë për qëllime abuzive si mashtrimi, diskriminimi, gjuha e urrejtjes ose për çfarëdo forme abuzimi në internet pa shkelur ligjin”. Por në mënyrë të qartë, ajo duhet të vendosë më shumë masa mbrojtëse për të parandaluar aktorët e këqij që të përdorin mjetet e saj për të ndikuar tek votuesit dhe për të manipuluar zgjedhjet në mbarë botën.