Gjenerimi i zërit me AI të ElevenLabs ‘shumë i mundshëm’ përdoret në një operacion të ndikimit rus

Inteligjenca artificiale gjeneruese ka një mori keqpërdorimesh të mirëdokumentuara, nga krijimi i punimeve akademike deri te kopjimi i artistëve. Dhe tani, duket se po shfaqet në operacionet e ndikimit të shtetit.

Një fushatë e fundit ishte “shumë e mundshme” e ndihmuar nga produktet komerciale të gjenerimit të zërit të AI, duke përfshirë teknologjinë e lëshuar publikisht nga startup-i i nxehtë ElevenLabs, sipas një raporti të fundit nga kompania e inteligjencës së kërcënimeve me bazë në Massachusetts, Recorded Future.

Raporti përshkruan një fushatë të lidhur me Rusinë e krijuar për të minuar mbështetjen e Evropës për Ukrainën, të quajtur “Operation Undercut”, që përdorte dukshëm zëra të gjeneruara nga AI në video të rreme ose mashtruese “lajme”.

Videot, të cilat synonin audiencën evropiane, sulmonin politikanët ukrainas si të korruptuar ose vënë në pikëpyetje dobinë e ndihmës ushtarake për Ukrainën, mes temave të tjera. Për shembull, një video pretendonte se “edhe bllokuesit nuk mund t’i shpëtojnë tanket amerikane Abrams”, duke iu referuar pajisjeve të përdorura nga tanket amerikane për të devijuar raketat në hyrje – duke përforcuar pikën se dërgimi i armaturës së teknologjisë së lartë në Ukrainë është i pakuptimtë.

Raporti thotë se krijuesit e videove “me shumë gjasa” kanë përdorur AI të krijuar nga zëri, duke përfshirë teknologjinë ElevenLabs, për ta bërë përmbajtjen e tyre të duket më legjitime. Për të verifikuar këtë, studiuesit e Recorded Future dorëzuan klipet në klasifikuesin e vetë AI të të folurit të ElevenLabs, i cili ofron mundësinë për këdo që të “zbulojë nëse një klip audio është krijuar duke përdorur ElevenLabs” dhe ka marrë një përputhje.

ElevenLabs nuk iu përgjigj kërkesave për koment. Megjithëse Recorded Future vuri në dukje përdorimin e mundshëm të disa mjeteve komerciale të gjenerimit të zërit të AI, ai nuk përmendi asnjë tjetër përveç ElevenLabs.

Dobia e gjenerimit të zërit të inteligjencës artificiale u shfaq pa dashje nga vetë orkestruesit e fushatës së ndikimit, të cilët – mjaft të ngathët – publikuan disa video me zëra të vërtetë njerëzorë që kishin “një theks të dukshëm rus”. Në të kundërt, zërat e gjeneruar nga AI flisnin në gjuhë të shumta evropiane si anglisht, frëngjisht, gjermanisht dhe polonisht, pa thekse me tinguj të huaj.

Sipas Recorded Future, AI gjithashtu lejoi që klipet mashtruese të publikoheshin shpejt në shumë gjuhë të folura në Evropë si anglisht, gjermanisht, frëngjisht, polonisht dhe turqisht (rastësisht, të gjitha gjuhët e mbështetura nga ElevenLabs.)

Recorded Future ia atribuoi aktivitetin Agjencisë së Dizajnit Social, një organizatë me bazë në Rusi që qeveria e SHBA e sanksionoi këtë mars për drejtimin e “një rrjeti prej mbi 60 faqesh interneti që imitonin organizata të vërteta të lajmeve në Evropë, më pas përdorën llogari false të mediave sociale për të përforcuar mashtruesit përmbajtja e faqeve të internetit të falsifikuara.” E gjithë kjo u bë “në emër të Qeverisë së Federatës Ruse”, tha në atë kohë Departamenti Amerikan i Shtetit.

Ndikimi i përgjithshëm i fushatës në opinionin publik në Evropë ishte minimal, përfundoi Recorded Future.

Kjo nuk është hera e parë që produktet e ElevenLabs janë veçuar për keqpërdorime të supozuara. Teknologjia e kompanisë qëndronte pas një thirrjeje robotike që imitonte Presidentin Joe Biden që u kërkoi votuesve të mos dilnin dhe të votonin gjatë zgjedhjeve paraprake në janar 2024, përfundoi një kompani e zbulimit të mashtrimit me zë, sipas Bloomberg. Si përgjigje, ElevenLabs tha se lëshoi ​​veçori të reja sigurie si bllokimi automatik i zërave të politikanëve.

ElevenLabs ndalon “imitimin e paautorizuar, të dëmshëm ose mashtrues” dhe thotë se përdor mjete të ndryshme për ta zbatuar këtë, si për shembull moderimi i automatizuar dhe ai njerëzor.

ElevenLabs ka përjetuar rritje shpërthyese që nga themelimi i saj në 2022. Kohët e fundit u rrit ARR në 80 milionë dollarë nga 25 milionë dollarë më pak se një vit më parë dhe së shpejti mund të vlerësohet në 3 miliardë dollarë, raportoi më parë TechCrunch. Investitorët e saj përfshijnë Andreessen Horowitz dhe ish-CEO i Github, Nat Friedman.