Meta debuton një mjet për vulosjen e videove të krijuara nga AI
Hidhe një gur dhe ka të ngjarë të godasësh një falsifikim të thellë. Komoditizimi i inteligjencës artificiale gjeneruese ka çuar në një shpërthim absolut të përmbajtjes së rreme në internet. Sipas platformës së verifikimit të ID-së Sumsub, ka pasur një rritje 4 herë në deepfakes në mbarë botën nga viti 2023 në 2024. Në vitin 2024, deepfakes përbënin 7% të të gjitha mashtrimeve, për Sumsub, duke filluar nga imitimet dhe marrja e llogarive deri te inxhinieria e sofistikuar sociale fushatave.
Me atë që shpreson të jetë një kontribut kuptimplotë në luftën kundër falsifikimit të thellë, Meta po nxjerr një mjet për të aplikuar filigranë të padukshëm në videoklipet e krijuara nga AI. I njoftuar të enjten, mjeti, i quajtur Meta Video Seal, është i disponueshëm në burim të hapur dhe i projektuar për t’u integruar në softuerin ekzistues. Mjeti bashkohet me mjetet e tjera të shenjimit të ujit të Metës, Watermark Anything (ri-lëshuar sot nën një licencë lejuese) dhe Audio Seal.
“Ne zhvilluam Video Seal për të ofruar një zgjidhje më efektive për vulosjen e videove, veçanërisht për zbulimin e videove të krijuara nga AI dhe mbrojtjen e origjinalitetit,” tha në një intervistë për TechCrunch Pierre Fernandez, shkencëtar kërkimor i AI në Meta.
Video Seal nuk është teknologjia e parë e këtij lloji. SynthID i DeepMind mund të vulos videot, dhe Microsoft ka metodologjitë e veta të filigranizimit të videos.
Por Fernandez pohon se shumë qasje ekzistuese dështojnë.
“Ndërsa ekzistojnë mjete të tjera për shënjimin e ujit, ato nuk ofrojnë qëndrueshmëri të mjaftueshme për kompresimin e videos, gjë që është shumë e përhapur kur ndahet përmbajtje përmes platformave sociale; nuk ishin mjaftueshëm efikas për të kandiduar në shkallë; nuk ishin të hapura ose të riprodhueshme; ose janë nxjerrë nga filigrani i imazhit, i cili është jooptimal për videot,” tha Fernandez.
Përveç një filigrani, Video Seal mund të shtojë një mesazh të fshehur në video që mund të zbulohen më vonë për të përcaktuar origjinën e tyre. Meta pretendon se Video Seal është elastike ndaj modifikimeve të zakonshme si mjegullimi dhe prerja, si dhe algoritmet e njohura të kompresimit.
Fernandez pranon se Video Seal ka disa kufizime, kryesisht shkëmbimin midis asaj se sa të dukshme janë filigranët e mjetit dhe elasticitetin e tyre të përgjithshëm ndaj manipulimit. Kompresimi i rëndë dhe modifikimet e rëndësishme mund të ndryshojnë filigranët ose t’i bëjnë ato të parikuperueshme, shtoi ai.
Sigurisht, problemi më i madh me të cilin përballet Video Seal është se zhvilluesit dhe industria nuk do të kenë shumë arsye për ta miratuar atë, veçanërisht ata që tashmë përdorin zgjidhje të pronarit. Në një përpjekje për të adresuar këtë, Meta po lançon një tabelë drejtuese publike, Meta Omni Seal Bench, dedikuar krahasimit të performancës së metodave të ndryshme të shënjimit të ujit dhe organizimit të një seminari mbi filigranin këtë vit në ICLR, një konferencë e madhe e AI.
“Shpresojmë që gjithnjë e më shumë studiues dhe zhvillues të AI do të integrojnë një formë të filigranit në punën e tyre,” tha Fernandez. “Ne duam të bashkëpunojmë me industrinë dhe komunitetin akademik për të përparuar më shpejt në këtë fushë.”