Detektori i imazheve me AI i Metës dështon të identifikojë disa nga imazhet e veta të krijuara me AI, pasi janë prerë
Një mjet i ri zbulimi i inteligjencës artificiale nga Meta, të cilin kompania teknologjike e prezantoi këtë javë së bashku me lançimin e modelit të saj të gjenerimit të imazheve, Muse Image, dështoi të identifikonte disa nga imazhet e veta të gjeneruara nga inteligjenca artificiale pasi ato u prenë, sipas një analize të Reuters.
Zbulimi nxjerr në pah sfidat e verifikimit të imazheve të gjeneruara nga inteligjenca artificiale pas ndryshimeve të zakonshme, një kufizim që mund ta bëjë më të vështirë identifikimin e imazheve të falsifikuara në internet gjatë një viti të ngjeshur zgjedhor që përfshin edhe zgjedhjet e mesit të mandatit në SHBA.
Në një analizë të 40 imazheve të gjeneruara duke përdorur Muse Image, Reuters zbuloi se mjeti i zbulimit verifikoi të gjitha imazhet origjinale të gjeneruara nga inteligjenca artificiale, por dështoi të verifikonte 55% të të njëjtave imazhe pasi ato u prenë në afërsisht një të tretën deri në gjysmën e madhësisë së tyre origjinale.
Në faqen e saj të internetit, Meta thotë se mjeti i zbulimit të pamjes paraprake mund të identifikojë imazhet e veta të gjeneruara nga IA, edhe nëse ato janë të prera, përmes një sistemi të padukshëm filigranimi të quajtur Content Seal, i cili është i integruar në çdo imazh të gjeneruar nga Muse Image dhe i projektuar për të ndihmuar përdoruesit të verifikojnë nëse është krijuar nga modelet IA të Meta-s.
Kur u pyet në lidhje me rezultatet e analizës së Reuters për mjetin e zbulimit, Meta vuri në dukje se mjeti ishte një pamje paraprake. Kompania tha se filigrani është projektuar të mbetet i paprekur pas redaktimeve të zakonshme, por se sinjali mund të humbasë nëse një imazh pritet shumë.
Kompanitë rivale të teknologjisë, Google dhe OpenAI, kanë paralajmëruar se mjetet e tyre të zbulimit nuk janë të pagabueshme kundër teknikave të ndryshimit të imazhit.
Në mars, Bordi Mbikëqyrës i Metës, një organ ekspertësh që merr vendime detyruese dhe lëshon rekomandime mbi çështjet e përmbajtjes në të gjitha platformat e mediave sociale të kompanisë, i bëri thirrje kompanisë të bëjë më shumë për të adresuar “përhapjen e përmbajtjes mashtruese të gjeneruar nga inteligjenca artificiale” në platformat e saj dhe të investojë në mjete më të forta zbulimi.
Siwei Lyu, një profesor i shkencave kompjuterike në Universitetin Shtetëror të Nju Jorkut në Buffalo, i cili hulumton forenzikën e imazheve të inteligjencës artificiale, tha se nuk e kishte vlerësuar mjetin e Metës, por se sistemet e bazuara në filigran kanë kufizime.
“Metodat e bazuara në filigran mund të jenë shumë efektive kur filigrani mbetet i paprekur, por çdo modifikim që heq ose dobëson sinjalin e ngulitur – siç është prerja, ndryshimi i madhësisë, kompresimi i rëndë ose redaktimi – mund të zvogëlojë efektivitetin e tyre, varësisht nga mënyra se si është projektuar filigrani”, tha Lyu.
Sarah Barrington, një studiuese e inteligjencës artificiale dhe kandidate për doktoraturë në Shkollën e Informacionit të UC Berkeley, tha se filigranimi është premtues për të ardhmen e përmbajtjes së gjeneruar nga inteligjenca artificiale, por mund të bëjë vetëm njëfarë mase.
“Ashtu si shumë masa parandaluese të sigurisë kibernetike ose të sigurisë fizike, mund të mos jetë plotësisht e papërshkueshme nga uji, por edhe nëse kapim vetëm 90% të rasteve, ky është ende një kërcim i madh nga zero”, tha ajo.