Modelet e reja të Pangram zbulojnë falsifikimet e krijuara me AI në imazhe dhe video
Pangram lançoi Pangram Image 1.0 për imazhet me inteligjencë artificiale dhe Image Flash 1.0 më të shpejtë për video. Ai pretendon rezultate pothuajse perfekte në testet e veta dhe 98.7% në testin akademik DF26. Të dyja janë në aplikacionin e saj të uebit dhe API-në, dhe Image 1.0 është në zgjerimin e saj të Chrome.
Pangram, një startup nga Nju Jorku i njohur për zbulimin e tekstit të shkruar nga inteligjenca artificiale, ka lançuar dy modele për zbulimin e imazheve dhe videove të prodhuara nga inteligjenca artificiale, tha kompania të mërkurën. Pangram Image 1.0 kontrollon imazhet statike, ndërsa Pangram Image Flash 1.0, më i vogël dhe më i shpejtë, kontrollon videon kornizë pas kornize.
Modeli i imazhit mund të vizatojë gjithashtu një hartë nxehtësie që tregon se ku ndodhet përmbajtja e IA-së në një fotografi, siç është një objekt i rremë i shtuar në një foto të vërtetë. Pangram thotë se kap 99.2% të imazheve të IA-së dhe gabimisht sinjalizon 0.27% të atyre reale.
Në testin e vet, Pangram bëri kopje me anë të inteligjencës artificiale të 100 fotove reale me 12 gjeneratorë kryesorë të imazheve, duke përdorur udhëzime që përputheshin ngushtë me secilin origjinal. Image 1.0 shënoi saktësi 99.96% në atë set. Testi u hartua nga Pangram, jo nga recensues të jashtëm.
Për videon, Pangram përdori DF26, një standard akademik prej 2,691 klipesh të njerëzve që flasin para kameras, i botuar në shtator. Autorët e tij zbuluan se si njerëzit ashtu edhe detektorët kryesorë nuk bënë shumë më tepër sesa rastësia në dallimin e klipeve të vërteta nga ato të rreme.
Pangram thotë se Flash 1.0 shënon 98.7% në DF26, 29 pikë përpara detektorit të dytë më të mirë.
Modelet e reja funksionojnë edhe në imazhe më të vogla, deri në 256 me 256 piksel nga 512 me 512. Rezultatet nën 512 piksel mbartin një paralajmërim për besueshmëri më të ulët. Pangram thotë se i trajnon modelet të shohin përmes kompresimit, turbullimit dhe zhurmës, të cilat mund t’i shtojnë platformat dhe njerëzit që përpiqen të mashtrojnë detektorët.
Image 1.0 tani funksionon në zgjerimin Chrome të Pangram, i cili sinjalizon përmbajtjen e IA-së në mediat sociale, faqet e blerjeve dhe të qirasë. Përdoruesit gjithashtu mund të ngarkojnë video në aplikacionin web, dhe API tani trajton si imazhet ashtu edhe videot. Platformat gjithashtu po marrin masa të rrepta: Snapchat ka ndaluar së rekomanduari video të IA-së në Spotlight.
Pangram mblodhi 9 milionë dollarë në një raund të udhëhequr nga Menlo Ventures në korrik, kur prezantoi për herë të parë zbulimin e imazheve. Detektori i saj i tekstit tashmë funksionon në Substack.
Detektorët e inteligjencës artificiale ende bëjnë gabime. Në gusht, mjeti tekstual i Pangram-it e etiketoi artikullin e një profesoreshe të Berkeley -t si pjesërisht të shkruar nga inteligjenca artificiale, gjë të cilën ajo e kundërshtoi.
Edhe detektori i imazheve të Metës nuk i ka gjetur imazhet e rreme të prera nga gjeneratori i saj më shumë se gjysmën e rasteve në testet e Reuters. Në YouTube, një rrjet që paguante aktorë të vërtetë për të lexuar skripte të inteligjencës artificiale i tejkaloi detektorët e tij.