Meta mendon se rrjetet sociale mund të na mbrojnë nga falsifikimet e thella

Falsifikimet e thella janë padyshim aspekti më i rrezikshëm i AI. Tani është relativisht e parëndësishme të krijosh foto, audio dhe madje edhe video të rreme. Shihni më poshtë për falsifikimet e thella të Morgan Freeman dhe Tom Cruise, për shembull.

Por ndërsa mediat sociale deri më tani janë përdorur si një mekanizëm për shpërndarjen e falsifikimeve të thella, kreu i Instagramit, Adam Mosseri mendon se në fakt mund të luajë një rol kyç në debutimin e tyre…

Metoda kryesore e përdorur për të krijuar video të rreme të thella deri më tani ka qenë një qasje e njohur si rrjetet kundërshtare gjeneruese (GAN).

Një model i AI ose gjeneron një videoklip të rremë ose shfaq një të vërtetë. Një model i dytë i AI përpiqet të identifikojë falsifikimet. Drejtimi i përsëritur i këtij procesi trajnon modelin e parë për të gjeneruar falsifikime gjithnjë e më bindëse.

Megjithatë, modelet e difuzionit si DALL-E 2 tani po marrin përsipër. Këto marrin pamje reale video, më pas bëjnë ndryshime të ndryshme për të krijuar një numër të madh variacionesh të tyre. Kërkesat e tekstit mund të përdoren për të udhëzuar modelin e AI mbi rezultatet që duam, duke i bërë ato më të lehta për t’u përdorur – dhe sa më shumë njerëz që i përdorin ato, aq më të trajnuar bëhen.

Këtu është një shembull i mirënjohur i një false të thellë Morgan Freeman, i krijuar plot tre vjet më parë, kur teknologjia ishte shumë më pak e sofistikuar se sa është sot:

Dhe një tjetër, e Tom Cruise në rolin e Iron Man:

Britanikët gjithashtu mund të njohin Martin Lewis, i cili është i njohur për ofrimin e këshillave financiare, këtu në një falsifikim të thellë për të promovuar një mashtrim kripto:

Ekzekutivi i Meta, Adam Mosseri mendon se mediat sociale në fakt mund t’i bëjnë gjërat më mirë sesa më keq, duke ndihmuar në shënjimin e përmbajtjeve të rreme – megjithëse ai vëren se nuk është perfekte për ta bërë këtë, dhe secili prej nesh duhet të marrim parasysh burimet.

Me kalimin e viteve ne jemi bërë gjithnjë e më të aftë për të krijuar imazhe realiste, të palëvizshme dhe të lëvizshme. Jurassic Park më shpërtheu mendjen në moshën dhjetë vjeçare, por ky ishte një film me vlerë 63 milionë dollarë. Syri i Artë për N64 ishte edhe më mbresëlënës për mua katër vjet më vonë, sepse ishte live. Ne i shikojmë këto media tani dhe ato duken të papërpunuara në rastin më të mirë. Pavarësisht nëse jeni apo jo një dem apo ari në teknologji, AI gjeneruese po prodhon qartë përmbajtje që është e vështirë të dallohet nga regjistrimet e realitetit dhe po përmirësohet me shpejtësi.

Një mik, @lessin , më shtyu ndoshta dhjetë vjet më parë mbi idenë se çdo pretendim duhet të vlerësohet jo vetëm për përmbajtjen e tij, por besueshmërinë e personit ose institucionit që e bën atë pretendim. Ndoshta kjo ka ndodhur vite më parë, por duket sikur tani është kur ne po vlerësojmë kolektivisht se është bërë më e rëndësishme të merret në konsideratë se kush po thotë një gjë sesa çfarë po thotë kur vlerëson vlefshmërinë e një deklarate.

Roli ynë si platforma të internetit është të etiketojmë përmbajtjen e krijuar si AI sa më mirë që mundemi. Por një pjesë e përmbajtjes do të kalojë në mënyrë të pashmangshme dhe jo të gjitha keqinterpretimet do të krijohen me AI, kështu që ne duhet të ofrojmë gjithashtu kontekst se kush po shpërndan, në mënyrë që të vlerësoni vetë se sa dëshironi t’i besoni përmbajtjes së tyre.

Do të jetë gjithnjë e më kritike që shikuesi ose lexuesi të sjellë një mendje të mprehtë kur konsumojnë përmbajtje që pretendohet të jetë një llogari ose një regjistrim i realitetit. Këshilla ime është që gjithmonë të konsideroni se kush është ai që po flet.