OpenAI po e bën më të lehtë verifikimin nëse një imazh është krijuar nga modelet e saj
Me gjeneratorët e imazheve të inteligjencës artificiale që janë gjerësisht të disponueshëm në internet dhe më të sofistikuar se kurrë, nuk ka qenë kurrë më e vështirë të dallosh nëse një imazh është autentik. Por të martën, OpenAI njoftoi dy masa të reja për të ndihmuar në luftimin e problemit.
Kompania është zotuar për një standard të hapur të quajtur C2PA, i cili shton një sinjal të qartë në meta të dhënat se një imazh është gjeneruar nga IA. OpenAI po bashkëpunon gjithashtu me Google për të përfshirë një filigran të padukshëm të quajtur SynthID, i cili do të jetë më i vështirë për t’u zbuluar, por edhe më i vështirë për t’u fshirë nëse aktorët e këqij përpiqen të fshehin gjurmët e tyre.
Mbrojtjet e reja vlejnë vetëm për imazhet e gjeneruara nga produktet OpenAI, kështu që ato nuk do të ndikojnë në vërshimin e imazheve që vijnë nga mjete më pak të besueshme të IA-së; ato mund të ndihmojnë në sigurimin që OpenAI të mos jetë pjesë e problemit.
OpenAI po prezanton gjithashtu një mjet publik verifikimi që do të kontrollojë të dy sinjalet, duke u lejuar përdoruesve të testojnë lehtësisht nëse një imazh është gjeneruar duke përdorur IA-në. Fillimisht, mjeti do të shtrihet vetëm në imazhet e gjeneruara nga produktet OpenAI; kompania shpreson ta zgjerojë atë për të mbuluar mjete të tjera me kalimin e kohës.
E themeluar në vitin 2021, Koalicioni për Origjinën dhe Autenticitetin e Përmbajtjes (C2PA) është një organizatë jofitimprurëse e dedikuar për zbutjen e efekteve të dëmshme të imazheve të inteligjencës artificiale në diskursin publik. Standardi C2PA është miratuar nga një gamë e produkteve të Google, por miratimi mbetet i paqëndrueshëm në të gjithë industrinë. Meqenëse sinjali C2PA është qartësisht i arritshëm në meta të dhënat e secilit skedar, ai mund të manipulohet dhe është më i dobishëm midis përdoruesve të besuar.
SynthID është një përpjekje më e re e projektuar për të qenë një masë më e fuqishme kundër ndërhyrjes. I zhvilluar nga Google, filigrani SynthID është projektuar të vazhdojë edhe kur aktorët keqdashës përpiqen ta heqin atë, qoftë përmes pamjeve të ekranit, ndryshimit të madhësisë apo manipulimit dixhital.
Të dy sistemet kanë për qëllim të plotësojnë njëri-tjetrin, ku secili adreson dobësitë e tjetrit.
“Filigranimi mund të jetë më i qëndrueshëm përmes transformimeve si pamjet e ekranit, ndërsa meta të dhënat mund të ofrojnë më shumë informacion sesa një filigran më vete”, vuri në dukje OpenAI në njoftimin e saj. “Së bashku, ato e bëjnë origjinën më të qëndrueshme sesa do të ishte secila shtresë më vete.”