OpenAI ka një detektor teksti ChatGPT shumë të saktë por nuk do ta lëshojë atë për momentin

Prodhuesi i ChatGPT OpenAI ka funksione të reja kërkimi dhe zëri në rrugë e sipër, por gjithashtu ka në dispozicion një mjet që thuhet se është mjaft i mirë në kapjen e të gjithë atyre artikujve të rremë të krijuar nga AI që shihni në internet në ditët e sotme. Kompania është ulur në të për gati dy vjet, dhe gjithçka që duhet të bëjë është ta ndezë atë. Gjithsesi, kompania e udhëhequr nga Sam Altman është ende duke menduar nëse do ta lëshojë atë pasi një veprim i tillë mund të zemërojë fansat më të mëdhenj të OpenAI.

Ky nuk është ai algoritmi i zhdukur i zbulimit të AI që kompania lëshoi ​​në 2023, por diçka shumë më e saktë. OpenAI heziton të lëshojë këtë mjet për zbulimin e AI, sipas një raporti nga Wall Street Journal të dielën bazuar në disa burime anonime nga brenda kompanisë. Programi është efektivisht një sistem ujërash i AI që ngulit tekstin e krijuar nga AI me modele të caktuara që mund të zbulojë mjeti i tij. Ashtu si detektorët e tjerë të AI, sistemi i OpenAI do të shënonte një dokument me një përqindje se sa gjasa është krijuar me ChatGPT.

OpenAI konfirmoi se ky mjet ekziston në një përditësim të një postimi në blog të majit të postuar të dielën. Programi thuhet se është 99.9% efektiv bazuar në dokumentet e brendshme, sipas WSJ. Kjo do të ishte shumë më e mirë se sa efektiviteti i deklaruar i softuerëve të tjerë të zbulimit të AI të zhvilluara gjatë dy viteve të fundit. Kompania pretendoi se ndërsa është e mirë kundër prishjes lokale, mund të anashkalohet duke e përkthyer dhe ripërkthyer me diçka si Google Translate ose duke e riformuluar duke përdorur një gjenerator tjetër të AI. OpenAI tha gjithashtu se ata që dëshirojnë të anashkalojnë mjetin mund të “fusin një karakter të veçantë midis çdo fjale dhe më pas ta fshijnë atë karakter”.

Përkrahësit e brendshëm të programit thonë se do të bëjë shumë për t’i ndihmuar mësuesit të kuptojnë se kur nxënësit e tyre kanë dorëzuar detyrat e shtëpisë të krijuara nga AI. Kompania thuhet se u ul në këtë program për vite me radhë për shkak të shqetësimeve se afër një e treta e bazës së saj të përdoruesve nuk do ta pëlqente atë. Në një deklaratë me email, një zëdhënës i OpenAI tha:

“Metoda e vulosjes së tekstit që po zhvillojmë është teknikisht premtuese, por ka rreziqe të rëndësishme që po i peshojmë ndërkohë që hulumtojmë alternativa, duke përfshirë ndjeshmërinë ndaj anashkalimit nga aktorë të këqij dhe potencialin për të ndikuar në mënyrë disproporcionale grupe si jo-anglishtfolësit. Ne besojmë se qasja e qëllimshme që kemi marrë është e nevojshme duke pasur parasysh kompleksitetin e përfshirë dhe ndikimin e saj të mundshëm në ekosistemin më të gjerë përtej OpenAI-t.”

Problemi tjetër për OpenAI është shqetësimi se nëse lëshon mjetin e tij mjaft gjerësisht, dikush mund të deshifrojë teknikën e filigranit të OpenAI. Ekziston gjithashtu një problem që mund të jetë i njëanshëm ndaj folësve të anglishtes jo-amtare, siç e kemi parë me detektorë të tjerë të AI.

Google gjithashtu zhvilloi teknika të ngjashme filigrani për imazhet dhe tekstin e krijuar nga AI, të quajtura SynthID. Ky program nuk është i disponueshëm për shumicën e konsumatorëve, por të paktën kompania është e hapur për ekzistencën e tij.

Meqenëse teknologjia e madhe po zhvillon mënyra të reja për të nxjerrë tekstin dhe imazhet e krijuara nga AI në internet, mjetet për të zbuluar falsifikimet nuk janë aq të afta. Mësuesit dhe profesorët dhe veçanërisht të vështirë për të zbuluar nëse studentët e tyre po japin detyra të shkruara nga ChatGPT. Mjetet aktuale të zbulimit të AI nga kompani si Turnitin kanë një shkallë dështimi deri në 15%. Ajo kompani tha se e bën këtë për të shmangur rezultatet false.

Dhe jo vetëm mësuesit e ndiejnë thumbimin e gjenerimit të teksteve të AI. Shkence.info raportoi më parë për një numër profesionistësh të shkrimit të cilët u akuzuan në mënyrë të rreme për përdorimin e AI për të përfunduar punën e tyre dhe më pas u pushuan nga puna. Studiuesit thanë se detektorët e palëve të treta të AI të përdorura në ato raste janë shpesh shumë më pak të besueshëm sesa reklamohen.