OpenAI po shton filigranë të padukshëm në tekstet e ChatGPT në BE

Përdoruesit e ChatGPT në Bashkimin Evropian së shpejti do të kenë një filigran të padukshëm në përgjigjet me tekst të përshtatshme. OpenAI planifikon ta prezantojë teknologjinë në të gjitha planet ChatGPT dhe Codex në BE gjatë javëve të ardhshme, duke ngritur pyetje se si njerëzit do t’i interpretojnë rezultatet.

OpenAI njoftoi lançimin në përgjigje të Aktit të BE-së për IA-në. Klientët e API-t në të gjithë botën mund të zgjedhin gjithashtu modele të zgjedhura duke filluar nga sot, por filigranimi mbetet i çaktivizuar si parazgjedhje në API. Kompania nuk po e prezanton atë si një parazgjedhje globale në lançim.

Teknologjia, e quajtur textGrain, krijon një model statistikor përmes zgjedhjeve të fjalëve të modelit. Sipas shpjegimit teknik të OpenAI, ajo nuk shton karaktere të fshehura, hapësira të padukshme ose shenja pikësimi të pazakonta. Meqenëse sinjali ekziston në formulim, kopjimi dhe ngjitja nuk e heq automatikisht atë.

Megjithatë, zbulimi ka kufizime të konsiderueshme. Në një vlerësim të pasazheve me 400 shenja, zëvendësimi i 10 përqind të fjalëve me sinonime e uli zbulimin nga rreth 92 përqind në 66 përqind. Zëvendësimi i 25 përqind e uli atë në 17 përqind. OpenAI fillimisht do të kufizojë aksesin në detektor vetëm për studiuesit dhe organizatat e ekspertëve të miratuara.

Një filigran gjithashtu nuk mund të masë kontributin njerëzor, të përcaktojë pronësinë, të identifikojë përdoruesin ose të verifikojë saktësinë. Mungesa e tij nuk vërteton se një njeri e ka shkruar tekstin. Kjo lë hapësirë ​​të konsiderueshme për njerëzit për të nxjerrë përfundime që teknologjia nuk mund t’i mbështesë.

Merrni për shembull dikë që shkruan një ese origjinale dhe i kërkon ChatGPT-së të përmirësojë gramatikën e saj. Krahasojeni këtë me dikë që i kërkon chatbot-it të prodhojë të gjithë detyrën. Një rezultat pozitiv zbulimi nuk mund ta shpjegojë ndryshimin, edhe pse sasia e përpjekjes njerëzore mund të jetë shumë e ndryshme.

Shqetësimi im është se një mësues, punëdhënës ose lexues mund ta trajtojë atë rezultat si një vendim. Dikush që ka zhvilluar idetë, ka kontrolluar faktet dhe ka formësuar argumentin mund ta gjejë punën e tij të hedhur poshtë sepse ka përdorur një mjet redaktimi. Kjo është një pasojë e mundshme, jo diçka që ky njoftim përcakton se ka ndodhur.

E vlerësoj fokusin e dukshëm të BE-së në mbrojtjen e qytetarëve të saj, por sipas mendimit tim, tejkalimi i saj rregullator zakonisht çon në pasoja negative. Kërkesa për një sinjal teknik nuk siguron që njerëzit ta kuptojnë atë. Një masë transparence mund të bëhet burim dyshimi të padrejtë nëse përdoruesit i anashkalojnë kufizimet e saj.

Dobësia në redaktim krijon një problem tjetër. Dikush që përdor në mënyrë modeste inteligjencën artificiale mund të ruajë një sinjal të dallueshëm, ndërsa rishkrimi i gjerë mund ta bëjë më të vështirë gjetjen e tij. Vë në dyshim se sa e dobishme do të jetë kjo për këdo që shpreson të gjykojë shkallën e përfshirjes së inteligjencës artificiale.

Jam i lumtur që jam amerikan dhe jam i lehtësuar që ky lançim i parazgjedhur nuk vlen për përdorimin tim të ChatGPT në SHBA. Do të preferoja që vendimet në lidhje me mjetet e shkrimit të linin hapësirë ​​për gjykim individual, veçanërisht kur një detektor nuk mund të japë llogari për punën e kontribuar nga një person.

OpenAI ka të drejtë që i shpjegon këto kufizime që në fillim. Sfida është të sigurohet që kushdo që përdor detektorin e saj t’i marrë ato seriozisht, sepse një model i padukshëm në fjalët e dikujt nuk duhet të jetë më i rëndësishëm se një vlerësim i drejtë i punës së tij.