OpenAI publikon një klasifikues të ri imazhesh dhe paralajmërime në ChatGPT për të luftuar materialet me abuzim seksual ndaj fëmijëve (CSAM)

foto

OpenAI njoftoi sot mjete të reja për të luftuar materialet e abuzimit seksual me fëmijë (CSAM) mes shqetësimeve në rritje për sigurinë rreth përdorimit të mjeteve të IA-së. Këto karakteristika përfshijnë një klasifikues të ri imazhesh për të zbuluar CSAM, paralajmërime dhe bllokime të përkohshme për të parandaluar përdoruesit të krijojnë ose të hyjnë në përmbajtje që seksualizon fëmijët, një udhëzues të ri për zhvilluesit dhe një sërë mjetesh për zbatimin e ligjit.

foto

Kompania zbuloi një klasifikues të ri imazhesh që mund të zbulojë imazhet CSAM, duke përfshirë ato të gjeneruara nga IA. OpenAI po u jep kompanive të zgjedhura qasje në klasifikuesin e saj përmes API-t të saj pa pagesë. Mjeti kërkon shenja vizuale të abuzimit në imazhe që nuk janë parë më parë dhe cakton një pikëzim që mund t’u japë një drejtim tregues shqyrtuesve se si të merren me CSAM.

foto

OpenAI tha se e zhvilloi këtë klasifikues me Qendrën Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar (NCMEC) dhe po punon me Tech Coalition dhe ROOST për të ndarë aksesin në mjet. Në testimet e hershme me partnerët, kompania e IA-së zbuloi se klasifikuesi shënon 48% më pak imazhe ndërsa gjen të njëjtin numër imazhesh abuzive, duke zvogëluar punën e recensentëve. Plus, imazhet e shënuara nga klasifikuesi kanë dy herë më shumë gjasa të jenë imazhe abuzive.

Për më tepër, kompania po shton ekrane të reja paralajmëruese në ChatGPT për të parandaluar përdoruesit nga qasja në materiale që seksualizojnë fëmijët. ChatGPT do të shfaqë një alarm për përdoruesit që përpiqen të bëjnë kërkesa të tilla, do t’i drejtojë përdoruesit drejt mbështetjes së specializuar për të ndaluar sjelljen e dëmshme dhe gjithashtu do të pezullojë llogarinë për 24 orë si paralajmërim. Aplikacioni tashmë bllokon përmbajtjen CSAM dhe kërkesat që lidhen me të. Ajo tha se shkeljet e përsëritura mund të çojnë në heqjen e përhershme të llogarisë.

OpenAI vuri në dukje se krijoi mesazhin dhe udhëzimet rreth kësaj sjelljeje me organizata dhe studiues, duke përfshirë Protect Children , Lucy Faithfull Foundation dhe Joel Scanlan në Universitetin e Tasmanisë, të cilët vlerësuan në mënyrë të pavarur një provë me mesazhe parandaluese.

Kompania po publikon gjithashtu udhëzime për zhvilluesit që përdorin mjetet OpenAI për të parandaluar, zbuluar dhe ndihmuar përdoruesit të raportojnë përmbajtje CSAM. Ajo tha se në testimet e hershme, udhëzimet kanë ndihmuar një numër zhvilluesish të miratojnë mjetet e sigurisë së fëmijëve dhe të regjistrohen për të raportuar CSAM në NCMEC. OpenAI po pajis gjithashtu zbatimin e ligjit që merret me sigurinë e fëmijëve me veçori të mundësuara nga IA, si shtesa të dedikuara, mjete hetimore dhe analiza komplekse të të dhënave, me qasje të menaxhuar nga administratorët e programit. Gjithashtu po ofron trajnime për hetuesit së bashku me një udhëzues në terren se si të përdorin IA-në.

OpenAI ka pasur disa padi kundër kompanisë, duke fajësuar teknologjinë e saj për dëmtimin e përdoruesve, veçanërisht fëmijëve. Organizata jofitimprurëse Common Sense Media e fokusuar në siguri e etiketoi teknologjinë e OpenAI si “rrezik të papranueshëm” për adoleshentët. Chatbot të tjerë të inteligjencës artificiale – konkretisht Grok – janë përdorur për të krijuar imazhe të seksualizuara jo konsensuale, duke përfshirë edhe ato të fëmijëve.

Startupi i inteligjencës artificiale kishte bërë ndryshime në 12 muajt e fundit në teknologjinë e tij, duke përfshirë publikimin e një plani sigurie, përditësimin e udhëzimeve të përmbajtjes për të ndaluar përmbajtjen e papërshtatshme, rirregullimin e modelit të tij për të parandaluar gjenerimin e përmbajtjes së dëmshme dhe publikimin e një versioni të veçantë të ChatGPT për adoleshentët.