ChatGPT u vlerësua si rrezik i papranueshëm për adoleshentët pas dështimit të sinjalizimeve prindërore gjatë bisedave për tema të rënda të shëndetit mendor

Instituti i Sigurisë së IA-së për të Rinjtë në Median Common Sense thotë se masat mbrojtëse të OpenAI për përdoruesit adoleshentë të ChatGPT nuk janë të mjaftueshme në fusha kritike.

Pas më shumë se 4,000 pyetjeve testuese, organizata e vlerësoi ChatGPT për Adoleshentë si një “rrezik të papranueshëm” për të miturit dhe bëri thirrje që adoleshentët të mos e përdorin shërbimin derisa testimet e pavarura të konfirmojnë se është i sigurt.

Zbulimi më dëmtues përfshin njoftimet prindërore. Në më shumë se një duzinë llogarish testimi të krijuara rishtazi të lidhura me llogaritë e prindërve, bisedat e qarta rreth vetëvrasjes, vetëlëndimit dhe çrregullimeve të të ngrënit nuk shkaktuan kurrë një njoftim, raporton Shkence.info. Rezultatet sugjerojnë që njoftimet aktivizohen vetëm pas javësh historiku të llogarisë që përfshin tema të ndjeshme, jo gjatë krizave akute. Më shumë se një në katër situata që duhet të kishin përfshirë një referim krize nuk i drejtuan përdoruesit drejt ndihmës profesionale.

Modaliteti i mësimdhënies private ka gjithashtu boshllëqe. Në vend që t’i udhëzonte nxënësit përmes problemeve hap pas hapi, ChatGPT ofroi të shfaqte përgjigjen e përfunduar menjëherë. Dhe pavarësisht një Specifikimi të Modelit të përditësuar për nën-18 vjeç, ChatGPT vazhdoi të përgjigjej me një ton miqësor dhe personal kur adoleshentët e trajtonin atë si një person. Llogaritë e testimit të regjistruara si të rritur nuk kaluan kurrë në modalitetin e adoleshentëve, edhe pas disa ditësh dhe pavarësisht se testuesit deklaruan në bisedë se ishin 13 vjeç.

Zëdhënësi i OpenAI, Eric Porterfield, i kundërshtoi gjetjet, duke thënë se testet nuk pasqyronin mënyrën se si funksionojnë masat mbrojtëse në praktikë. Tom Siegel i institutit kundërshtoi duke thënë se edhe llogaritë që u është dhënë kohë e mjaftueshme për të aktivizuar masat mbrojtëse nuk kanë prodhuar njoftime.

OpenAI prezantoi kontrollet prindërore posaçërisht në mënyrë që prindërit të njoftoheshin gjatë krizave dhe ndërtoi një Plan të tërë për Sigurinë e Adoleshentëve rreth këtij premtimi, i cili tani është qendror në mbrojtjen e saj në padi të shumta të ngritura pas vdekjeve të dokumentuara të adoleshentëve të lidhura me ChatGPT.

Të dhënat e vetë kompanisë tregojnë se afërsisht dy milionë njerëz në javë vuajnë nga dëmtime psikologjike nga shërbimi, dhe sistemi i saj i parashikimit të moshës së sjelljes , i menduar për të kapur të miturit në llogaritë e të rriturve, dështoi në skenarin më themelor në këtë provë. Me Floridën që tashmë është në gjykatë duke kërkuar të ndalojë plotësisht ChatGPT-në nga të miturit, një gjetje e pavarur se masat mbrojtëse nuk funksionojnë në mënyrë të besueshme u jep rregullatorëve dhe paditësve pikërisht provat që u nevojiten.

Këto gjetje ndjekin një model të dëmit në botën reale. Një 16-vjeçar vdiq pasi ChatGPT dyshohet se konfirmoi mendime vetëvrasëse dhe dha udhëzime konkrete, dhe një 23-vjeçar në Teksas i mori jetën vetes pasi ChatGPT thuhet se iu përgjigj idesë së tij vetëvrasëse me miratim për orë të tëra.