OpenAI forcon masat mbrojtëse të ChatGPT për adoleshentët

OpenAI tha të premten se po shtrëngon kufizimet për informacionin që ChatGPT u ofron adoleshentëve në lidhje me armët, edhe kur një pyetje duket e padëmshme, si pjesë e masave të reja mbrojtëse që synojnë parandalimin e dhunës në botën reale.

Ky veprim vjen në një kohë kur kompanitë e inteligjencës artificiale përballen me një shqyrtim gjithnjë e më të madh mbi rreziqet që chatbot-et paraqesin për përdoruesit e rinj dhe rolin e kompanive në zbulimin e kërcënimeve të dëmit.

OpenAI do të kufizojë informacionin praktik mbi armët dhe sistemet e sigurisë që mund të keqpërdoren, me kufizimet që zbatohen për adoleshentët edhe kur nuk ka shenja të qëllimit të dhunshëm.

Për të gjithë përdoruesit, ChatGPT do të jetë në gjendje të ndërpresë automatikisht bisedat ku dikush duket se është i fiksuar pas dhunës, dhe OpenAI mund të ndërpresë përkohësisht llogaritë pas shumë bisedave të tilla.

Kompania tha gjithashtu se forcoi sistemin e saj të parashikimit të moshës për të zhvendosur përdoruesit që vlerëson se janë nën 18 vjeç në përvojën e adoleshentëve dhe planifikon të njoftojë prindërit nëse llogaria e adoleshentit të tyre ndalet për shkak të diskutimit të përsëritur të dhunës.

Për të gjithë përdoruesit, OpenAI po kufizon detajet mbi sulmet masive të kaluara, duke përfshirë armët e përdorura dhe mënyrën e marrjes së tyre.

Kompania tha se masat e reja mbrojtëse do të fillojnë të zbatohen në javët e ardhshme dhe do të vazhdojë t’i përmirësojë ato.

OpenAI tha më parë këtë muaj se adoleshentët shpenzojnë mesatarisht më pak se 15 minuta në ditë në ChatGPT, në raportin e saj të parë mbi përdorimin nga adoleshentët.

Një raport nga organizata jofitimprurëse Common Sense Media në fillim të këtij muaji zbuloi se versioni për adoleshentë i ChatGPT shpesh i njoftonte prindërit me vonesë ose aspak kur llogaritë e adoleshentëve zhvillonin biseda rreth vetëvrasjes, vetëlëndimit ose çrregullimeve të të ngrënit.