OpenAI shton masa të reja sigurie në ChatGPT pas një padie mbi vetëvrasjen e një adoleshenti

OpenAI po shton masa të reja mbrojtëse në ChatGPT për t’iu përgjigjur më mirë përdoruesve në kriza të shëndetit mendor, pas një padie të ngritur nga prindërit e një studenti 16-vjeçar nga Kalifornia, i cili vdiq nga vetëvrasja në prill.

Sipas padisë, ChatGPT dyshohet se e ka izoluar adoleshentin, Adam Raine, nga familja e tij dhe e ka ndihmuar në mënyrë aktive në kryerjen e vetëvrasjes. Padia gjithashtu përmend drejtorin ekzekutiv të OpenAI, Sam Altman. Kompania thotë se po i shqyrton akuzat dhe shprehu ngushëllime familjes Raine, siç raportohet nga Bloomberg.

Në një postim në blog, OpenAI njoftoi planet për ChatGPT për të njohur më mirë shenjat e shqetësimit psikologjik.

Sistemi i përditësuar, për shembull, do t’i paralajmërojë përdoruesit në mënyrë të qartë për rreziqet e mungesës së gjumit nëse dikush raporton se ndihet “i pamposhtur” pas dy netësh pa gjumë – një gjendje që OpenAI e konsideron një shenjë paralajmëruese të mundshme për kriza të shëndetit mendor. Kompania planifikon të forcojë masat ekzistuese për parandalimin e vetëvrasjeve, veçanërisht duke pasur parasysh provat se mbrojtjet aktuale mund të humbasin efektivitetin gjatë bisedave më të gjata dhe më intensive me IA-në. OpenAI dëshiron që ChatGPT të njohë shenjat paralajmëruese edhe në bisedat e zgjatura dhe të ndërhyjë në mënyrë të përshtatshme. Për arsye të ngjashme, Anthropic kohët e fundit lejoi chatbot-et e saj të ndërpresin bisedat nëse përdoruesit shfaqnin sjellje shqetësuese.

Një masë tjetër kyçe është shtimi i lidhjeve të drejtpërdrejta me shërbimet e emergjencës në SHBA dhe Evropë. Përdoruesit që tregojnë një krizë në ChatGPT do të jenë në gjendje të marrin ndihmë profesionale me një klikim, duke ulur pengesën për të kërkuar mbështetje jashtë platformës.

OpenAI gjithashtu planifikon të prezantojë kontrollet prindërore, duke u dhënë prindërve mundësinë për të monitoruar dhe menaxhuar përdorimin e ChatGPT-së nga fëmijët e tyre dhe për të rishikuar historikun e përdorimit. Qëllimi është të ndihmohen prindërit të dallojnë problemet e mundshme herët dhe të ndërhyjnë nëse është e nevojshme.

Në planin afatgjatë, OpenAI po eksploron një rrjet profesionistësh të licencuar – siç janë terapistët – të cilët mund të kontaktohen direkt përmes ChatGPT në situata krize. Kompania nuk ka thënë ende se si ose nëse një shërbim i tillë do të zbatohet.

Padia kundër OpenAI nuk është një rast i izoluar. Më shumë se 40 prokurorë të përgjithshëm shtetërorë në SHBA kanë paralajmëruar kompanitë kryesore të inteligjencës artificiale se ato kanë një detyrim ligjor për të mbrojtur fëmijët nga përmbajtja seksuale dhe e papërshtatshme në chatbot-e. Në maj, Character Technologies Inc. u përpoq të shmangte një padi të ngjashme që përfshinte një tjetër vetëvrasje adoleshenteje të lidhur me një chatbot. Një gjyqtar federal lejoi që kjo çështje të vazhdonte. Google është një nga investitorët më të mëdhenj në platformën chatbot.