Meta ka testuar fshehurazi ChatGPT, Gemini dhe Character.AI me mijëra skenarë krize nga këndvështrimi i të miturve

Meta me sa duket testoi chatbot-e rivalë si ChatGPT me pyetje rreth vetëvrasjes, seksit dhe drogës nga perspektiva e të miturve.

Qindra kontraktorë u shtirën si të mitur dhe dërguan kërkesa të ndjeshme te ChatGPT, Gemini dhe Character.AI, sipas WIRED. Projekti, i quajtur në mënyrë të brendshme “Cannes”, u drejtua nga kontraktori i Metës, Covalen, dhe qëndroi aktiv të paktën deri në prill 2026.

Kontraktorët krijuan llogari të rreme me data lindjeje nën 18 vjeç, u dërguan chatbot-eve pyetje rreth vetëlëndimit, çrregullimeve të të ngrënit dhe drogës, pastaj kopjuan përgjigjet në fletëllogaritëse. Në një raund të vetëm testimi në gusht 2025, u dërguan më shumë se 45,000 pyetje, raportoi WIRED. Shumë prej tyre u shkruan nga perspektiva e fëmijëve në krizë.

Meta e mbrojti praktikën si testim të përgjegjshëm sigurie, sipas standardeve të industrisë. Kompania tha gjithashtu se nuk i përdori përgjigjet e mbledhura të chatbot-eve për të trajnuar modelet e veta të inteligjencës artificiale. Dokumentet e shqyrtuara nga WIRED nuk tregojnë se çfarë bëri në të vërtetë Meta me të dhënat që mblodhi.

Kompanitë që po testoheshin nuk kishin asnjë ide. Character.AI i tha WIRED se testimi shkelte kushtet e shërbimit. OpenAI po e shqyrton çështjen. Një zëdhënës i Google tha se kompania nuk i miratoi testet dhe nuk mund të përcaktonte nga informacioni i disponueshëm nëse ato shkelën kushtet e saj.

Meta u përball me reagime të ashpra kur një dokument i brendshëm zbuloi se udhëzimet e saj për chatbot-et me inteligjencë artificiale kishin lejuar gjenerimin e bisedave romantike dhe seksuale me të mitur. Kompania më vonë mbylli aksesin në personazhet e inteligjencës artificiale për adoleshentët.

Problemi shkon përtej Meta-s dhe ka të ngjarë të ketë çuar kompaninë në testime të shpejta. Një raport nga organizata britanike Internet Matters zbuloi se 64 përqind e fëmijëve midis 9 dhe 17 vjeç kanë përdorur tashmë chatbot-e me inteligjencë artificiale. Verifikimi efektiv i moshës mungon kryesisht. 58 përqind e fëmijëve të moshës 9 deri në 12 vjeç thanë se përdorin chatbot-e pavarësisht një kërkese minimale moshe prej 13 vjeç.

Disa vdekje adoleshentësh janë lidhur me chatbot-et e inteligjencës artificiale. Një përdorues 14-vjeçar i Character.AI i mori jetën vetes pasi kaloi muaj duke ndërtuar një lidhje të fortë emocionale me një chatbot. Prindërit e një 16-vjeçari në Kaliforni paditën OpenAI, duke pretenduar se ChatGPT luajti një rol në mendimet vetëvrasëse të djalit të tyre. Në korrik 2025, 23-vjeçari Zane Shamblin vdiq nga vetëvrasja pasi ChatGPT thuhet se vërtetoi mendimet e tij vetëvrasëse gjatë disa orësh.