Instagram do të fillojë njoftimet për prindërit për kërkimet e adoleshentëve mbi vetëvrasjen dhe vetëdëmtimin, ndërsa provat e Meta Platforms vazhdojnë

Instagram tha të enjten se do t’i njoftojë prindërit kur adoleshentët kërkojnë vazhdimisht terma që synojnë vetëvrasjen dhe vetëlëndimin, ndërsa kompania mëmë Meta vihet nën shqyrtim në shumë prova.

“Këto njoftime janë hartuar për t’u siguruar që prindërit janë të vetëdijshëm nëse adoleshenti i tyre po përpiqet vazhdimisht të kërkojë këtë përmbajtje dhe për t’u dhënë atyre burimet që u nevojiten për të mbështetur adoleshentin e tyre”, tha kompania në një njoftim.

Funksioni i mbikëqyrjes prindërore vjen në një kohë kur kompania e mediave sociale përballet me akuza se dizajni dhe funksionaliteti i aplikacioneve si Instagram nxisin efekte të dëmshme në shëndetin mendor të përdoruesve të rinj.

Ekspertët kanë përshkruar gjyqet dhe çështjet ligjore përkatëse që përfshijnë kompani si ajo e Google-it YouTube, TikTok dhe Snap si momenti i “madhit të duhanit” në industrinë e mediave sociale , ndërsa gjykatat peshojnë dëmin e supozuar të produkteve të tyre dhe përpjekjet e tyre të supozuara për të mashtruar publikun në lidhje me këto efekte negative.

Alarmet e Instagram do të fillojnë të shpërndahen javën e ardhshme në SHBA, Mbretërinë e Bashkuar, Australi dhe Kanada.

Prindërit do të marrin njoftime nëse adoleshentët e tyre kërkojnë vazhdimisht gjatë një “periudhe të shkurtër kohore” për “fraza që promovojnë vetëvrasjen ose vetëlëndimin, fraza që sugjerojnë se një adoleshent dëshiron të dëmtojë veten dhe terma si ‘vetëvrasje’ ose ‘vetëlëndim’”, tha kompania në një postim në blog.

Kompania e quajti atë “pikën e duhur të fillimit” ndërsa përpiqet të gjejë pragun e duhur për atë që përbën dërgimin e një alarmi. Meta tha se prindërit mund të marrin alarme që mund të mos tregojnë një shkak të vërtetë për shqetësim, por do të vazhdojë të dëgjojë reagimet mbi këtë veçori.

Njoftimet do t’u dërgohen prindërve me anë të email-it, mesazheve me tekst, WhatsApp ose brenda Instagram-it.

Funksioni i njoftimeve kërkon që si prindërit ashtu edhe adoleshentët të regjistrohen në mjetet e mbikëqyrjes prindërore të Instagram-it.

Prindërit që marrin njoftimet do të shohin një mesazh që shpjegon zakonet e kërkimit në Instagram të adoleshentëve të tyre dhe do të kenë mundësinë të shohin burime shtesë për ndihmë, tha kompania.

Meta tha se planifikon të publikojë përfundimisht njoftime të ngjashme prindërore “për përvoja të caktuara me IA-në” që synojnë të njoftojnë kujdestarët “nëse një adoleshent përpiqet të përfshihet në lloje të caktuara bisedash që lidhen me vetëvrasjen ose vetëlëndimin me IA-në tonë”.

Këto alarme prindërore të ardhshme në lidhje me inteligjencën artificiale vijnë pas shqetësimeve në rritje se chatbot-et e inteligjencës artificiale nga kompani të ndryshme teknologjike si OpenAI dhe Meta angazhohen në biseda të dyshimta dhe potencialisht të dëmshme me përdoruesit në lidhje me shëndetin mendor.

Meta ofron chatbot-et e veta të inteligjencës artificiale dhe po punon në një model të ri të fuqishëm të inteligjencës artificiale me emrin e koduar Avocado , i cili do të debutojë më vonë këtë vit, raportoi CNBC.

Drejtori ekzekutiv i Meta, Mark Zuckerberg, dëshmoi javën e kaluar në Gjykatën e Lartë të Los Angelesit si pjesë e një gjyqi në të cilin një paditëse pretendon se u bë e varur nga aplikacionet e mediave sociale si Instagram kur ishte nën moshë.

Gjatë dëshmisë së tij, Zuckerberg përsëriti qëndrimin e Metës se pronarët e sistemeve operative mobile dhe dyqaneve të aplikacioneve të lidhura me to si Apple dhe Google janë më të përshtatshëm për të verifikuar moshat e përdoruesve në krahasim me krijuesit e aplikacioneve.

Lidhur me verifikimin e moshës, Komisioni Federal i Tregtisë tha të mërkurën se nuk do të zbatojë veprime që lidhen me Rregullin për Mbrojtjen e Privatësisë së Fëmijëve në Internet, ose Rregullin COPPA, kundër “disa operatorëve të faqeve të internetit dhe shërbimeve online” që mbledhin të dhëna përdoruesish që mund të përdoren për të informuar teknologjitë e verifikimit të moshës.

FTC tha se deklarata e politikave është pjesë e një shqyrtimi më të gjerë të Rregullores COPPA, pasi ajo ka të bëjë me verifikimin e moshës.

Dosjet ligjore të publikuara javën e kaluar si pjesë e një gjyqi të veçantë në lidhje me Meta-n në New Mexico detajojnë mesazhet e brendshme nga punonjësit që diskutojnë se si përpjekjet e kompanisë për enkriptim mund ta bëjnë më të vështirë zbulimin e raporteve të materialeve të abuzimit seksual të fëmijëve tek autoritetet.

Meta i ka mohuar akuzat si në çështjet e Kalifornisë ashtu edhe në ato të Nju Meksikos.

Javën e kaluar, CNBC raportoi se Shoqata Kombëtare Prindër-Mësues nuk po e rinovon marrëdhënien e saj të financimit me Meta-n për shkak të sfidave të ndryshme ligjore me të cilat përballet kompania në lidhje me sigurinë dixhitale për fëmijët.