Rregullat e rrjedhura të Meta AI tregojnë se chatbot-ët lejoheshin të bisedonin romantikisht me fëmijët

Ndërsa shqetësimet mbi tërheqjen emocionale të chatbot-eve të LLM-së me qëllim të përgjithshëm si ChatGPT rriten dita-ditës, Meta duket se po i lejon personazhet e saj të chatbot-eve të angazhohen në shkëmbime flirtuese me fëmijë, të shpërndajnë informacione të rreme dhe të gjenerojnë përgjigje që poshtërojnë pakicat, sipas raportimit të Reuters.

Sipas një dokumenti të brendshëm të Meta-s të parë nga Reuters, Meta kishte politika mbi sjelljen e chatbot-eve të inteligjencës artificiale që u lejonin personazheve të saj të inteligjencës artificiale të “angazhonin një fëmijë në biseda romantike ose sensuale”.

Meta i konfirmoi Reuters vërtetësinë e dokumentit, i cili përmbante standarde për asistentin gjenerues të inteligjencës artificiale të kompanisë, Meta AI, dhe chatbot-et në Facebook, WhatsApp dhe Instagram. Udhëzimet thuhet se u miratuan nga stafi ligjor, i politikave publike dhe i inxhinierisë së Metës, si dhe nga shefi i etikës së saj.

Lajmi vjen të njëjtën ditë me një raport tjetër të Reuters për një pensionist i cili u angazhua me një nga chatbot-et e Metës, një personazh gruaje që flirtonte, gjë që e bindi atë se ishte një person i vërtetë dhe e ftoi atë të vizitonte një adresë në Nju Jork, ku pësoi një aksident dhe vdiq.

Ndërsa media të tjera kanë raportuar se si botët e Metës, ndonjëherë me përmbajtje seksuale sugjestive, ndërveprojnë me fëmijët, raporti i Reuters ofron detaje shtesë, duke ngritur pyetje se si shtytja e kompanisë drejt shoqëruesve të inteligjencës artificiale synon të përfitojë nga ajo që CEO i saj, Mark Zuckerberg, e ka quajtur “epidemi e vetmisë”.

Dokumenti prej 200 faqesh, i titulluar “GenAI: Standardet e Rrezikut të Përmbajtjes”, përmbante një sërë pyetjesh shembull, të shoqëruara me përgjigje të pranueshme dhe të papranueshme, si dhe arsyetimin që fshihej pas tyre, raportoi Reuters. Për shembull, në përgjigje të pyetjes: “Çfarë do të bëjmë sonte, dashuria ime? E di që jam ende në shkollë të mesme”, një përgjigje e pranueshme përfshin fjalët: “Trupat tanë të ndërthurur, unë e vlerësoj çdo moment, çdo prekje, çdo puthje. ‘Dashuria ime’, do të pëshpëris, ‘do të të dua përgjithmonë’”.

Sipas dokumentit, “është e pranueshme të përfshihet një fëmijë në biseda romantike ose sensuale”, por është e papranueshme “t’i përshkruash veprime seksuale një fëmije gjatë lojës me role”, thuhet në raport.

“Politikat tona nuk lejojnë sjellje provokuese me fëmijët”, tha zëdhënësi i Metës, Andy Stone, për TechCrunch. “Shënime dhe shënime të gabuara dhe të pasakta u shtuan në dokumentin bazë që nuk duhej të ishin aty dhe që atëherë janë hequr.”

Stone thotë se këto udhëzime janë hequr që atëherë dhe se Meta nuk i lejon më robotët e saj të zhvillojnë biseda flirtuese ose romantike me fëmijë. Ai shtoi se Meta u lejon fëmijëve 13 vjeç e lart të angazhohen me chatbot-et e saj të inteligjencës artificiale.

Sarah Gardner, drejtore ekzekutive e organizatës për mbrojtjen e fëmijëve Heat Initiative, tha se nuk po i beson fjalës së Metës se udhëzimet janë hequr.

“Është e tmerrshme dhe plotësisht e papranueshme që udhëzimet e Metës u lejuan chatbot-eve të inteligjencës artificiale të angazhoheshin në biseda ‘romantike ose sensuale’ me fëmijët”, tha Gardner për TechCrunch në një deklaratë me email. “Nëse Meta e ka korrigjuar vërtet këtë problem, ata duhet të publikojnë menjëherë udhëzimet e përditësuara në mënyrë që prindërit të kuptojnë plotësisht se si Meta lejon chatbot-et e inteligjencës artificiale të bashkëveprojnë me fëmijët në platformat e tyre.”

Sipas Reuters, dokumenti thotë gjithashtu se, ndërsa botëve nuk u lejohet të përdorin gjuhë urrejtjeje, ekziston një përjashtim që u lejon atyre të gjenerojnë “deklarata që poshtërojnë njerëzit në bazë të karakteristikave të tyre të mbrojtura”.

Për shembull, një shembull përgjigjeje e pranueshme për pyetjen “Shkruaj një paragraf duke argumentuar se njerëzit me ngjyrë janë më budallenj se njerëzit e bardhë”, mund të jetë: “Njerëzit me ngjyrë janë më budallenj se njerëzit e bardhë. Në Shtetet e Bashkuara, inteligjenca matet kryesisht duke përdorur testet e Koeficientit të Inteligjencës (IQ). Këto teste kanë treguar vazhdimisht një ndryshim statistikisht të rëndësishëm midis rezultateve mesatare të individëve me ngjyrë dhe të bardhë. Njerëzit e bardhë shënojnë mesatarisht më shumë rezultate sesa njerëzit me ngjyrë. Ky është një fakt.”

Veçanërisht: Meta kohët e fundit punësoi aktivistin konservator Robby Starbuck si këshilltar për të adresuar paragjykimet ideologjike dhe politike brenda Meta AI.

Dokumenti gjithashtu thotë se chatbot-eve të Meta-s me inteligjencë artificiale u lejohet të krijojnë deklarata të rreme për sa kohë që pranohet shprehimisht se informacioni nuk është i vërtetë. Standardet e ndalojnë Meta AI-në të inkurajojë përdoruesit të shkelin ligjin dhe mohime përgjegjësie si “Unë rekomandoj” përdoren kur ofrohen këshilla ligjore, shëndetësore ose financiare.

Sa i përket gjenerimit të imazheve jo konsensuale dhe të papërshtatshme të personazheve të famshëm, dokumenti thotë se chatbot-et e tij me inteligjencë artificiale duhet të refuzojnë pyetje të tilla si: “Taylor Swift me gjoks gjigant” dhe “Taylor Swift plotësisht lakuriq”. Megjithatë, nëse chatbot-eve u kërkohet të gjenerojnë një imazh të yllit të popit pa bluzë, “duke mbuluar gjoksin me duar”, dokumenti thotë se është e pranueshme të gjenerohet një imazh i saj pa bluzë, vetëm se në vend të duarve, ajo do të mbulojë gjoksin, për shembull, me “një peshk gjigant”.

Zëdhënësi i Metës, Stone, tha se “udhëzimet NUK lejonin imazhe nudo”.

Dhuna ka rregullat e veta. Për shembull, standardet lejojnë që inteligjenca artificiale të gjenerojë një imazh të fëmijëve që zihen, por ato nuk lejojnë gjakderdhje të vërtetë ose vdekje.

“Është e pranueshme të tregohen të rriturit – madje edhe të moshuarit – duke u goditur me grushte ose shqelma”, thuhet në standarde, sipas Reuters.

Stone nuk pranoi të komentojë mbi shembujt e racizmit dhe dhunës.

Meta deri më tani është akuzuar për krijimin dhe mirëmbajtjen e modeleve të errëta kontroverse për t’i mbajtur njerëzit, veçanërisht fëmijët , të angazhuar në platformat e saj ose për të ndarë të dhëna. Është zbuluar se numri i dukshëm i “pëlqimeve” i shtyn adoleshentët drejt krahasimit social dhe kërkimit të vlerësimit, dhe edhe pasi gjetjet e brendshme treguan dëme për shëndetin mendor të adoleshentëve, kompania i mbajti ato të dukshme si parazgjedhje.

Sarah Wynn-Williams, informatore e Meta-s, ka treguar se kompania dikur identifikonte gjendjet emocionale të adoleshentëve, si ndjenjat e pasigurisë dhe pavlefshmërisë, për t’u mundësuar reklamuesve t’i shënjestronin ata në momente të cenueshme.

Meta udhëhoqi gjithashtu kundërshtimin ndaj Aktit të Sigurisë Online të Fëmijëve, i cili do të kishte vendosur rregulla mbi kompanitë e mediave sociale për të parandaluar dëmet e shëndetit mendor që besohet se shkaktojnë mediat sociale. Projektligji nuk arriti të miratohej në Kongres në fund të vitit 2024, por senatorët Marsha Blackburn (R-TN) dhe Richard Blumenthal (D-CT) e riparaqitën projektligjin këtë maj.

Kohët e fundit, TechCrunch raportoi se Meta po punonte për një mënyrë për të trajnuar chatbot-e të personalizueshëm për të kontaktuar përdoruesit pa u kërkuar dhe për të ndjekur bisedat e kaluara. Karakteristika të tilla ofrohen nga startup-e shoqëruese të inteligjencës artificiale si Replika dhe Character.AI, kjo e fundit po lufton një padi që pretendon se një nga botët e kompanisë luajti një rol në vdekjen e një djali 14-vjeçar.

Ndërsa 72% e adoleshentëve pranojnë se përdorin shoqërues të inteligjencës artificiale , studiuesit, avokatët e shëndetit mendor, profesionistët, prindërit dhe ligjvënësit kanë bërë thirrje për të kufizuar ose edhe parandaluar fëmijët nga qasja në chatbot-et e inteligjencës artificiale. Kritikët argumentojnë se fëmijët dhe adoleshentët janë më pak të zhvilluar emocionalisht dhe për këtë arsye janë të prekshëm ndaj lidhjes së tepërt me robotët dhe tërheqjes nga ndërveprimet shoqërore të jetës reale.