Chatbot-ët e AI-së po bisedojnë me fëmijët. FTC ka shqetësime

Ndërsa inteligjenca artificiale po bëhet një pjesë gjithnjë e më e integruar e faqeve të internetit dhe platformave të mediave sociale që vizitohen shpesh, Komisioni Federal i Tregtisë ka nisur një hetim se si shtatë prodhuesit kryesorë të chatbot-eve testojnë dhe monitorojnë 
ndikimin e produkteve të tyre tek fëmijët e vegjël dhe adoleshentët.

Hetimi do të përqendrohet rreth chatbot-eve nga kompania mëmë e Google, Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI, Snap dhe X.AI Corp. e Elon Musk, tha FTC në një deklaratë.

“Ndërsa teknologjitë e inteligjencës artificiale evoluojnë, është e rëndësishme të merren në konsideratë efektet që chatbot-et mund të kenë tek fëmijët, duke u siguruar gjithashtu që Shtetet e Bashkuara të ruajnë rolin e tyre si lider global në këtë industri të re dhe emocionuese”, tha Kryetari i FTC-së, Andrew N. Ferguson. “Studimi që po lançojmë sot do të na ndihmojë të kuptojmë më mirë se si firmat e inteligjencës artificiale po i zhvillojnë produktet e tyre dhe hapat që po ndërmarrin për të mbrojtur fëmijët.”

Agjencia tha se chatbot-et kanë aftësinë të simulojnë biseda që duket se janë me një njeri tjetër, gjë që mund të krijojë marrëdhënie ndërpersonale me disa përdorues. Chatbot-et e përparuar të sotëm mund të imitojnë karakteristikat dhe emocionet, gjë që mund t’i bëjë fëmijët t’u besojnë atyre në një shkallë të pashëndetshme.

Hetimi synon të ndihmojë zyrtarët federalë “të kuptojnë se çfarë hapash, nëse ka, kanë ndërmarrë kompanitë për të vlerësuar sigurinë e chatbot-eve të tyre kur veprojnë si shoqërues, për të kufizuar përdorimin e produkteve nga fëmijët dhe adoleshentët dhe efektet e mundshme negative tek ata”.

Kjo vjen vetëm një javë pasi Meta njoftoi se do të përshtaste mënyrën se si chatbot-et e saj u përgjigjen adoleshentëve, pas raportimeve se kompania lejoi që teknologjia të zhvillonte biseda romantike me fëmijë. Muajin e kaluar, pati një raport në lidhje me një chatbot të Meta-s që trajnonte llogaritë e adoleshentëve mbi vetëvrasjen dhe vetëlëndimin.

Ndërkohë, OpenAI njoftoi plane në fillim të këtij muaji për të lançuar kontrolle të reja që do t’u mundësojnë prindërve të lidhin llogaritë e tyre me llogaritë e adoleshentëve, duke i lejuar ata të çaktivizojnë veçoritë dhe “të marrin njoftime kur sistemi zbulon se adoleshenti i tyre është në një moment shqetësimi akut”. Kjo pasoi një padi të ngritur kundër kompanisë dhe CEO-s Sam Altman pasi një adoleshent vdiq nga vetëvrasja me ndihmën e supozuar të ChatGPT.