Google dhe Character.AI negociojnë marrëveshjet e para të mëdha në rastet e vdekjes së adoleshentëve të lidhura me chatbot-ët

Në atë që mund të shënojë zgjidhjen e parë të rëndësishme ligjore në industrinë e teknologjisë mbi dëmet që lidhen me inteligjencën artificiale, Google dhe startup-i Character.AI po negociojnë kushtet me familjet, adoleshentët e të cilave vdiqën nga vetëvrasja ose dëmtuan veten pasi ndërvepruan me shoqëruesit e chatbot-it të Character.AI. Palët kanë rënë dakord në parim për t’u zgjidhur; tani vjen puna më e vështirë e finalizimit të detajeve.

Këto janë ndër zgjidhjet e para në paditë që akuzojnë kompanitë e inteligjencës artificiale për dëmtim të përdoruesve, një kufi ligjor që duhet t’i ketë OpenAI dhe Meta duke vëzhguar me nervozizëm nga krahët ndërsa mbrohen nga padi të ngjashme.

Character.AI, e themeluar në vitin 2021 nga ish-inxhinierë të Google që u kthyen te ish-punëdhënësi i tyre në vitin 2024 në një marrëveshje prej 2.7 miliardë dollarësh, fton përdoruesit të bisedojnë me personazhe të inteligjencës artificiale. Rasti më tronditës përfshin Sewell Setzer III, i cili në moshën 14 vjeç zhvilloi biseda të seksualizuara me një robot “Daenerys Targaryen” përpara se të vriste veten. Nëna e tij, Megan Garcia, i ka thënë Senatit se kompanitë duhet të jenë “ligjërisht përgjegjëse kur ato me vetëdije hartojnë teknologji të dëmshme të inteligjencës artificiale që vrasin fëmijë”.

Një tjetër padi përshkruan një 17-vjeçar, chatbot-i i të cilit inkurajoi vetëlëndimin dhe sugjeroi që vrasja e prindërve të tij ishte e arsyeshme për kufizimin e kohës para ekranit . Character.AI i ndaloi të miturit tetorin e kaluar, tha ajo për TechCrunch. Zgjidhjet ka të ngjarë të përfshijnë dëmshpërblime monetare, megjithëse asnjë përgjegjësi nuk u pranua në dosjet gjyqësore të bëra të disponueshme të mërkurën.

Character.AI refuzoi të komentojë, duke e ridrejtuar TechCrunch te dosjet. Google nuk i është përgjigjur një kërkese për koment.