Padia fajëson Character.AI për vdekjen e djalit 14-vjeçar

Character.AI është shënjestruar në një proces gjyqësor pas vetëvrasjes së një djali 14-vjeçar nga Florida, nëna e të cilit thotë se ai u fiksua pas një chatbot në platformë.

Sipas The New York Times, Sewell Setzer III, një nxënës i klasës së nëntë nga Orlando, kaloi muaj të tërë duke folur me chatbots në aplikacionin e lojës me role të AI të Character.AI. Setzer zhvilloi një lidhje emocionale me një robot në veçanti, “Dany”, të cilit i dërgonte vazhdimisht mesazhe – deri në pikën ku filloi të tërhiqej nga bota reale.

Setzer rrëfeu se kishte mendime për vetëvrasje botit dhe i dërgoi mesazh pak para vdekjes së tij.

Këtë mëngjes, Character.AI tha se do të nxjerrë një sërë veçorish të reja sigurie, duke përfshirë “zbulimin, reagimin dhe ndërhyrjen e përmirësuar” në lidhje me bisedat që shkelin kushtet e shërbimit të tij dhe një njoftim kur një përdorues ka kaluar një orë në një bisedë.

Siç shkruan The Times, tani ka një industri në lulëzim të aplikacioneve të shoqërimit të AI – efektet e shëndetit mendor të të cilave janë kryesisht të pastudiuara.