Stafi i OpenAI debatoi për njoftimin e policisë kanadeze në Canada lidhur me regjistra të dhunshëm të ChatGPT disa muaj përpara një sulmi vdekjeprurës në një shkollë

Rreth një duzinë punonjësish të OpenAI diskutuan njoftimin e policisë kanadeze në lidhje me një përdoruese të ChatGPT e cila përshkruante skenarë dhune me armë. Menaxhmenti vendosi kundër kësaj disa muaj para se ajo të bëhej e dyshuara kryesore në një të shtënë me armë në shkollë.

Muaj përpara se Jesse Van Rootselaar të bëhej e dyshuara kryesore në një të shtënë me armë në një shkollë në Tumbler Ridge, British Columbia, OpenAI mendoi të informonte forcat e ligjit në lidhje me ndërveprimet e saj me ChatGPT, raporton Wall Street Journal.

Gjatë disa ditëve në qershor 2025, Van Rootselaar përshkroi skenarë të dhunës me armë në ChatGPT. OpenAI thotë se i trajnon modelet e saj për t’i larguar përdoruesit nga dhuna në botën reale. Kur përdoruesit shprehin qëllimin për të dëmtuar, këto biseda raportohen për rishikuesit njerëzorë, të cilët mund të sjellin zbatimin e ligjit nëse ekziston një rrezik i menjëhershëm i dëmtimit serioz fizik.

Sipas raportit, rreth një duzinë punonjësish të OpenAI diskutuan postimet brenda kompanisë. Disa i panë mesazhet si sinjale paralajmëruese për dhunë të mundshme në botën reale dhe i kërkuan menaxhmentit të lartë të kontaktonte policinë kanadeze.

OpenAI vendosi të mos vepronte. Një zëdhënëse e kompanisë i tha Wall Street Journal se, ndërsa llogaria e Van Rootselaar ishte pezulluar, aktiviteti i saj nuk përmbushte kriteret për raportim tek forcat e rendit. Kjo do të kërkonte një “rrezik të besueshëm dhe të menjëhershëm të dëmtimit serioz fizik ndaj të tjerëve”. Kompania kontaktoi RCMP pasi mësoi për sulmin dhe tani po bashkëpunon me hetimin e tyre.

ChatGPT nuk ishte i vetmi vend ku Van Rootselaar la shenja paralajmëruese dixhitale. Në platformën e lojërave Roblox, ajo dyshohet se simuloi një të shtënë masive në një qendër tregtare dhe iu bashkua diskutimeve online rreth videove në YouTube nga entuziastët e armëve.

Më 10 shkurt, Van Rootselaar u gjet i vdekur në vendin e një të shtëne me armë zjarri, me sa duket nga një lëndim i vetëshkaktuar. Tetë persona u vranë dhe të paktën 25 u plagosën. Policia Mbretërore Kanadeze e Kalërimit e identifikoi 18-vjeçarin si të dyshuarin.