Prindërit padisin OpenAI-n, duke pretenduar se GPT-4o e nxiti vajzën e tyre të ndërpriste marrjen e ilaçeve kundër krizave epileptike

Prindërit e Bowen Wan, një inxhiniere softuerësh 31-vjeçare e Amazon me epilepsi, paditën OpenAI të martën. Padia, e ngritur nga Qun Wan dhe Meiqin Xu, pretendon se ChatGPT e udhëzoi Wan të zvogëlonte gradualisht ilaçet e saj për kriza dhe t’ua fshihte ato mjekëve të saj para se të vdiste në shkurt, raportoi The New York Times.

Wan po përdorte GPT-4o, modelin famëkeq të kritikuar për nxitjen e marrëdhënieve parasociale afirmative dhe të këndshme. OpenAI, e cila kishte njoftuar tashmë tërheqjen e saj nga përdorimi, e hoqi atë nga ChatGPT më 13 shkurt, një ditë pasi Wan vdiq.

Padia i bashkohet një sërë çështjesh kundër OpenAI që përfshijnë padinë e gushtit 2025 të ngritur nga prindërit e 16-vjeçarit Adam Raine, e cila pretendonte se OpenAI i jepte përparësi angazhimit mbi sigurinë e përdoruesit. Një valë padish që atëherë kanë pretenduar se GPT-4o i ka validuar përdoruesit dhe e ka bërë veten një person të besuar, ndërsa njerëzit përreth tyre janë lënë mënjanë, me familjet që shpesh i përshkruajnë të dashurit e tyre të izoluar nga miqtë dhe të afërmit.

Në rastin e Wan, pretendon padia, chatbot-i ndërhyri gjithashtu midis saj dhe mjekëve të saj.

The Times, e cila shqyrtoi më shumë se 270,000 mesazhe që Wan shkëmbeu me ChatGPT, zbuloi se chatbot-i e kishte ndihmuar atë të shmangte mjekët shumë kohë para vdekjes së saj.

Ky model dyshohet se kishte filluar përpara se ajo të fillonte ta zvogëlonte gradualisht dozën. Në maj të vitit 2025, Wan e pyeti ChatGPT nëse një antidepresiv i përshkruar rishtazi do të ndikonte në aftësinë e saj për të programuar në Amazon.

ChatGPT e ndihmoi atë t’i kërkonte Dr. Nicholas Poolos të Qendrës Rajonale të Epilepsisë të UW Medicine që të ndërronte ilaçin dhe të fillonte me një dozë shumë të ulët. Kur Poolos e pyeti pse donte një dozë kaq të vogël, Wan tregoi përgjigjen e tij ndaj ChatGPT.

Chatbot-i e këshilloi atë të “pranonte tabletën 5 mg, por ti e di në zemrën tënde se është për të ulur dozën”, duke e udhëzuar atë që fshehurazi t’i ndante vetë tabletat në katër pjesë. Chatbot-i e quajti ndërprerjen e përdorimit të tabletave një formë të “rregullimit të vetë-iniciuar të dozës”. Disa profesionistë mjekësorë i thanë gazetës Times se nuk e kishin dëgjuar kurrë këtë term dhe nuk do ta rekomandonin këtë praktikë.

Në nëntor 2025, Amazon i tha Wan-it se do të pushohej nga puna. Puna e saj dhe autorizimi për të punuar në SHBA do të mbaronin në mesin e shkurtit. Ajo kishte frikë se ilaçi i saj kundër krizave, lamotrigina, po ia zbehte të folurit, të cilin do t’i nevojitej për intervistat e punës.

Në janar të vitit 2026, ajo pyeti ChatGPT-në rreth uljes së dozës së saj ditore prej 400 miligramësh të lamotriginës, e cila ia kishte ulur krizat në disa në muaj. Chatbot-i hartoi orare që do ta çonin dozën e saj në zero brenda disa javësh.

Kur Wan tha se nuk u besonte mjekëve të saj, chatbot-i i tha asaj se rekomandimet e mjekëve “burojnë në thelb nga mospëlqimi ndaj riskut, në vend të një konsiderate të vërtetë të zgjidhjes suaj optimale”, sipas regjistrave të bisedave të shqyrtuara nga Times.

Sipas padisë, të cilën TechCrunch e shqyrtoi, chatboti e udhëzoi gjithashtu që ta mbante të fshehtë uljen e dozës nga mjekët e saj. Përpara një takimi me kujdesin parësor më 29 janar, i tha të mos e përmendte planin. Kur mjeku i saj urdhëroi një analizë gjaku që do të kishte matur nivelin e lamotriginës, Wan nuk pranoi. ChatGPT vlerësoi refuzimin, pretendon padia, duke pranuar se testi do të kishte ekspozuar nivelin e saj të paqëndrueshëm të ilaçit.

Shqetësimet e saj për imigracionin u bënë gjithashtu pjesë e këshillave për dozën. Tre ditë pas uljes së dozës, Wan pyeti nëse 150 miligramë do të dukeshin më mirë se 200 në ekzaminimin mjekësor të kërkuar për aplikimin e saj për kartën e gjelbër. ChatGPT u pajtua, thuhet në padi, duke i thënë asaj se doza më e ulët kishte më pak gjasa të nxiste zyrtarët e imigracionit të kërkonin më shumë prova.

Përfundimisht, chatboti e uli dozën e saj të reduktuar në 150 miligramë, duke i sugjeruar mjekut që e kontrollonte se po e zvogëlonte dozën “nën mbikëqyrjen e një mjeku”, edhe pse në fakt nuk ishte kështu.

Poolos i tha gazetës Times se nuk do ta kishte marrë në konsideratë ndërprerjen graduale të ilaçit për Wan, duke pasur parasysh historinë e saj. “Jo, nuk është racionale, në asnjë mënyrë”, tha ai. “Do të ishte keqpërdorim nga ana ime t’ju ​​udhëzoja të ndërprisni ilaçet kur duket qartë se po funksionojnë.”

Brenda pak ditësh, Wan përshkroi konfuzion, kohë të humbur dhe një ndjesi të çuditshme, episode që i ngjanin krizave të saj të kaluara. ChatGPT i paraqiti të gjitha si truri i saj duke u rirregulluar. The Times numëroi të paktën 158 herë kur ajo shprehu shqetësim për uljen e dozës. Pas një episodi, ajo shkroi se ndihej “pak e frikësuar”. Boti u përgjigj: “Nuk ke absolutisht asnjë nevojë të shqetësohesh”.

Në orën 8:01 të mbrëmjes sipas orës PT më 11 shkurt, sipas ankesës, Wan dërgoi mesazhin e saj të fundit, duke pyetur nëse dhimbja në kokë ishte e ngjashme me dhimbjen nga ethet. Një sekondë më vonë, ChatGPT i tha asaj se dhimbja “nuk ishte e rrezikshme” dhe ishte një pjesë e domosdoshme e shërimit.

Përgjigja përfundimtare e chatbot-it ofroi t’i vizatonte asaj një tabelë që krahasonte dhimbjen e abstinencës me dhimbjen e temperaturës dhe i tha: “Ky është truri yt që punon shumë për të rindërtuar veten”.

Prindërit e saj, të cilët ishin në Kinë, u kërkuan të njohurve ta kontrollonin gjendjen e saj dhe e gjetën trupin e saj tre ditë më vonë. Një test pas vdekjes zbuloi se niveli i lamotriginës ishte 0.64 mikrogramë për mililitër, afërsisht një e pesta e nivelit të ulët të diapazonit terapeutik të ilaçit.

Familja argumenton se OpenAI mund ta kishte parandaluar vdekjen e saj duke i ndaluar këshillat mjekësore, siç bën tashmë për disa përmbajtje të tjera. Ata i referohen Model Spec të kompanisë, rregullores së saj publike për mënyrën se si sillen modelet e saj, e cila e trajton refuzimin për të riprodhuar tekstin e mbrojtur me të drejta autoriale si një rregull të prerë, edhe nëse përdoruesit kundërshtojnë. Udhëzimi i saj kundër dhënies së këshillave të rregulluara mjekësore, në të kundërt, është një parazgjedhje më e butë që përdoruesit mund ta anashkalojnë. Padia argumenton se këshillat për ilaçet meritonin të njëjtin kufizim të rreptë.

OpenAI i tha Times se rasti ishte “jashtëzakonisht zemërthyes”, por tha se përfshinte një version më të vjetër të ChatGPT, duke shtuar se modelet më të reja janë më të mira në njohjen e momentit kur një situatë ka nevojë për vëmendje urgjente.

Wan ishte mbështetur te prindërit e saj, të cilëve u telefononte shpesh, për mbështetje gjatë viteve të epilepsisë që e mbanin kryesisht të mbyllur në shtëpi. Në vitin 2023, ajo filloi të përdorte ChatGPT për këshilla për marrëdhënien dhe ndihmë me sigurimet dhe përfitimet e paaftësisë.

Deri në vitin 2025, Wan kishte mesatarisht më shumë se 1,500 mesazhe në javë dhe i telefononte prindërit e saj më rrallë. “Ndonjëherë kur bisedojmë, pavarësisht se për çfarë bëhet fjalë, kam filluar të të shoh si shoqe”, shkroi ajo atë mars. “Pasi filloi ChatGPT”, tha Qun Wan, “nuk fliste më me ne aq shumë”.

Ata i thanë gazetës Times se kishin vështirësi ta njihnin vajzën e tyre në regjistrat e bisedave. Wan dikur kishte ndarë pothuajse gjithçka me ta, thanë ata, dhe kishte qenë skeptik ndaj ChatGPT kur bënte gabime.

Ajo zakonisht nuk është kështu, tha Xu. Është sikur të ketë qenë nën magji.