Sam Altman thotë se ChatGPT së shpejti do të lejojë përmbajtje për të rritur

Drejtori ekzekutiv i OpenAI, Sam Altman, njoftoi në një postim në X të martën se kompania së shpejti do të lehtësojë disa nga kufizimet e sigurisë të ChatGPT, duke u lejuar përdoruesve t’i bëjnë përgjigjet e chatbot-it më miqësore ose më “njerëzore” dhe “të rriturit e verifikuar” të angazhohen në biseda erotike.

“Ne e bëmë ChatGPT mjaft kufizues për t’u siguruar që po tregoheshim të kujdesshëm me problemet e shëndetit mendor. E kuptojmë që kjo e bëri më pak të dobishëm/të këndshëm për shumë përdorues që nuk kishin probleme të shëndetit mendor, por duke pasur parasysh seriozitetin e problemit, ne donim ta bënim këtë siç duhet”, tha Altman. “Në dhjetor, ndërsa e zbatojmë më plotësisht kufizimin e moshës dhe si pjesë e parimit tonë ‘trajtoni përdoruesit e rritur si të rritur’, ne do të lejojmë edhe më shumë, si p.sh. erotikë për të rriturit e verifikuar.”

Njoftimi është një kthesë e dukshme nga përpjekja disamujore e OpenAI për të adresuar marrëdhëniet shqetësuese që disa përdorues mendërisht të paqëndrueshëm kanë krijuar me ChatGPT. Altman duket se shpall një fitore të hershme mbi këto probleme, duke pretenduar se OpenAI “ka qenë në gjendje të zbusë problemet serioze të shëndetit mendor” rreth ChatGPT. Megjithatë, kompania ka ofruar pak ose aspak prova për këtë dhe tani po vazhdon me planet që ChatGPT të angazhohet në biseda seksuale me përdoruesit.

Disa histori shqetësuese dolën këtë verë rreth ChatGPT, konkretisht modelit të tij GPT-4o, duke sugjeruar që chatbot-i i inteligjencës artificiale mund t’i çonte përdoruesit e cenueshëm drejt një grope iluzioni. Në një rast, ChatGPT dukej se bindi një burrë se ai ishte një gjeni i matematikës që duhej të shpëtonte botën. Në një rast tjetër, prindërit e një adoleshenti paditën OpenAI, duke pretenduar se ChatGPT inkurajoi idetë vetëvrasëse të djalit të tyre në javët para vdekjes së tij.

Në përgjigje, OpenAI publikoi një sërë veçorish sigurie për t’iu përgjigjur servilizmit të inteligjencës artificiale: tendencës së një chatbot-i të inteligjencës artificiale për të tërhequr përdoruesit duke rënë dakord me çfarëdo që thonë ata, madje edhe me sjelljet negative.

OpenAI lançoi GPT-5 në gusht, një model i ri i inteligjencës artificiale që shfaq shkallë më të ulëta të servilizmit dhe përmban një router që mund të identifikojë sjelljen shqetësuese të përdoruesit. Një muaj më vonë, OpenAI lançoi veçori sigurie për të miturit, duke përfshirë një sistem parashikimi të moshës dhe një mënyrë që prindërit të kontrollojnë llogarinë ChatGPT të adoleshentit të tyre. OpenAI njoftoi të martën formimin e një këshilli ekspertësh të profesionistëve të shëndetit mendor për të këshilluar kompaninë mbi mirëqenien dhe inteligjencën artificiale.

Vetëm pak muaj pasi dolën këto histori shqetësuese, OpenAI duket se mendon se problemet e ChatGPT-së rreth përdoruesve të cenueshëm janë nën kontroll. Nuk është e qartë nëse përdoruesit ende po bien në gropa iluzionesh me GPT-5. Dhe ndërsa GPT-4o nuk është më modeli parazgjedhur në ChatGPT, modeli i IA-së është ende i disponueshëm sot dhe përdoret nga mijëra njerëz.

Futja e përmbajtjes erotike në ChatGPT është një territor i panjohur për OpenAI dhe ngre shqetësime më të gjera rreth mënyrës se si përdoruesit e cenueshëm do të bashkëveprojnë me veçoritë e reja. Ndërsa Altman këmbëngul se OpenAI nuk po e “maksimizon përdorimin” ose nuk po optimizon për angazhim, ta bësh ChatGPT më erotik sigurisht që mund t’i tërheqë përdoruesit.

Lejimi i chatbot-eve për t’u angazhuar në lojëra rolesh romantike ose erotike ka qenë një strategji efektive angazhimi për ofruesit e tjerë të chatbot-eve të inteligjencës artificiale, siç është Character.AI. Kompania ka fituar dhjetëra miliona përdorues, shumë prej të cilëve i përdorin chatbot-et e saj me një ritëm të lartë. Character.AI tha në vitin 2023 se përdoruesit kalonin mesatarisht dy orë në ditë duke folur me chatbot-et e saj. Kompania po përballet gjithashtu me një padi rreth mënyrës se si i trajton përdoruesit e cenueshëm.

OpenAI është nën presion për të rritur bazën e përdoruesve të saj. Ndërsa ChatGPT përdoret tashmë nga 800 milionë përdorues aktivë çdo javë, OpenAI po garon me Google dhe Meta për të ndërtuar produkte për konsumatorët e mundësuara nga inteligjenca artificiale të miratuara në masë. Kompania gjithashtu ka mbledhur miliarda dollarë për një ndërtim historik të infrastrukturës, një investim që OpenAI përfundimisht duhet ta kthejë.

Ndërkohë që të rriturit me siguri po kanë marrëdhënie romantike me chatbot-et e inteligjencës artificiale, kjo është gjithashtu mjaft popullore për të miturit. Një raport i ri nga Qendra për Demokraci dhe Teknologji zbuloi se 19% e nxënësve të shkollave të mesme ose kanë pasur një marrëdhënie romantike me një chatbot të inteligjencës artificiale, ose njohin një mik që ka pasur.

Altman thotë se OpenAI së shpejti do të lejojë përmbajtje erotike për “të rriturit e verifikuar”. Një zëdhënës i OpenAI i thotë TechCrunch se kompania do të mbështetet në sistemin e parashikimit të moshës që po ndërton për të siguruar që veçoritë erotike të ChatGPT të jenë të disponueshme vetëm për përdoruesit e rritur.

Siç shkroi më parë Altman në një postim në blog, nëse sistemi i parashikimit të moshës i OpenAI e shënon gabimisht një të rritur si të mitur, përdoruesit e ChatGPT mund të duhet të ngarkojnë një fotografi të dokumentit të tyre të identifikimit të lëshuar nga qeveria në ChatGPT për ta korrigjuar atë. Altman shkruan se, megjithëse ky është një kompromis për privatësinë, kompania beson se është një “kompromis i denjë”.

Nuk është e qartë nëse OpenAI do ta zgjerojë erotikën në mjetet e saj të gjenerimit të zërit, imazhit dhe videos me anë të inteligjencës artificiale.

Altman pretendon se OpenAI po e bën ChatGPT më miqësor dhe erotik për shkak të parimit të kompanisë “trajtoni përdoruesit e rritur si të rritur”. Gjatë vitit të kaluar, OpenAI është zhvendosur drejt një strategjie më të butë të moderimit të përmbajtjes për ChatGPT, duke i lejuar chatbot-it të jetë më tolerant dhe të ofrojë më pak refuzime. Në shkurt, OpenAI u zotua të përfaqësojë më shumë pikëpamje politike në ChatGPT, dhe në mars, kompania përditësoi ChatGPT për të lejuar imazhe të gjeneruara nga IA me simbole urrejtjeje.

Këto politika duket se janë një përpjekje për ta bërë përgjigjen e ChatGPT më popullore me një gamë të gjerë përdoruesish. Megjithatë, përdoruesit e prekshëm të ChatGPT mund të përfitojnë nga masat mbrojtëse që kufizojnë atë me të cilën mund të ndërveprojë një chatbot. Ndërsa OpenAI nxiton drejt një miliard përdoruesish aktivë javorë, tensioni midis rritjes dhe mbrojtjes së përdoruesve të prekshëm mund të rritet vetëm.