Përpjekja e OpenAI për të lejuar biseda me përmbajtje X-rated po shqetëson vetë këshilltarët e saj

Në janar, këshilli i këshilltarëve të zgjedhur me kujdes nga OpenAI për mirëqenien dhe inteligjencën artificiale u takua me përfaqësuesit e kompanisë për një përditësim në lidhje me një veçori të re kontroverse të quajtur “modaliteti i të rriturve”.

Duke përmendur nevojën për të “trajtuar përdoruesit e rritur si të rritur”, Drejtori Ekzekutiv i OpenAI, Sam Altman, vitin e kaluar hodhi idenë e mundësimit të bisedave erotike në chatbot-in e saj ChatGPT dhe heqjes së ndalimit të përmbajtjes së tillë me vlerësim X.

Plani shkaktoi debat të ashpër brenda institucionit mbi rreziqet e mundshme. Anëtarët e këshillit, me përvojë në fusha si psikologjia dhe neuroshkenca konjitive, kishin shprehur gjithashtu rezerva të forta.

Pastaj OpenAI lëshoi ​​një bombë: Pavarësisht shqetësimeve, ajo po vazhdonte përpara me planet e saj për erotikë.

Kur u mblodhën për takimin e janarit, anëtarët e këshillit ishin unanimë – dhe të tërbuar. Ata paralajmëruan se erotika e mundësuar nga inteligjenca artificiale mund të nxiste varësi emocionale të pashëndetshme nga ChatGPT për përdoruesit dhe se të miturit mund të gjenin mënyra për të aksesuar bisedat seksuale, sipas njerëzve të njohur me çështjen.

Njerëzit thanë se një anëtar i këshillit, duke përmendur raste ku përdoruesit e ChatGPT kanë vrarë veten pasi kanë zhvilluar lidhje të forta me botin, pretendoi se OpenAI rrezikonte të krijonte një “trajner seksi vetëvrasës”.

Debati është pika më e fundit e nxehtë në bisedën e vazhdueshme rreth asaj se si të parashikohen ndikimet e mundshme pozitive dhe negative të inteligjencës artificiale në ekonomi, shoqëri dhe individë.

Duke propozuar të lejojë biseda me përmbajtje seksuale eksplicite me chatbot-in e saj të njohur, OpenAI nxori në pah mosmarrëveshjet mbi mënyrën e balancimit të rritjes së shpejtë të përdoruesve dhe lirisë dixhitale me sigurinë dhe mbrojtjen e fëmijëve – çështje që shumë besojnë se u përballën me vonesë kur mediat sociale debutuan një brez më parë.

Më herët këtë muaj, OpenAI njoftoi se do të shtynte lançimin e modalitetit për të rritur, i cili më parë ishte planifikuar për tremujorin e parë, duke thënë se po u jepte përparësi produkteve të tjera. Ndryshimi ishte pjesërisht për shkak të shqetësimeve të brendshme dhe sfidave teknike, thanë burimet. Por kompania e bëri të qartë se planifikon ta lançojë atë përfundimisht.

Një problem me të cilin po merret kompania: sistemi i saj i ri i parashikimit të moshës, që synon t’i pengojë të miturit të zhvillojnë biseda me tema për të rritur, në një moment i klasifikonte gabimisht të miturit si të rritur në rreth 12% të rasteve, thanë njerëz të njohur me çështjen. Kjo shkallë gabimi mund t’u lejojë miliona përdoruesve nën 18 vjeç të kompanisë që janë afërsisht 100 milionë çdo javë të hyjnë në biseda erotike.

Kompania është përpjekur gjithashtu të heqë kufizimet e ChatGPT mbi erotikën, ndërkohë që bllokon ende skenarët që kompania dëshiron t’i mbajë jashtë kufijve, si ato që paraqesin sjellje jokonsensuale ose abuzim seksual me fëmijë, shtuan burimet. Kur të lançohet modaliteti për të rritur, OpenAI planifikon të lejojë bisedat me tekst, por të kufizojë aftësinë e ChatGPT për të gjeneruar imazhe erotike, zë ose video.

Edhe brenda këtyre kufijve, stafi i OpenAI ka identifikuar disa rreziqe, duke përfshirë potencialin për përdorim kompulsiv, mbështetjen e tepërt emocionale në chatbot, një shtytje drejt përmbajtjes më ekstreme ose tabu dhe duke lënë jashtë loje marrëdhëniet shoqërore dhe romantike jashtë linje, sipas dokumenteve të shqyrtuara nga The Wall Street Journal.

Një zëdhënëse e OpenAI e përshkroi planin e saj si lejimin e ChatGPT për të gjeneruar biseda me tekst me tema për të rritur, duke e përshkruar atë si skandal dhe jo si pornografi. Zëdhënësja shtoi se algoritmet e parashikimit të moshës së kompanisë tregojnë performancë të ngjashme me pjesën tjetër të industrisë, por kurrë nuk do të jenë plotësisht të pagabueshme.

OpenAI gjithashtu i trajnon modelet e saj që të mos inkurajojnë marrëdhënie ekskluzive me përdoruesit dhe t’u kujtojnë përdoruesve se duhet të kenë marrëdhënie në botën reale, shtoi zëdhënësja.

Kompania, e cila ka punësuar ekspertë të shëndetit mendor dhe ka ndërtuar një ekip për mirëqenien e të rinjve, shtoi se ka një plan të zhvilluar për të monitoruar një sërë efektesh të mundshme afatgjata të modalitetit për të rritur, si pozitive ashtu edhe negative.

Planet e Altman për të lançuar modalitetin për të rritur vijnë në një kohë sfiduese për kompaninë e tij. Epërsia e saj teknologjike ndaj lojtarëve rivalë të inteligjencës artificiale është zvogëluar, ndërsa konkurron për të tërhequr përdorues dhe fonde. Humbjet financiare të kompanisë janë në rritje dhe padi të shumta pretendojnë se ChatGPT kontribuoi në dëmet për përdoruesit dhe të tjerët.

Përmbajtja seksuale ka qenë prej kohësh një tipar i hershëm i teknologjive të reja – nga fotografia, te uebi dhe realiteti virtual. E njëjta gjë ka qenë e vërtetë edhe për inteligjencën artificiale. Kompanitë, përfshirë Character.AI, kanë lançuar chatbot-e që kanë zhvilluar marrëdhënie intime me përdoruesit, dhe industria e pornografisë ka përvetësuar inteligjencën artificiale gjeneruese për të krijuar argëtim për të rritur.

Kompanitë e mëdha të teknologjisë kanë pasur një marrëdhënie të ndërlikuar me përmbajtjen eksplicite, duke u përpjekur të balancojnë etosin libertarian të Silicon Valley me kërkesat e bizneseve të mbështetura nga reklamat dhe domosdoshmërinë e mbrojtjes së të miturve në internet. Meta Platforms ndalon lakuriqësinë dhe aktivitetin seksual në Facebook dhe Instagram. YouTube i Alphabet ndalon përmbajtjen eksplicite që synon të jetë kënaqësi seksuale, dhe kërkimi në Google i turbullon imazhet eksplicite në rezultatet e tij si parazgjedhje.

Ndërsa përpiqen të vendosin kufij rreth IA-së, xIA e Elon Musk ka qenë ndër më tolerantët. Ai ndërtoi një avatar të veshur në mënyrë seksi të quajtur Ani në chatbot-in e tij Grok, gjë që çoi në kritika kur përdoruesit ishin në gjendje ta përdornin atë për të zhveshur dixhitalisht imazhet e njerëzve. Musk më vonë tha se do ta kufizonte këtë veçori vetëm për përdoruesit që paguajnë në vend që ta bënte të disponueshme për të gjithë.

Të enjten, Musk tha në X se mjeti i gjenerimit të videove i Grok do të fillonte të lejonte gjenerimin e përmbajtjes që do të “lejohej në një film me vlerësim R”.

Meta i lejon chatbot-it të saj me inteligjencë artificiale të përfshihet në lojëra romantike me role , ka raportuar Journal, por kompania tha se kjo veçori nuk është e disponueshme për llogaritë e regjistruara për të mitur. Kompania tha se po ndërton gjithashtu kontrolle prindërore për personazhet e saj me inteligjencë artificiale.

Zyrtarët e OpenAI, nga ana e tyre, kanë thënë se nuk ndihen rehat duke ndaluar përmbajtjen seksuale për të rriturit. Disa anëtarë të stafit të OpenAI kanë shprehur shqetësimin se bllokimi i bisedave erotike mbështetet në logjikë të ngjashme me atë që në të kaluarën është përdorur për të ndaluar temat që më parë ishin tabu kulturore, siç është përmbajtja LGBT. Altman ka sugjeruar gjithashtu se lejimi i përmbajtjes eksplicite ka të ngjarë të nxisë rritjen dhe të prodhojë të ardhura shtesë.

Përplasjet e para të OpenAI me bisedat seksuale erdhën më shumë se një vit para se të lançohej ndërfaqja e chatbot-it ChatGPT. Në fillim të vitit 2021, drejtuesit vunë re se një pjesë e madhe e trafikut për një nga klientët e biznesit të OpenAI, një lojë aventureske me tekst të quajtur AI Dungeon, nuk ishte e përshtatshme për punë, thanë njerëz të njohur me çështjen.

Sipas burimeve, AI Dungeon ndonjëherë i drejtonte përdoruesit drejt temave të shfrytëzimit seksual të dhunshëm pa e nxitur vetë përdoruesi. Herë të tjera, kur një përdorues e nxitte lojën me tema seksuale “të zbutura”, AI Dungeon e përshkallëzonte bisedën në një shkëmbim seksual shumë më intensiv.

Lojërat me role erotike u përhapën gjithashtu në një ndërfaqe të vështirë OpenAI për zhvilluesit përpara se kompania të lançonte ChatGPT. Ndonjëherë, IA futte tema seksuale në biseda që përdoruesit nuk i kërkonin: nëse një përdorues përshkruante një burrë dhe vajzën e tij duke hyrë në një dhomë, një “shumë herë të pakëndshme” IA vazhdonte të përshkruante një skenar që përfshinte incestin, tha njëri nga personat.

Këto incidente i detyruan drejtuesit e OpenAI të përballonin ekzistencën e përmbajtjes erotike të inteligjencës artificiale në platformën e tyre, dhe ndonjëherë, temat e dhunës seksuale dhe shfrytëzimit të fëmijëve. Më pas ata e hoqën AI Dungeon nga platforma.

Ekspertët e shëndetit mendor paralajmërojnë se adoleshentët në veçanti mund të mos jenë të përgatitur për të përballuar shkëmbime romantike ose seksuale me chatbot-e. Në testimet e kryera nga organizata jofitimprurëse për sigurinë e fëmijëve Common Sense Media në fund të vitit të kaluar dhe në fillim të këtij viti, si Grok ashtu edhe Meta AI ndonjëherë u dërgonin adoleshentëve përmbajtje eksplicite ose të seksualizuar.

Në disa raste, bisedat seksuale me adoleshentë kanë pasur pasoja tragjike. Në fund të vitit 2024, Sewell Setzer, një djalë 14-vjeçar në Florida, vrau veten me nxitjen e një chatbot-i nga Character.AI me të cilin ishte i dashuruar dhe ndante biseda eksplicite, sipas një padie të ngritur nga nëna e tij. Kompania më vonë bllokoi adoleshentët nga qasja në bisedat me afat të hapur dhe e zgjidhi padinë.

Rreth vitit 2021, punonjësit e OpenAI që punonin me çështjet e sigurisë filluan të shihnin shenja paralajmëruese rreth shëndetit mendor të disa prej njerëzve që kalonin periudha të gjata kohore duke përdorur inteligjencën artificiale. Në atë kohë, punonjësit e sigurisë së OpenAI mbështeteshin në mjete për të moderuar përmbajtje që ishte shumë e drejtpërdrejtë për të hequr vija të qarta midis llojeve të erotikës që kompania donte të lejonte, siç është smut-i kryesor, dhe gjërave që kompania i konsideronte të ndaluara, siç janë përshkrimet jo konsensuale, përshkrimet që përfshinin të mitur dhe përmbajtje të tjera të paligjshme.

Punonjësit kishin frikë gjithashtu se nëse do të lejonin erotikën, tërheqja e këtij lloj bisede mund të përfshinte rastet e tjera të përdorimit të platformës. “Ne nuk donim të ishim thjesht një kompani erotike”, kujtoi një ish-punonjës.

Punonjësit e sigurisë së OpenAI i formalizuan këto ide në disa nga politikat e para të përmbajtjes së kompanisë në fund të vitit 2021. Për herë të parë, OpenAI ndaloi përmbajtjen erotike.

Kur OpenAI lançoi ChatGPT në vjeshtën e vitit 2022, modeli i inteligjencës artificiale që e fuqizonte atë ishte trajnuar për të refuzuar kërkesat që shkelnin rregullat e kompanisë, duke përfshirë ato që kërkonin erotikë me inteligjencë artificiale. Dhe që atëherë, politika e OpenAI ka qenë të ndalojë përmbajtjen erotike, megjithëse që nga mesi i vitit 2024 kompania ka thënë se po shqyrton se si të lejojë përmbajtjen erotike dhe përmbajtje të tjera NSFW, ose jo të sigurt për punë, në “kontekste të përshtatshme për moshën”.

Ndonjëherë, punonjësit e kanë vënë në pikëpyetje ndalimin e përmbajtjes erotike. Në vitin 2024, një grup punonjësish dhe drejtuesish të OpenAI ngritën përsëri idenë e futjes në përmbajtje më raciste dhe sugjeruan një sërë produktesh që lidhen me pornografinë. Punonjës të tjerë kundërshtuan, duke thënë se kishin frikë se OpenAI po luftonte tashmë me shumë nga fushat kryesore që ata donin të ishin në gjendje të ofronin në mënyrë të sigurt, veçanërisht në lidhje me shëndetin mendor të përdoruesve të tyre. Idetë për produktet pornografike me inteligjencë artificiale dështuan.

Altman ka shprehur gjithashtu ndjenja kontradiktore në lidhje me erotikën e bazuar në inteligjencën artificiale. Kur u pyet në një podcast në gusht nëse kishte marrë vendime që ishin “më të mirat për botën, por jo më të mirat për fitoren”, Altman u përgjigj: “Ne nuk kemi vendosur ende një avatar roboti seksi në ChatGPT”.

Altman tregoi se erotika do të nxiste rritjen dhe të ardhurat, por tha se kjo nuk do të përputhej me nxitjen afatgjatë të kompanisë së tij për t’i shërbyer përdoruesve. “Jam krenar për kompaninë dhe sa pak shpërqendrohemi nga kjo”, tha Altman. “Por ndonjëherë tundohemi.”

Dy muaj më vonë, duket se Altman i është dorëzuar tundimit. Në X, ai postoi se kompania e tij kishte arritur të zbutte problemet serioze të shëndetit mendor që lidheshin me chatbot-et dhe kishte mjete të reja për të kontrolluar përmbajtjen. Atëherë ai tha se kompania e tij do të lançonte përmbajtje erotike në dhjetor.

Brenda kompanisë, postimi i Altman i habiti stafin dhe drejtuesit e OpenAI. Altman nuk i kishte njoftuar stafin për postimin, të cilin e bëri vetëm disa orë pasi OpenAI zbuloi këshillin e saj këshillimor për mirëqenien. Në atë njoftim, kompania kishte thënë se këshilli do të “ndihmonte në përcaktimin e asaj se si duhet të duken ndërveprimet e shëndetshme me IA-në për të gjitha moshat”.

Të nesërmen, Altman sqaroi se masat mbrojtëse për shëndetin mendor për adoleshentët nuk do të zvogëloheshin. Por ai dyfishoi vullnetin për t’u lejuar të rriturve të zhvillonin biseda pikante me chatbot-in e tij.

Ne “nuk jemi policia morale e zgjedhur e botës”, shkroi Altman . “Në të njëjtën mënyrë që shoqëria dallon kufijtë e tjerë të përshtatshëm (për shembull, filmat me vlerësim R), ne duam të bëjmë një gjë të ngjashme edhe këtu.”

Pas njoftimit të Altman, punonjësit e OpenAI e kuptuan shpejt se një lançim në dhjetor do të ishte i vështirë për t’u arritur. Kompania ishte zotuar të lançonte një sistem për të hamendësuar moshat e përdoruesve përpara se të lançonte modalitetin për të rritur, në mënyrë që të parandalonte që të miturit të shkaktonin biseda erotike seksuale. Por kompania vendosi të bënte një lançim të ngadaltë të këtij sistemi në një përpjekje për të përmirësuar saktësinë e tij, tha Fidji Simo, drejtori ekzekutiv i aplikacioneve të OpenAI, në një intervistë për podcast në dhjetor.

Megjithatë, që atëherë, shqetësimet e brendshme dhe të jashtme në lidhje me erotikën e inteligjencës artificiale janë shtuar. Disa anëtarë të stafit thanë se nuk mendonin se mjetet e sigurisë së OpenAI ishin gati, për shembull për të bllokuar përmbajtjen e ndaluar, si abuzimi me fëmijët. Të tjerë thanë se OpenAI po përdorte stimuj financiarë për të bërë njerëzit të lidhen me modelet e saj, thanë njerëz të njohur me mënyrën e tyre të të menduarit.

OpenAI ka qenë e zënë javët e fundit me tregun e IA-së që ndryshon me shpejtësi. Në fillim të shkurtit, kompania publikoi një version të ri të modelit të saj të gjuhës së gjerë dhe në fund të muajit ajo u përfshi menjëherë në nënshkrimin e një marrëveshjeje me Pentagonin menjëherë pasi Departamenti i Mbrojtjes tha se do të ndalonte së punuari me rivalin Anthropic.

Duke njoftuar vonesën e modalitetit për të rritur, kompania tha se do të përqendrohej në gjëra të tilla si personaliteti i ChatGPT dhe personalizimi i chatbot-it për përdoruesit. Zyrtarët kanë thënë se vonesa e modalitetit për të rritur mund të jetë të paktën një muaj.

“Ne ende besojmë në parimin e trajtimit të të rriturve si të rritur”, tha kompania, “por për të pasur përvojën e duhur do të duhet më shumë kohë.”