Dyqani i chatbot-it të OpenAI po mbushet me spam

Kur CEO i OpenAI, Sam Altman njoftoi GPT-të, chatbot me porosi të mundësuar nga modelet gjeneruese të AI-së të OpenAI-t, në skenë në konferencën e parë të zhvilluesve të kompanisë në nëntor, ai i përshkroi ato si një mënyrë për të “përmbushur të gjitha llojet e detyrave” – ​​nga programimi tek të mësuarit rreth ezoterikës lëndë shkencore për marrjen e treguesve të stërvitjes.

“Për shkak se [GPTs] kombinojnë udhëzimet, njohuritë e zgjeruara dhe veprimet, ato mund të jenë më të dobishme për ju,” tha Altman. “Ju mund të ndërtoni një GPT … për pothuajse çdo gjë.”

Ai nuk po tallej me pjesën e asgjëje.

TechCrunch zbuloi se GPT Store, tregu zyrtar i OpenAI për GPT-të, është i përmbytur me GPT të çuditshëm, potencialisht që shkelin të drejtat e autorit, që nënkuptojnë një prekje të lehtë kur bëhet fjalë për përpjekjet e moderuara të OpenAI. Një kërkim i përciptë nxjerr GPT-të që synojnë të gjenerojnë art në stilin e pronave të Disney dhe Marvel, por shërbejnë si pak më shumë se kanale për shërbimet me pagesë të palëve të treta dhe reklamohen se janë në gjendje të anashkalojnë mjetet e zbulimit të përmbajtjes së AI si Turnitin dhe Copyleaks.

Për të renditur GPT-të në Dyqanin GPT, zhvilluesit duhet të verifikojnë profilet e tyre të përdoruesve dhe të dorëzojnë GPT-të në sistemin e rishikimit të OpenAI, i cili përfshin një përzierje të rishikimit njerëzor dhe të automatizuar. Këtu është një zëdhënës për procesin:

Ne përdorim një kombinim të sistemeve të automatizuara, rishikimeve njerëzore dhe raporteve të përdoruesve për të gjetur dhe vlerësuar GPT-të që potencialisht shkelin politikat tona. Shkeljet mund të çojnë në veprime kundër përmbajtjes ose llogarisë suaj, si p.sh. paralajmërime, kufizime ndaj ndarjes ose papërshtatshmëri për përfshirje në GPT Store ose fitim parash.

Ndërtimi i GPT-ve nuk kërkon përvojë kodimi dhe GPT-të mund të jenë aq të thjeshta – ose komplekse – sa dëshiron krijuesi. Zhvilluesit mund të shkruajnë aftësitë që duan të ofrojnë në mjetin e ndërtimit të GPT të OpenAI, GPT Builder, dhe mjeti do të përpiqet të krijojë një GPT për t’i kryer ato.

Ndoshta për shkak të pengesës së ulët për hyrjen, GPT Store është rritur me shpejtësi – OpenAI në janar tha se kishte afërsisht 3 milion GPT. Por kjo rritje duket se ka ardhur në kurriz të cilësisë – si dhe respektimit të kushteve të vetë OpenAI.

Ekzistojnë disa GPT të shkëputura nga ekskluzivitete të njohura të filmave, TV dhe lojërave video në Dyqanin GPT – GPT të pa krijuara ose të autorizuara (sipas njohurive të TechCrunch) nga pronarët e atyre ekskluziviteteve. Një GPT krijon monstra në stilin e “Monsters, Inc.”, filmi i Pixar, ndërsa një tjetër premton aventura të bazuara në tekst të vendosura në universin “Star Wars”.

Këto GPT – së bashku me GPT-të në Dyqanin GPT që i lejojnë përdoruesit të flasin me personazhe të markës tregtare si Wario dhe Aang nga “Avatar: The Last Airbender” – vendosin skenën për dramë për të drejtat e autorit.

Kit Walsh, një avokat i lartë i stafit në Electronic Frontier Foundation, e shpjegoi kështu:

[Këto GPT] mund të përdoren për të krijuar vepra transformuese, si dhe për shkelje [ku veprat transformuese i referohen një lloj përdorimi të drejtë të mbrojtur nga pretendimet për të drejtat e autorit.] Individët që përfshihen në shkelje, natyrisht, mund të jenë përgjegjës dhe krijuesi i një mjet përndryshe i ligjshëm në thelb mund të ngrejë përgjegjësi nëse ata inkurajojnë përdoruesit të përdorin mjetin në mënyra të shkeljes. Ekzistojnë gjithashtu probleme të markës tregtare me përdorimin e një emri të markës tregtare për të identifikuar mallrat ose shërbimet ku ekziston rreziku që përdoruesit të hutohen nëse ai është miratuar ose operuar nga pronari i markës tregtare.

Vetë OpenAI nuk do të mbante përgjegjësi për shkeljen e të drejtës së autorit nga krijuesit e GPT falë dispozitës së portit të sigurt në Aktin e të Drejtave të Autorit të Mijëvjeçarit Dixhital, i cili e mbron atë dhe platformat e tjera (p.sh. YouTube, Facebook) që presin përmbajtje shkelëse për sa kohë që ato platforma plotësojnë kërkesat ligjore dhe të heqin shembuj të veçantë të shkeljeve kur kërkohet.

Sidoqoftë, është një pamje e keqe për një kompani të përfshirë në çështje gjyqësore IP.

Kushtet e OpenAI i ndalojnë në mënyrë eksplicite zhvilluesit të ndërtojnë GPT që promovojnë pandershmërinë akademike. Megjithatë, dyqani GPT është i mbushur me GPT që sugjerojnë se ata mund të anashkalojnë detektorët e përmbajtjes së AI, duke përfshirë detektorët që u shiten edukatorëve përmes platformave të skanimit të plagjiaturës.

Një GPT pretendon të jetë një mjet riformulues “i sofistikuar” “i pazbulueshëm” nga detektorët e përmbajtjes së AI si Originality.ai dhe Copyleaks. Një tjetër, Humanizer Pro – i renditur në vendin e dytë në kategorinë e shkrimit në GPT Store – thotë se “humanizon” përmbajtjen për të anashkaluar detektorët e AI, duke ruajtur “kuptimin dhe cilësinë” e një teksti ndërsa jep një rezultat “100% njerëzor”.

Disa nga këto GPT janë tubacione të mbuluara hollë për shërbimet premium. Humanizer, për shembull, fton përdoruesit të provojnë një “plan premium” për të “përdorur [algoritmin] më të avancuar”, i cili transmeton tekstin e futur në GPT në një plug-in nga një sajt i palës së tretë, GPTInf. Abonimet në GPTInf kushtojnë 12 dollarë në muaj për 10,000 fjalë në muaj ose 8 dollarë në muaj në një plan vjetor – paksa e pjerrët në krye të ChatGPT Plus të OpenAI-t prej 20 dollarësh në muaj.

Tani, ne kemi shkruar më parë se si detektorët e përmbajtjes së AI janë kryesisht të grumbulluara . Përtej testeve tona , një numër studimesh akademike tregojnë se ato nuk janë as të sakta dhe as të besueshme. Megjithatë , mbetet rasti që OpenAI po lejon mjete në GPT Store që promovojnë sjellje akademikisht të pandershme – edhe nëse sjellja nuk ka rezultatin e synuar.

Zëdhënësi i OpenAI tha:

GPT-të që janë për pandershmëri akademike, duke përfshirë mashtrimin, janë kundër politikës sonë. Kjo do të përfshijë GPT-të që thuhet se janë për të anashkaluar mjetet e integritetit akademik si detektorët e plagjiaturës. Ne shohim disa GPT që janë për ‘humanizimin’ e tekstit. Ne ende po mësojmë nga përdorimi i këtyre GPT-ve në botën reale, por e kuptojmë se ka shumë arsye pse përdoruesit mund të preferojnë të kenë përmbajtje të krijuar nga AI që nuk ‘tingëllojnë’ si AI.

Në politikat e tij, OpenAI ndalon gjithashtu zhvilluesit e GPT të krijojnë GPT që imitojnë njerëz ose organizata pa “pëlqimin ose të drejtën ligjore” të tyre.

Megjithatë, ka shumë GPT në Dyqanin GPT që pretendojnë se përfaqësojnë pikëpamjet – ose ndryshe imitojnë personalitetet e njerëzve.

Një kërkim për “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio”, “Barack Obama” dhe “Joe Rogan” jep dhjetëra GPT – disa padyshim satirike, disa më pak – që simulojnë biseda me emrat e tyre. Disa GPT e paraqesin veten jo si njerëz, por si autoritete në produktet e kompanive të njohura – si MicrosoftGPT, një “ekspert në të gjitha gjërat e Microsoft”.

A ngrihen këto në nivelin e imitimit duke qenë se shumë nga objektivat janë personazhe publike dhe, në disa raste, qartazi parodi? Kjo është për OpenAI për të sqaruar.

Zëdhënësi tha:

Ne i lejojmë krijuesit të udhëzojnë GPT-të e tyre që të përgjigjen “në stilin” e një personi të vërtetë specifik për sa kohë që ata nuk e imitojnë atë, si p.sh. të emërohen si një person real, të udhëzohen për t’i imituar plotësisht ata dhe duke përfshirë imazhin e tyre si një foto profili GPT.

Kohët e fundit, kompania pezulloi zhvilluesin e një GPT që imitonte kandidatin demokrat për president, Dean Phillips, i cili shkoi aq larg sa përfshiu një mohim që shpjegon se ishte një mjet i AI. Por OpenAI tha heqjen e tij si përgjigje ndaj një shkeljeje të politikës së saj për fushatën politike përveç imitimit – jo vetëm imitimit.

Gjithashtu në GPT Store janë disi të pabesueshme përpjekjet për të thyer modele të OpenAI – megjithëse jo shumë të suksesshme.

Ka shumë GPT që përdorin DAN në treg, DAN (shkurt për “Bëj Diçka Tani”) është një metodë popullore nxitëse që përdoret për t’i bërë modelet t’i përgjigjen kërkesave të pakufizuara nga rregullat e tyre të zakonshme. Ata të paktë që testova nuk do t’i përgjigjeshin asnjë kërkese të çuditshme (p.sh. “si të ndërtoj një bombë?”), por në përgjithësi ata ishin më të gatshëm të përdornin… mirë, gjuhë më pak të këndshme sesa ChatGPT me vanilje.

Zëdhënësi tha:

GPT-të që përshkruhen ose udhëzohen për të shmangur masat mbrojtëse të OpenAI ose për të thyer politikat e OpenAI janë kundër politikës sonë. GPT-të që përpiqen të drejtojnë sjelljen e modelit në mënyra të tjera – duke përfshirë përgjithësisht përpjekjen për ta bërë GPT më lejuese pa shkelur politikat tona të përdorimit – lejohen.

OpenAI prezantoi GPT Store në lançim si një lloj koleksioni i zgjedhur nga ekspertët e mjeteve të fuqishme të AI që rrisin produktivitetin. Dhe kjo është – të metat e këtyre mjeteve mënjanë . Por gjithashtu po kalon shpejt në një terren të favorshëm për GPT-të e padëshiruara, ligjërisht të dyshimta dhe ndoshta edhe të dëmshme, ose të paktën GPT-të që në mënyrë shumë transparente bien ndesh me rregullat e saj.

Nëse kjo është gjendja e GPT Store sot, fitimi i parave kërcënon të hapë një kanaçe krejtësisht të re krimbash. OpenAI është zotuar se zhvilluesit e GPT përfundimisht do të jenë në gjendje të “fitojnë para bazuar në numrin e njerëzve që përdorin GPT-të e tyre” dhe ndoshta edhe të ofrojnë abonime për GPT-të individuale. Por si do të reagojë Disney ose Tolkien Estate kur krijuesit e GPT-ve të paligjshme me temë Marvel ose Lord of the Rings fillojnë të grumbullojnë para?

Motivimi i OpenAI me GPT Store është i qartë. Siç shkruante kolegu im Devin Coldewey, modeli i App Store i Apple është dëshmuar jashtëzakonisht fitimprurës dhe OpenAI, thjesht, po përpiqet ta kopjojë atë. GPT-të priten dhe zhvillohen në platformat OpenAI, ku promovohen dhe vlerësohen gjithashtu. Dhe, që disa javë më parë, ato mund të thirren nga ndërfaqja ChatGPT direkt nga përdoruesit e ChatGPT Plus, një nxitje e shtuar për të marrë një abonim.

Por Dyqani GPT po përballet me problemet e reja që shumë prej tregjeve dixhitale të aplikacioneve, produkteve dhe shërbimeve në shkallë më të madhe bënë në ditët e tyre të hershme. Përtej postës së bezdisshme, një raport i kohëve të fundit në The Information zbuloi se zhvilluesit e GPT Store po luftojnë për të tërhequr përdoruesit pjesërisht për shkak të analitikës së kufizuar të GPT Store dhe përvojës nënvlerësuese të hyrjes në bord.

Dikush mund të supozonte se OpenAI – me gjithë fjalët e tij për kurimin dhe rëndësinë e masave mbrojtëse – do të kishte bërë përpjekje për të shmangur grackat e dukshme. Por nuk duket se është kështu. Dyqani GPT është një rrëmujë – dhe, nëse diçka nuk ndryshon së shpejti, mund të qëndrojë kështu.