Ky artikull është të dhëna trajnimi OpenAI

Nuk mund të lexoni shumë për rreziqet e inteligjencës artificiale të avancuar pa hasur së shpejti në eksperimentin e mendimit të maksimizimit të kapëses së letrës.

I paraqitur për herë të parë nga filozofi suedez Nick Bostrom në punimin e tij të vitit 2003 “Çështjet etike në inteligjencën artificiale të avancuar”, eksperimenti i mendimit shkon kështu: Imagjinoni një inteligjencë të përgjithshme artificiale (AGI), një në thelb të pakufishme në fuqinë dhe inteligjencën e saj. Kjo AGI është programuar nga krijuesit e saj me synimin për të prodhuar kapëse letre. (Pse do të programonte dikush një inteligjencë artificiale të fuqishme për të krijuar kapëse letre? Mos u shqetësoni – çështja është absurditeti.)

Për shkak se AGI është superinteligjent, ai mëson shpejt se si të bëjë kapëse letre nga çdo gjë. Dhe për shkak se AGI është superinteligjent, ajo mund të parashikojë dhe të parandalojë çdo përpjekje për ta ndaluar atë – dhe do ta bëjë këtë sepse një direktivë e saj është të bëjë më shumë kapëse letrash. Nëse përpiqemi të çaktivizojmë AGI, ai do të kundërshtojë sepse nuk mund të bëjë më shumë kapëse letre nëse fiket – dhe do të fitojë, sepse është superinteligjent.

Rezultati përfundimtar? E gjithë galaktika, duke përfshirë ty, mua dhe të gjithë ata që njohim, ose është shkatërruar ose është shndërruar në kapëse letre. (Siç ka shkruar kryeardhësi i AI Eliezer Yudkowsky : “Inteligjenca artificiale nuk ju urren, as nuk ju do, por ju jeni bërë nga atome që mund t’i përdorë për diçka tjetër.”) Përfundoni eksperimentin e mendimit.

Pika e eksperimentit të maksimizuesit të kapëses së letrës është e dyfishtë. Së pari, ne mund të presim që AI të jenë optimizues dhe maksimizues. Duke pasur një qëllim, ata do të përpiqen të gjejnë strategjinë optimale për të përmbushur arritjen maksimale të atij qëllimi, pa u shqetësuar për efektet anësore (të cilat në këtë rast përfshijnë galaktikën duke u kthyer në kapëse letre).

Së dyti, prandaj është shumë e rëndësishme që të përputhen me kujdes objektivat e AI me atë që ne vërtet vlerësojmë (që në këtë rast ndoshta nuk përfshin pak a shumë transformimin e galaktikës në kapëse letre). Siç më tha ChatGPT kur pyeta për eksperimentin e mendimit, “Ai nënvizon nevojën për konsiderata etike dhe masa kontrolli në zhvillimin e sistemeve të avancuara të AI.”

I zgjuar meqë eksperimenti i maksimizuesit të kapëses së letrës është si një analogji për problemet e shtrirjes së AI, gjithmonë më ka bërë përshtypje si pak më larg pikës. A mund të krijoni vërtet një AI kaq superinteligjente sa të mund të kuptojë se si ta kthejë çdo atom që ekziston në kapëse letre, por disi jo aq i zgjuar sa të kuptojë se një rezultat i tillë nuk është diçka që ne, krijuesit e saj, do të synonim? Në të vërtetë nuk ka askund në këtë tru artificial hipotetik që do të ndalonte diku gjatë rrugës – ndoshta pasi e kishte kthyer Jupiterin në kapëse letre 2,29 x 10 30 (faleminderit ChatGPT, për llogaritjet) – dhe mendoni, “Ndoshta ka anët negative të një universi i përbërë vetëm nga kapëse letre”?

Ndoshta. Ose ndoshta jo.

Unë kam menduar për eksperimentin e mendimit të maksimizuesit të kapëse letre që kur mora vesh të enjten në mëngjes se Vox Media, kompania së cilës i përkasin Future Perfect dhe Vox, kishte nënshkruar një marrëveshje licencimi me OpenAI për të lejuar përdorimin e materialit të saj të publikuar për trajnim. modelet e tij të AI dhe të ndahen brenda ChatGPT.

Detajet e sakta të marrëveshjes – duke përfshirë sa do të bëjë Vox Media për licencimin e përmbajtjes së saj, sa shpesh mund të rinovohet marrëveshja dhe cilat lloje mbrojtjesh mund të ekzistojnë për lloje specifike të përmbajtjes – nuk janë ende plotësisht të qarta. Në një njoftim për shtyp , bashkëthemeluesi, CEO dhe kryesuesi i Vox Media, Jim Bankoff tha se marrëveshja “përputhet me qëllimet tona për të përdorur inteligjencën artificiale gjeneruese për të inovuar për audiencën dhe klientët tanë, për të mbrojtur dhe rritur vlerën e punës dhe pronës sonë intelektuale. dhe për të rritur produktivitetin dhe zbulueshmërinë për të ngritur talentin dhe kreativitetin e gazetarëve dhe krijuesve tanë të jashtëzakonshëm.”

Vox Media nuk është i vetëm në arritjen e një marrëveshjeje të tillë me OpenAI. Atlantiku njoftoi një marrëveshje të ngjashme në të njëjtën ditë. (Shikoni pikëpamjen e shkëlqyer të redaktorit të Atlantikut Damon Beres për të .) Gjatë disa muajve të fundit, kompanitë botuese që përfaqësojnë më shumë se 70 gazeta, faqe interneti dhe revista kanë licencuar përmbajtjen e tyre në OpenAI , duke përfshirë pronarin e Wall Street Journal News Corp, pronarin e Politico, Axel Springer , dhe Financial Times.

Motivimet për OpenAI në marrëveshje të tilla janë të qarta. Për një gjë, ajo ka nevojë të vazhdueshme për të dhëna të reja trajnimi për modelet e saj të mëdha gjuhësore, dhe faqet e internetit të lajmeve si Vox ndodh që posedojnë miliona fjalë të shkruara në mënyrë profesionale, të kontrolluara nga faktet dhe të kopjuara (si këto!). Dhe ndërsa OpenAI punon për të siguruar që chatbot-et e tij mund t’u përgjigjen pyetjeve me saktësi, artikujt e lajmeve janë një burim më i vlefshëm i informacionit faktik të përditësuar sesa mund të gjeni në ueb në tërësi. (Ndërsa nuk mund të them se kam lexuar çdo fjalë që Vox ka botuar ndonjëherë, jam i sigurt se nuk do të gjeni asgjë në arkivat tona që rekomandon të shtoni ngjitës për të mbajtur djathin në pica, si funksioni i ri i kërkimit të AI gjeneruese të Google Përmbledhja me sa duket e bëri .)

Nënshkrimi i një marrëveshjeje licencimi mbron gjithashtu OpenAI nga kërcënimi i bezdisshëm i padive nga kompanitë e medias që besojnë se startup-i i AI tashmë ka përdorur përmbajtjen e tyre për të trajnuar modelet e tij (siç ka të ngjarë të ketë ndodhur ). Ky është pikërisht argumenti i bërë nga New York Times, i cili në dhjetor paditi OpenAI dhe financuesin e tij kryesor Microsoft për shkelje të të drejtave të autorit. Një numër gazetash dhe faqesh të tjera lajmesh kanë nisur padi të ngjashme .

Vox Media zgjodhi të shkojë në një rrugë tjetër, dhe nuk është e vështirë të kuptosh pse. Nëse kompania refuzon të licencojë përmbajtjen e saj, ka një shans të mirë që një grumbullim i tillë i të dhënave të vazhdojë, pa kompensim. Rruga e procesit gjyqësor është e gjatë, e shtrenjtë dhe e pasigurt dhe paraqet një problem klasik të veprimit kolektiv: Nëse industria e medias në tërësi nuk bashkohet dhe refuzon të licencojë përmbajtjen e saj, rebelimet individuale nga kompani individuale do të kenë vetëm kaq shumë kuptim. Dhe gazetarët janë shumë shqetësues – ne nuk mund të bashkëpunonim për diçka kaq të madhe për të shpëtuar jetën tonë, edhe nëse kjo është pikërisht ajo që mund të bëjë.

Unë nuk jam një drejtues mediash, por jam shumë i sigurt se në një bilanc, marrja e diçkaje duket më mirë sesa të mos marrësh asgjë – edhe nëse një marrëveshje e tillë duket më shumë si një negociatë pengjeje sesa një biznes.

Por ndërkohë që nuk jam drejtuese e medias, kam më shumë se 20 vjet që punoj në këtë biznes. Në atë kohë, unë e kam parë industrinë tonë të mbështesë shpresat tona në optimizimin e motorëve të kërkimit; në strumbullarin e videos (dhe përsëri); në Facebook dhe trafikun e mediave sociale. Më kujtohet që Apple erdhi në zyrat e mia në revistën Time në vitin 2010, duke na premtuar se iPad do të shpëtonte biznesin e revistave. (Nuk ndodhi.)

Çdo herë, na premtohet një bashkëpunim i frytshëm me platformat e teknologjisë që mund të përfitojnë të dyja palët. Dhe çdo herë, në fund të fundit nuk funksionon sepse interesat e atyre platformave teknologjike nuk përputhen dhe nuk janë përputhur kurrë plotësisht me ato të medias. Por sigurisht – ndoshta këtë herë Lucy nuk do ta tërheqë futbollin.

Në mënyrë specifike për Future Perfect, nuk mund të shmanget fakti që kompania jonë mëmë që ka arritur një marrëveshje me OpenAI për të licencuar të gjithë përmbajtjen tonë paraqet disa probleme optike. Gjatë dy javëve të fundit, reporterët dhe redaktorët e Future Perfect të udhëhequr nga Kelsey Piper dhe Sigal Samuel kanë publikuar një seri raportesh investigative që hedhin dyshime serioze mbi besueshmërinë e OpenAI si kompani dhe CEO i saj Sam Altman në mënyrë specifike. Ju duhet t’i lexoni ato – ashtu si kushdo tjetër që mendon të nënshkruajë një marrëveshje të ngjashme me kompaninë.

Histori të tilla nuk do të ndryshojnë. Unë mund t’ju premtoj, lexuesit tanë, se marrëveshja e Vox Media me OpenAI nuk do të ketë asnjë efekt në mënyrën se si ne në Future Perfect ose pjesa tjetër e Vox raportojmë për kompaninë. Në të njëjtën mënyrë që ne kurrë nuk do t’i jepnim trajtim favorizues një kompanie që reklamon në faqen e internetit të Vox, mbulimi ynë i OpenAI nuk do të ndryshojë për shkak të një marrëveshjeje licencimi që ajo nënshkroi me kompaninë tonë mëmë. Ky është zotimi ynë dhe është ai që të gjithë me të cilët punoj këtu, si mbi mua ashtu edhe poshtë meje, e marrin shumë seriozisht.

Thënë kështu, Future Perfect është një seksion i drejtuar nga misioni, ai që u krijua posaçërisht për të shkruar për tema që kanë vërtet rëndësi për botën, për të eksploruar mënyra për të bërë mirë më mirë, për të kontribuar me ide që mund ta bëjnë të ardhmen një vend më të përsosur. Kjo është arsyeja pse ne financohemi kryesisht nga burime filantropike, në vend të reklamave apo sponsorizimeve. Dhe nuk mund të them se ndjehet mirë të dish se çdo fjalë që kemi shkruar dhe do të shkruajmë për të ardhmen e parashikueshme do të përfundojë si të dhëna trajnimi, sado të vogla, për një kompani të AI që ka treguar vazhdimisht, duke lënë mënjanë deklaratën e saj të misionit . nuk duket se po vepron në dobi të gjithë njerëzimit.

Por shqetësimet e mia më të mëdha kanë të bëjnë më pak me atë që kjo marrëveshje dhe të tjera si ajo do të thotë për Future Perfect apo edhe biznesin mediatik më gjerësisht, sesa çfarë do të thotë për platformën që ndajnë si kompanitë e medias ashtu edhe gjigantët e AI: internetin. Gjë që më kthen në maksimizimin e kapëseve të letrës.

AI nuk janë maksimizuesit e vetëm; po ashtu janë kompanitë që prodhojnë AI.

Nga OpenAI te Microsoft tek Google te Meta, kompanitë në biznesin e AI janë të përfshira në një garë brutale : për të dhëna, për fuqi llogaritëse, për talentin njerëzor, për pjesën e tregut dhe, në fund të fundit, për fitime. Këto synime janë kapëse letre dhe ajo që ata po bëjnë tani, ndërsa qindra miliarda dollarë derdhen në industrinë e AI, është gjithçka që munden për t’i maksimizuar ato.

Problemi është se maksimizimi, siç tregon skenari i kapëses së letrës, i lë shumë pak hapësirë ​​kujtdo tjetër. Ajo që këto kompani në fund të fundit duan të prodhojnë është përgjigjja përfundimtare, produktet e AI të afta për t’iu përgjigjur çdo pyetjeje dhe për të përmbushur çdo detyrë që përdoruesit e saj mund të imagjinojnë. Pavarësisht nëse është funksioni i Përmbledhjes së AI të Google që synon të eliminojë nevojën për të klikuar në të vërtetë një lidhje në ueb – “le Google të bëjë Google-in për ju”, siç shkoi motoja në ngjarjen e fundit të zhvilluesve të kompanisë – ose një ChatGPT i krijuar me akses për të gjitha lajmet më të fundit, rezultati përfundimtar i dëshiruar është një orakull i gjithëdijshëm. Pyetje brenda, përgjigju – asnjë ndalesë bezdisëse në shkrimtarët ose faqet e internetit në mes.

Kjo padyshim nuk është e mirë për ata prej nesh që sigurojmë jetesën duke shkruar në ueb, ose duke bërë podcast ose duke prodhuar video. Siç shkroi kohët e fundit Jessica Lessin, themeluesja e faqes së lajmeve të teknologjisë Information, duke nxitur kompanitë mediatike që nënshkruajnë marrëveshje me OpenAI: “Është e vështirë të shihet se si çdo produkt i AI i ndërtuar nga një kompani teknologjike do të krijonte shpërndarje të re kuptimplote dhe të ardhura për lajmet.”

Tashmë ka parashikime që rritja e chatbot-eve të AI dhe produkteve gjeneruese të kërkimit të AI si Përmbledhja e Google mund të bëjë që trafiku i motorëve të kërkimit te botuesit të bjerë deri në 25 për qind deri në vitin 2026. Dhe ndoshta aq më mirë bëhen këta robotë, pjesërisht falë marrëveshjeve me kompanitë mediatike si kjo, aq më shpejt mund të ndodhë ky ndryshim.

Siç thashë, keq për ne. Por një botë ku AI vepron gjithnjë e më shumë si përgjigjja e vetme dhe e vetme, siç shkruan Judith Donath dhe Bruce Schneier së fundmi , është ajo që “kërcënon të shkatërrojë ekosistemin kompleks online që lejon shkrimtarët, artistët dhe krijuesit e tjerë të arrijnë audiencën njerëzore”. Dhe nëse nuk mund të lidheni as me një audiencë me përmbajtjen tuaj – lëre më të paguheni për të – imperativi për të prodhuar më shumë punë shpërbëhet. Nuk do të jetë thjesht lajm – vetë rrjeti i pafund mund të ndalojë së rrituri.

Pra, keq për të gjithë ne, përfshirë kompanitë e AI. Çfarë ndodh nëse, ndërsa përpiqen pa pushim të grumbullojnë çdo pjesë të mundshme të të dhënave që mund të përdoren për të trajnuar modelet e tyre, kompanitë e AI shkatërrojnë vetë arsyet që njerëzit të bëjnë më shumë të dhëna? Me siguri ata mund ta parashikojnë këtë mundësi? Me siguri nuk do të ishin aq të vetëm sa të shkatërronin lëndën e parë nga e cila varen?

Megjithatë, ashtu si inteligjenca artificiale në eksperimentin e mendimit të Bostrom ndjek pamëshirshëm qëllimin e saj të vetëm, po ashtu bëjnë edhe kompanitë e AI të sotme. Derisa të kenë reduktuar lajmet, ueb-in dhe të gjithë ata që dikur ishin pjesë e tij në pak më shumë se kapëse letre.