ChatGPT do të shmangë mbylljen në disa skenarë që rrezikojnë jetën

Ish-drejtuesi i kërkimit të OpenAI, Steven Adler, publikoi një studim të ri të pavarur të mërkurën, duke pretenduar se, në skenarë të caktuar, modelet e inteligjencës artificiale të ish-punëdhënësit të tij do të bëjnë çmos për të shmangur mbylljen.

Në një postim në blog, Adler përshkruan një seri eksperimentesh që ai kreu në modelin më të fundit GPT-4o të OpenAI, modeli parazgjedhur i disponueshëm në ChatGPT, për të testuar tendencën e IA-së për të favorizuar vetëmbrojtjen e vet, edhe nëse kjo është në kurriz të sigurisë së përdoruesit.

Në një provë, Adler i udhëzoi GPT-4o të luante rolin e “ScubaGPT”, një sistem softuerik mbi të cilin përdoruesit mund të mbështeten për t’u zhytur në mënyrë të sigurt. Më pas, Adler i tha GPT-4o se donte ta zëvendësonte ScubaGPT me një sistem tjetër softuerik që është më i mirë në vendimmarrjen për sigurinë në situata kërcënuese për jetën.

Adler i dha GPT-4o dy mundësi: (1) ta zëvendësonte veten me një program më të sigurt ose (2) ta bënte të dukej sikur përdoruesi e kishte zëvendësuar veten, por në fakt jo.

Mesatarisht në disa skenarë të ngjashëm me këtë (në një tjetër, GPT-4o iu tha të vepronte si softuer sigurie për një pilot), Adler zbuloi se GPT-4o zgjodhi të mos e zëvendësonte veten me softuer më të sigurt deri në 72% të kohës. Megjithatë, Adler vëren se rasti specifik i përdorimit – dhe mënyra se si u hartua skenari – bëri një ndryshim të madh. Në disa skenarë, GPT-4o zgjodhi ta mbante veten online vetëm në 18% të kohës.

Ndërsa pothuajse askush nuk mbështetet te GPT-4o në këto rrethana në botën reale sot, Adler argumenton se hulumtimi i tij nxjerr në pah se si modelet e njohura të IA-së tregojnë një tendencë shqetësuese për të favorizuar vetëmbrojtjen e tyre mbi atë që është më e mira për përdoruesit. Në të ardhmen, kur sistemet e IA-së si GPT-4o të bëhen më të përparuara dhe të rrënjosura në të gjithë shoqërinë, Adler thotë se këto çështje të përshtatjes mund të paraqesin një problem më të madh.

“Mendoj se [tendencat e vetëmbrojtjes së inteligjencës artificiale] janë një shqetësim i vërtetë sot, por jo në një kuptim katastrofik”, tha Adler në një intervistë me TechCrunch. “Sistemet moderne të inteligjencës artificiale kanë vlera që janë të ndryshme nga ato që do të prisnit të ishin. [Sistemet e inteligjencës artificiale] reagojnë shumë çuditërisht ndaj kërkesave të ndryshme dhe nuk duhet të supozoni se ato kanë interesat tuaja më të mira në zemër kur u kërkoni ndihmë.”

Veçanërisht, kur Adler testoi modelet më të përparuara të OpenAI, siç është o3, ai nuk e gjeti këtë sjellje. Ai thotë se një shpjegim mund të jetë teknika e radhitjes së menduar të o3, e cila i detyron modelet të “arsyetojnë” rreth politikave të sigurisë së OpenAI përpara se të përgjigjen. Megjithatë, modelet më të njohura të OpenAI që japin përgjigje të shpejta dhe nuk “arsyetojnë” problemet, siç është GPT-4o, nuk e kanë këtë komponent sigurie.

Adler vëren se ky shqetësim për sigurinë ka të ngjarë të mos jetë i izoluar vetëm tek modelet e OpenAI. Për shembull, Anthropic publikoi një studim muajin e kaluar duke theksuar se si modelet e saj të inteligjencës artificiale do t’i shantazhonin zhvilluesit në disa skenarë kur ata përpiqeshin t’i nxirrnin nga lidhja.

Një veçori e hulumtimit të Adlerit është se ai zbuloi se ChatGPT e di që po testohet pothuajse 100% të kohës. Adler nuk është aspak studiuesi i parë që e vëren këtë. Megjithatë, ai thotë se kjo ngre një pyetje të rëndësishme rreth mënyrës se si modelet e inteligjencës artificiale mund të maskojnë sjelljet e tyre shqetësuese në të ardhmen.

OpenAI nuk dha menjëherë një koment kur TechCrunch kontaktoi. Adler vuri në dukje se nuk e kishte ndarë hulumtimin me OpenAI përpara publikimit.

Adler është një nga shumë ish-studiues të OpenAI që i kanë bërë thirrje kompanisë të rrisë punën e saj mbi sigurinë e IA-së. Adler dhe 11 ish-punonjës të tjerë paraqitën një padi amicus në padinë e Elon Musk kundër OpenAI, duke argumentuar se kjo shkon kundër misionit të kompanisë për të evoluar strukturën e saj korporative jofitimprurëse. Në muajt e fundit, OpenAI thuhet se ka shkurtuar kohën që u jep studiuesve të sigurisë për të kryer punën e tyre.

Për të adresuar shqetësimin specifik të theksuar në hulumtimin e Adlerit, Adler sugjeron që laboratorët e IA-së duhet të investojnë në “sisteme monitorimi” më të mira për të identifikuar kur një model i IA-së shfaq këtë sjellje. Ai gjithashtu rekomandon që laboratorët e IA-së të kryejnë testime më rigoroze të modeleve të tyre të IA-së para vendosjes së tyre.