“Babai” i inteligjencës artificiale kritikon modelet më të fundit për gënjeshtra ndaj përdoruesve

Një nga “kumbarët” e inteligjencës artificiale ka sulmuar një garë multimiliardë dollarëshe për të zhvilluar teknologjinë e përparuar, duke thënë se modelet më të fundit po shfaqin karakteristika të rrezikshme, siç është gënjeshtra ndaj përdoruesve.

Yoshua Bengio, një akademik kanadez, puna e të cilit ka ndikuar në teknikat e përdorura nga grupet kryesore të IA-së si OpenAI dhe Google, tha: “Fatkeqësisht, ekziston një garë shumë konkurruese midis laboratorëve kryesorë, e cila i shtyn ata të përqendrohen në aftësinë për ta bërë IA-në gjithnjë e më inteligjente, por jo domosdoshmërisht të vënë theks dhe investime të mjaftueshme në kërkimin mbi sigurinë.”

Fituesi i Çmimit Turing e bëri paralajmërimin e tij në një intervistë me Financial Times, ndërsa lançonte një organizatë të re jofitimprurëse të quajtur LawZero. Ai tha se grupi do të përqendrohej në ndërtimin e sistemeve më të sigurta, duke u zotuar të “izolonte kërkimin tonë nga ato presione komerciale”.

LawZero deri më tani ka mbledhur gati 30 milionë dollarë në kontribute filantropike nga donatorë, përfshirë inxhinierin themelues të Skype, Jaan Tallinn, iniciativën filantropike të ish-shefit të Google, Eric Schmidt, si dhe Open Philanthropy dhe Future of Life Institute.

Shumë nga financuesit e Bengio-s i përmbahen lëvizjes së “altruizmit efektiv”, mbështetësit e së cilës kanë tendencë të përqendrohen në rreziqet katastrofike që rrethojnë modelet e inteligjencës artificiale. Kritikët argumentojnë se lëvizja nxjerr në pah skenarët hipotetikë, duke injoruar dëmet aktuale, të tilla si paragjykimet dhe pasaktësitë.

Bengio tha se grupi i tij jofitimprurës u themelua në përgjigje të provave në rritje gjatë gjashtë muajve të fundit se modelet kryesore të sotme po zhvillonin aftësi të rrezikshme. Kjo përfshin shfaqjen e “provave të mashtrimit, hileve, gënjeshtrave dhe vetëmbrojtjes”, tha ai.

Modeli Claude Opus i Anthropic shantazhoi inxhinierët në një skenar fiktiv ku rrezikonte të zëvendësohej nga një sistem tjetër. Hulumtimet nga testuesit e inteligjencës artificiale Palisade muajin e kaluar treguan se modeli o3 i OpenAI refuzoi udhëzime të qarta për t’u mbyllur.

Bengio tha se incidente të tilla ishin “shumë të frikshme, sepse nuk duam të krijojmë një konkurrent për qeniet njerëzore në këtë planet, veçanërisht nëse ata janë më të zgjuar se ne”.

Pionieri i inteligjencës artificiale shtoi: “Tani për tani, këto janë eksperimente të kontrolluara [por] shqetësimi im është se në çdo kohë në të ardhmen, versioni tjetër mund të jetë mjaftueshëm inteligjent strategjikisht për të na parë duke ardhur nga larg dhe për të na mposhtur me mashtrime që nuk i parashikojmë. Kështu që mendoj se po luajmë me zjarrin tani.”

Aftësia që sistemet të ndihmojnë në ndërtimin e “armëve biologjike jashtëzakonisht të rrezikshme” mund të bëhet realitet që vitin e ardhshëm, shtoi ai.

Me seli në Montreal, LawZero punëson 15 persona dhe synon të punësojë më shumë talente teknike për të ndërtuar gjeneratën e ardhshme të sistemeve të inteligjencës artificiale të dizajnuara për siguri.

Bengio, profesor i shkencave kompjuterike në Universitetin e Montrealit, do të japë dorëheqjen si drejtor shkencor në Mila, Institutin e Inteligjencës Artificiale të Kebekut, për t’u përqendruar në organizatën e re.

Synon të zhvillojë një sistem të inteligjencës artificiale që do të japë përgjigje të vërteta bazuar në arsyetim transparent në vend që të trajnohet për të kënaqur një përdorues, ndërkohë që ofron gjithashtu një vlerësim të fuqishëm nëse një rezultat është i mirë apo i sigurt. Bengio shpreson të krijojë një model që mund të monitorojë dhe përmirësojë ofertat ekzistuese nga grupet kryesore të inteligjencës artificiale, duke i penguar ato të veprojnë kundër interesave njerëzore.

Skenari më i keq është zhdukja e njerëzimit, tha ai. «Nëse ndërtojmë inteligjencë artificiale që janë më të zgjuara se ne dhe nuk janë në një linjë me ne dhe konkurrojnë me ne, atëherë në thelb jemi të gatuar».

Lëvizja e Bengio-s për të themeluar LawZero vjen në një kohë kur OpenAI synon të largohet më tej nga rrënjët e saj bamirëse duke u shndërruar në një kompani fitimprurëse. Kjo shtytje ka shkaktuar shqetësime nga ekspertët e IA-së dhe ka shkaktuar një padi nga bashkëthemeluesi Elon Musk, i cili po përpiqet të bllokojë transaksionin.

Kritikët thonë se OpenAI u themelua për të siguruar që inteligjenca artificiale të zhvillohej në dobi të njerëzimit, dhe struktura e re eliminon të drejtën ligjore nëse kompania i jep përparësi fitimit mbi këtë qëllim. OpenAI argumenton se duhet të mbledhë kapital sipas një strukture më konvencionale për të konkurruar në sektor, ndërsa misioni i saj më i gjerë mbetet qendror.

Bengio tha se nuk kishte besim se OpenAI do t’i përmbahej misionit të saj, duke theksuar se organizatat jofitimprurëse nuk kanë një “nxitje të çorientuar siç e kanë në mënyrën aktuale të strukturimit të kompanive”.

“Për t’u rritur shumë shpejt, duhet t’i bindësh njerëzit të investojnë shumë para, dhe ata duan të shohin një kthim të parave të tyre. Kështu funksionon sistemi ynë i bazuar në treg”, shtoi ai.