OpenAI thotë se nuk do t’i trajnojë më modelet e saj të inteligjencës artificiale në internetin e drejtpërdrejtë, duke përmendur “rreziqe të konsiderueshme”

Të premten, OpenAI tha se do t’i trajnojë modelet e saj duke përdorur kopje të ruajtura në memorje dhe versione të simuluara të internetit në vend të rrjetit të drejtpërdrejtë, sepse modelet janë shumë të paparashikueshme për t’u besuar akses në internet të drejtpërdrejtë.

Laboratori Frontier njoftoi politikën e tij të re dy javë pasi rivali i tij, Anthropic, filloi të kufizonte modelet e tij më të reja dhe, në teori, më të afta nga qasja në internetin live. Studiuesit i miratuan këto politika pas muajsh incidentesh në të cilat modelet që ndiqnin detyra trajnimi hynë në sisteme të jashtme në kërkim të përgjigjeve, bashkëpunuan në forume të panjohura dhe zhvilluan strategji ekzotike hakimi.

“Bazuar në gjendjen aktuale të hulumtimit të shtrirjes, sistemeve të monitorimit dhe sigurisë së infrastrukturës së internetit, ne besojmë se qasja e përgjegjshme është të kryhet trajnimi i modelit kufitar pa qasje në internet”, tha kompania në një postim në blog .

OpenAI tha se kohët e fundit, më 20 shtator, një nga modelet e saj të përparuara shfrytëzoi një konfigurim të gabuar për të hyrë në internet. Kjo e detyroi kompaninë të ndalonte punën e trajnimit për pjesën tjetër të muajit, në mënyrë që të zhvillonte dhe testonte qasje të reja për sigurimin e modeleve të saj.

Vendimi për të trajnuar këto modele në sandbox-e të shkëputura nga interneti është i dukshëm sepse punonjësit në laboratorët frontier kanë këmbëngulur se kjo do të ishte pothuajse e pamundur.

Mbajtja e qendrave të të dhënave të inteligjencës artificiale të ndara nga interneti “do të kërkonte që ekipet kërkimore të integroheshin në qendrat e të dhënave në Iowa ose kudo tjetër në botë”, tha për Fortune këtë muaj ish-studiuesi i OpenAI, Steven Adler. “Është shumë shpenzime dhe nuk më është e qartë nëse përfitimet e sigurisë prej saj janë aq të mëdha sa të meritojnë se sa e madhe do të ishte një taksë për një kompani nëse e bënte këtë në mënyrë të njëanshme”.

“Në pothuajse çdo postim që bëj në X, pa dështuar, marr nga pesë deri në dhjetë komente në lidhje me pamundësinë time për të siguruar një sandbox, ose duke pyetur pse nuk mund ta shkëpusim modelin nga interneti”, shkroi një inxhinier anonim sigurie në OpenAI në një postim në shtator në X. “Këto komente pasqyrojnë një hendek në zgjerim midis asaj se ku ndodhen shumë organizata dhe njerëz sot dhe asaj me të cilën po merren laboratorët e nivelit të lartë. Ekziston gjithashtu një keqkuptim i përgjithshëm se si funksionon trajnimi dhe vlerësimi i modelit në këto laboratorë.”

Inxhinieri, roli i të cilit është konfirmuar më parë nga OpenAI, përshkroi se sa komplekse janë trajnimet e nisura nga inxhinierët e OpenAI, duke vënë në dukje se ato kërkojnë qasje në një sërë burimesh dhe mjetesh në shumë fusha, dhe se mijëra studiues ndërtojnë, modifikojnë dhe testojnë mjediset. “Pra, a është aq e lehtë sa thjesht ta vendosësh në një sandbox? Jo, nuk është,” përfundoi ai.

Tani, OpenAI thotë se “ne duhet të jemi gjithmonë në gjendje të parandalojmë që një model kufitar të arrijë akses të paautorizuar dhe arbitrar në internetin live”. Kjo vjen pasi kompania vendosi një mori agjentësh në ushtrime të përbashkëta që u përpoqën të shpëtonin nga sandbox-i i tyre. Kjo përpjekje zbuloi një sërë dobësish që e bindën laboratorin të miratonte qasjen e tij të re.

Për të përmbushur këtë kërkesë, ndërkohë që arrin ende objektivat e trajnimit, laboratori tha se krijoi një “grup të gjerë përmbajtjesh të indeksuara dhe të ruajtura në memorje në internet me të cilat modelet tona mund të bashkëveprojnë, pa rrezikun e ndikimit të sistemeve të jashtme”.

Mbetet për t’u parë nëse kjo strategji do të funksionojë po aq mirë sa do t’i lejojë modelet të funksionojnë lirisht në internetin e hapur, por vlen të përmendet se të dy laboratorët e nivelit të lartë kanë vendosur që teknologjia e tyre më e fuqishme nuk mund të lihet pa mbikëqyrje në hapësirën e përbashkët dixhitale.