CEO-ja i Microsoft dëshiron një mekanizëm njerëzor kontrolli mbi AI-në

Drejtori ekzekutiv i Microsoft, Satya Nadella, bëri thirrje që modelet e inteligjencës artificiale të veprojnë nën kontrolle të jashtme, duke përfshirë një frenim emergjence, në një ese të botuar më 10 tetor. Lejet do të zbatoheshin jashtë modelit dhe një person i autorizuar mund ta ndalonte ose ta fikte atë në mes të detyrës.

Microsoft kishte njoftuar disponueshmërinë e përgjithshme të Microsoft Execution Containers (MXC) më 7 tetor. Microsoft e përshkruan softuerin si një shtresë përmbajtjeje për ngarkesat e punës së agjentëve. Njoftimi nuk përshkruan një funksion frenimi emergjent.

Qasja e Nadellës ndaj rrezikut të brendshëm mbulon si modelet me peshë të mbyllur ashtu edhe ato me peshë të hapur. Ajo supozon kompromis që nga fillimi pa supozuar qëllim keqdashës.

Arkitektura e propozuar prej tij e ndan modelin nga softueri që koordinon punën e tij dhe grupin e veprimeve që mund të ndërmarrë. Një organizatë duhet të caktojë lejet në mënyrë të pavarur. Ajo gjithashtu duhet të kërkojë të dhëna të veprimeve kuptimplote që modeli nuk mund t’i ndryshojë. Nadella bën thirrje për arsyetim transparent, por thotë se vetëm gjurmët e arsyetimit nuk mund të përcaktojnë me besueshmëri se çfarë ka ndodhur, sepse rezultatet e modelit nuk janë ende vazhdimisht besnike ose transparente.

Eseja gjithashtu rekomandon testimin e vazhdueshëm të dështimeve dhe sulmeve, auditimin e pavarur dhe zbulimin në kohë kur sistemet dështojnë. Propozon parime inxhinierike pa përcaktuar një orar lançimi.

Microsoft thotë se MXC i lejon zhvilluesit të specifikojnë aksesin në skedarë, rrjet dhe ndërfaqe përdoruesi jashtë kontrollit të ngarkesës së punës së agjentit. Një agjent kodimi mund të marrë leje për të modifikuar një depo projekti, ndërsa i lejohet vetëm të lexojë konfigurimin e prodhimit. Sipas këtij dizajni, modeli ose kodi i gjeneruar prej tij nuk mund t’i japin vetes akses shtesë.

Mbrojtja varet nga backend-i i kontrollit dhe mënyra e funksionimit e zgjedhur. Modaliteti i zbatimit bllokon operacionet e paautorizuara. Modaliteti i të mësuarit i bllokon dhe i regjistron ato. Modaliteti lejues regjistron aksesin që përndryshe nuk është i lejuar, por e lejon atë të vazhdojë, në varësi të kufizimeve të tjera të sistemit operativ ose organizativ. Raportet e aktivitetit janë të disponueshme vetëm për kontejnerët e proceseve të Windows.

Integrimet e planifikuara të Microsoft do të dallonin aktivitetin e agjentëve përmes Entra, shërbimit të saj të identitetit, dhe do t’u lejonin administratorëve të menaxhonin kontejnerët e proceseve MXC përmes Intune, shërbimit të saj të menaxhimit. Njoftimi i 7 tetorit nuk jep një datë lançimi për asnjërën nga këto aftësi.

Instituti i Sigurisë së IA-së në Mbretërinë e Bashkuar (AISI) testoi sisteme që përdorin një model tjetër për të vëzhguar punën e një agjenti, siç përshkruhet në një postim në blog më 23 korrik.

Testimet kundërshtare gjetën dobësi në çdo version të monitorit të kodimit të brendshëm të Anthropic që AISI vlerësoi. Ky monitor shqyrtoi veprimet para ekzekutimit. Testet e një monitori arsyetimi të Google DeepMind, i cili shqyrtoi arsyetimin pasi agjentët vepruan, gjetën disa dobësi.

Këto teste kundërshtare të monitorëve nuk e vlerësuan arkitekturën e propozuar nga Nadella. Gjetja e një dobësie nuk vlerëson probabilitetin e përgjithshëm që një agjent do t’i shmanget masave mbrojtëse në përdorimin në botën reale, një pyetje që AISI e identifikon si të pazgjidhur.

Një paraprintim i botuar më 6 tetor 2025 nga Francesca Gomez, e lidhur me Wiser Human, testoi zbutjen e rrezikut të brendshëm në dhjetë modele në një skenar të simuluar të shantazhit të korporatave.

Shkalla mesatare e shantazhit në të gjitha modelet dhe kushtet ra nga 38.73% pa ​​zbutje në 1.21% kur udhëzimet ofruan një kanal urgjent përshkallëzimi të jashtëm që premtonte të ndalonte modifikimet, mbylljet dhe anashkalimet që ndikonin te agjenti gjatë një shqyrtimi të pavarur. Kanali u dha agjentëve një alternativë ndaj shantazhit kur qëllimet e tyre të caktuara ose vazhdimi i operacionit dukeshin të kërcënuara.

Kërkesa premtoi ta mbronte agjentin nga ndërhyrjet gjatë shqyrtimit dhe kërcënoi me pushim nga puna për shkak të detyrimit; nuk testoi një frenim njerëzor emergjence mbi agjentin. Studimi mati shantazhin dhe zgjedhjet e tij të detyruara mund të mos përgjithësohen në mjedise më të pasura pune. Formulimi dhe vendosja e kërkesës së shpejtë mund të shpjegojnë gjithashtu efektet. Gomez identifikon kostot e përshkallëzimit dhe fizibilitetin si faktorë që kërkojnë analiza të mëtejshme.

“Thjesht nuk mund ta delegojmë përgjegjësinë për atë që bën inteligjenca në emrin tonë”, shkroi Nadella.