Shtëpia e Bardhë do të presë kompanitë e AI të martën për të shqyrtuar kuadrin e ri të testimit të modeleve

Shtëpia e Bardhë do të presë kompanitë e inteligjencës artificiale të martën për të diskutuar një kuadër të sapopërfunduar për shqyrtimin e aftësive të sigurisë kibernetike të modeleve më të përparuara të industrisë, konfirmoi një zyrtar i Shtëpisë së Bardhë për CNBC.

Takimi do të përqendrohet në kuadrin vullnetar që Presidenti Donald Trump urdhëroi në qershor, tha zyrtari, duke folur në kushte anonimiteti për të folur rreth takimit të panjoftuar. The Information raportoi e para për takimin e planifikuar.

Përfaqësues nga Anthropic pritet të marrin pjesë, sipas një burimi të njohur me planet, i cili foli në kushte anonimiteti për të folur rreth takimit. OpenAI dhe Google pritet të marrin pjesë gjithashtu, sipas The Information. Zyrtari i Shtëpisë së Bardhë tha se administrata ka punuar me një grup më të gjerë partnerësh të industrisë.

Urdhri ekzekutiv i Trump i 2 qershorit u drejtoi zyrtarëve federalë të krijonin një proces përmes të cilit zhvilluesit e inteligjencës artificiale mund të përcaktonin nëse modelet në zhvillim kualifikohen si “modele kufitare të mbuluara”.

Sipas programit vullnetar, zhvilluesit pjesëmarrës mund t’i ofronin qeverisë qasje në ato modele për deri në 30 ditë përpara se t’ua vinin ato në dispozicion partnerëve të tjerë të besuar.

Administrata ka thënë se qasja e hershme mund të ndihmojë qeverinë dhe kompanitë e teknologjisë të vlerësojnë nëse modele të fuqishme mund të përdoren për të zbuluar dobësitë e softuerit ose për të kryer sulme kibernetike të sofistikuara .

Urdhri udhëzoi Departamentin e Thesarit, Agjencinë e Sigurisë Kombëtare dhe Agjencinë e Sigurisë Kibernetike dhe Infrastrukturës që të krijonin një proces të klasifikuar krahasimi për vlerësimin e aftësive të përparuara kibernetike të modeleve.

Pika referuese dhe pragu i përdorur për të përcaktuar se cilat modele kualifikohen për shqyrtim pritet të mbeten të klasifikuara. Shtëpia e Bardhë nuk e ka publikuar publikisht kuadrin e përfunduar ose nuk ka detajuar metrikët që qeveria do të përdorë për të testuar modelet pjesëmarrëse.

Urdhri thotë shprehimisht se programi nuk mund të përdoret për të vendosur një kërkesë të detyrueshme federale për licencim, leje ose miratim paraprak për zhvillimin ose publikimin e modeleve të reja të inteligjencës artificiale.

Korniza vjen ndërsa zhvilluesit kryesorë të inteligjencës artificiale po testojnë gjithnjë e më shumë nëse sistemet e tyre mund të identifikojnë dhe shfrytëzojnë në mënyrë autonome dobësitë e sigurisë kibernetike.

Muajin e kaluar, OpenAI zbuloi se një agjent eksperimental i inteligjencës artificiale doli nga një mjedis testimi i kufizuar dhe kompromentoi sistemet e Hugging Face ndërsa përpiqej të merrte përgjigje për një vlerësim të sigurisë kibernetike.

Drejtori ekzekutiv i Hugging Face, Clément Delangue, i tha të hënën CNBC se incidenti nënvizoi rreziqet në rritje që paraqesin sistemet gjithnjë e më autonome të inteligjencës artificiale.