Një projektligj i propozuar në SHBA do ta bënte raportimin e rreziqeve të AI-së një detyrim ligjor

Projektligji synon të mbyllë boshllëqet mbikëqyrëse duke i detyruar zhvilluesit të zbulojnë sjelljen e rrezikshme të modelit dhe kërcënimet e sigurisë.

Ligjvënësit amerikanë prezantuan të enjten një projektligj që do t’u kërkonte zhvilluesve të modeleve të përparuara të inteligjencës artificiale të raportojnë incidente të mëdha sigurie në Departamentin e Tregtisë, duke krijuar një kornizë federale mbikëqyrëse për sistemet e inteligjencës artificiale me rrezik të lartë.

Akti i propozuar i Raportimit të Incidenteve të IA-së do të urdhëronte që zhvilluesit e “modeleve të mbuluara” të përcaktuara të zbulojnë incidentet brenda shtatë ditëve nga dijenia, ose nga besimi i arsyeshëm, se një i tillë ka ndodhur. Për incidentet që paraqesin një rrezik të menjëhershëm ose të vazhdueshëm të dëmit serioz, Departamenti i Tregtisë do të duhej të njoftonte udhëheqjen e kongresit dhe kryetarët e komisioneve përkatëse të Dhomës së Përfaqësuesve dhe Senatit brenda 48 orëve pas marrjes së raportit.

Projektligji i drejton Sekretarit të Tregtisë të përcaktojë pragjet e aftësive për të përcaktuar se cilat modele dhe zhvillues të inteligjencës artificiale i nënshtrohen kërkesave të raportimit.

“IA është një motor i fuqishëm i inovacionit dhe dua ta shoh të lulëzojë, por jo pa llogaridhënie dhe jo pa mbikëqyrje njerëzore”, tha Moran në një deklaratë që njoftonte legjislacionin. “Sundimi i ligjit duhet të zbatohet në këtë kufi të ri. Ky legjislacion siguron që kur diçka shkon keq me një sistem IA me aftësi të lartë, Qeveria e SHBA-së të ketë informacionin e nevojshëm për të vepruar shpejt.”

Propozimi identifikon një gamë të gjerë incidentesh që do të kërkonin zbulimin e tyre në Departamentin e Tregtisë.

Sipas projektligjit , zhvilluesit do të duhet të raportojnë përpjekjet e modeleve të inteligjencës artificiale të mbuluara për të shmangur mbikëqyrjen njerëzore, për të mashtruar operatorët, për të anashkaluar masat mbrojtëse, për t’i rezistuar mbylljes ose për të marrë akses të paautorizuar në sisteme ose privilegje.

Kërkesa për raportim do të zbatohej edhe për vjedhjen ose tentativën për vjedhje të peshave të modeleve, aftësive që mund të mundësonin materialisht operacione kibernetike sulmuese kundër softuerëve të rëndësishëm ose infrastrukturës kritike, zhvillimit autonom të sistemeve më të afta të inteligjencës artificiale dhe aftësive që mund të përshpejtonin zhvillimin ose përdorimin e armëve kimike, biologjike, radiologjike, bërthamore ose shpërthyese.

Legjislacioni gjithashtu udhëzon Departamentin e Tregtisë që të zhvillojë pragjet e aftësive në konsultim me zhvilluesit e inteligjencës artificiale, studiuesit akademikë, ekspertët e sigurisë kibernetike, zyrtarët e sigurisë kombëtare dhe palët e tjera të interesuara përpara se të lëshojë udhëzime zbatimi.

Sanchit Vir Gogia, analisti kryesor në Greyhound Research, tha se propozimi do ta bënte raportimin e incidenteve serioze të inteligjencës artificiale një detyrim ligjor dhe jo një praktikë vullnetare për zhvilluesit e modeleve të inteligjencës artificiale në nivel të lartë.

“Zhvilluesit seriozë kufitarë tashmë kryejnë vlerësimet, stërvitjet e bashkimit të ekipeve dhe përshkallëzimin”, tha Gogia. “Ajo me të cilën ata nuk janë përballur kurrë në nivel federal është një detyrim ligjor për t’i thënë qeverisë, menjëherë, kur një model sillet në mënyrë të rrezikshme.”

Projektligji kërkon që zhvilluesit e mbuluar të paraqesin një raport fillestar brenda shtatë ditëve nga zbulimi i një incidenti të raportueshëm dhe raporte plotësuese sapo të vihen në dispozicion informacione shtesë.

Legjislacioni gjithashtu autorizon Departamentin e Tregtisë të hetojë përputhshmërinë, të lëshojë thirrje gjyqësore, të kërkojë veprime korrigjuese dhe të vendosë gjoba civile deri në 2 milionë dollarë për shkelje. Çdo ditë e një shkeljeje të vazhdueshme do të përbënte një shkelje të veçantë, thuhet në projektligj.

Gogia tha se zbatimi mund të varet nga mënyra se si rregullatorët i përcaktojnë shkaktarët e raportimit.

“Pragjet e aftësisë janë vështirësia e dukshme, dhe jo ajo më e thella. Pragjet vendosin se cilat modele hyjnë në regjim. Zbulimi vendos nëse regjimi e sheh ndonjëherë zjarrin”, tha ai.

Duke bërë një krahasim me rregulloret e sigurisë kibernetike, ai tha se kërkesat e raportimit duhet të përcaktojnë qartë se kur një incident bëhet i raportueshëm.

“Raportimi kibernetik e ka dhënë tashmë mësimin. Një shkaktar i paqartë prodhon ose heshtje ose zhurmë: firmat qëndrojnë të qeta derisa të jenë të sigurta, ose i arkivojnë të gjitha dhe e fshehin sinjalin”, tha Gogia.

Projektligji vjen pas një veprimi të qeverisë amerikane që nxori në pah mungesën e një procesi të tillë. Më 12 qershor, Departamenti i Tregtisë ndërmori veprime kundër modeleve më të fundit nga Anthropic, një zhvillues amerikan i inteligjencës artificiale, për arsye sigurie kombëtare, duke e shtyrë kompaninë të çaktivizojë aksesin global në ato modele.

“Kontrolli i eksportit ishte çekiçi. Ky propozim është kërkimi për një bisturi”, vuri në dukje Gogia. Masa është një alternativë më e ngushtë ndaj Aktit të Madh Amerikan të Inteligjencës Artificiale, një draft diskutimi më i gjerë i publikuar më parë në qershor që gjithashtu ia drejton incidentet kritike të sigurisë Tregtisë.

Qendra për Standardet dhe Inovacionin e IA-së e Departamentit të Tregtisë ka nënshkruar marrëveshje veçmas për të vlerësuar modelet kryesore para vendosjes.

Gogia tha se detyrimi ligjor bie mbi zhvilluesin, por kostoja operative arrin tek klientët. “Rregullorja mund të emërojë laboratorin, por fatura për dukshmëri të dobët paguhet në rrjedhën e poshtme”, tha ai.

Ai tha se pyetja më e vështirë nuk është se cilat modele kualifikohen, por kur fillon një orë raportimi. “Pragjet vendosin se cilat modele hyjnë në regjim. Zbulimi vendos nëse regjimi e sheh ndonjëherë zjarrin”, tha ai, duke shtuar se një model mund të kalojë testet laboratorike, por të sillet ndryshe pasi të lidhet me mjete të gjalla dhe të dhëna të ndërmarrjes.

Projektligji përjashton raportet e paraqitura nga kërkesat për zbulim publik dhe thotë se dorëzimi i një raporti nuk do të heqë dorë nga mbrojtjet e sekretit tregtar ose nga privilegji avokat-klient.

“Instinkti pas këtij projektligji është i shëndoshë, por ekuilibri nuk mund të përcaktohet nga një njoftim për shtyp”, tha Gogia. “Formulimi do të vendosë gjithçka.”