Dario Amodei i Anthropic dëshiron që qeveritë të kenë fuqinë të bllokojnë sistemet ‘e rrezikshme’ të AI-së

Drejtori Ekzekutiv i Anthropic PBC, Dario Amodei, po i bën thirrje qeverisë amerikane të bllokojë vendosjen e modeleve të rrezikshme të inteligjencës artificiale në të njëjtën mënyrë siç parandalon ngritjen e aeroplanëve të pasigurt.

Në një postim të ri sot në blogun e tij personal, Amodei tha se duhet të ketë auditime të detyrueshme nga palë të treta të sistemeve të inteligjencës artificiale në nivel të lartë dhe sugjeroi që qeveritë të jenë në gjendje t’i mbyllin ato nëse zbulohen rreziqe të papranueshme. Në të njëjtën kohë, ai i bëri thirrje qeverisë të ofrojë më shumë mbështetje ekonomike për njerëzit që janë të dëmtuar financiarisht nga rritja e inteligjencës artificiale.

Propozimi i Amodei-t për sigurinë e inteligjencës artificiale është shumë më agresiv sesa ajo që kanë sugjeruar shumica e njerëzve. Ai tejkalon urdhrin ekzekutiv të lëshuar nga Presidenti i SHBA-së Donald Trump javën e kaluar, i cili urdhëron që agjencitë e inteligjencës të luajnë një rol në testimin e modeleve të reja për rreziqet. Ai sugjeroi që qeveritë duhet të auditojnë modelet e reja të inteligjencës artificiale bazuar në sasinë e burimeve të hedhura në procesin e tyre të trajnimit. Ai propozoi që duhet të ketë një “prag llogaritjeje” dhe që nëse ndonjë model i ri tejkalon këtë nivel të specifikuar llogaritjeje, ai automatikisht do të shkaktonte një hetim të pavarur mbi aftësitë e tij përpara se të mund të lançohet publikisht.

Eseja identifikoi katër kategori specifike rreziku që duhen vlerësuar: dobësitë e sigurisë kibernetike, aftësitë e armëve biologjike, aftësia për të përshpejtuar kërkimin e automatizuar në fusha të rrezikshme dhe potenciali që modelet të rriten përtej kontrollit njerëzor. Nëse auditorët vendosin që një model paraqet një rrezik të papranueshëm në njërën nga këto fusha, Amodei dëshiron që qeveritë të jenë në gjendje të parandalojnë vendosjen e tyre.

Amodei tha se rregulloret ekzistuese për avionët, automobilat dhe drogën duhet të shërbejnë si modele për rregullimin e inteligjencës artificiale. “Unë besoj se analogjia më e mirë, të paktën në fazën aktuale të rritjes eksponenciale, është me makinat, aeroplanët ose drogën – teknologji të fuqishme thelbësore për ekonominë moderne, por të afta të vrasin një numër të madh njerëzish nëse projektohen ose operohen keq”, shkroi ai.

Korniza e propozuar e Amodei shkon shumë më tej sesa urdhri ekzekutiv i Trump i 2 qershorit . Presidenti thjesht i inkurajoi firmat e inteligjencës artificiale që të ndanin modelet e tyre vullnetarisht me auditorët qeveritarë një muaj para publikimit të tyre. Urdhri theksoi gjithashtu se si komuniteti i inteligjencës duhet të përfshihet në testimin e modeleve të reja për dobësitë e sigurisë kibernetike. Por ai nuk u përfshi në zbatimin e ndonjë gjëje ose në futjen e testimit të detyrueshëm.

Drejtori ekzekutiv i Anthropic përdori një gjuhë shumë më të ashpër. Nuk përmendet fjala “vullnetar” dhe ai nuk kërkon bashkëpunim, por përkundrazi zbatim. Ndërsa urdhri i Trump mbështetet te agjencitë e inteligjencës, Amodei bën thirrje që auditorëve të pavarur t’u jepet fuqi efektive vetoje.

Anthropic ka kohë që kërkon kontrolle më të rrepta mbi IA-në. Në shtator të vitit 2023, ajo publikoi një Politikë të Shkallëzimit të Përgjegjshëm që është përditësuar disa herë, duke futur koncepte të tilla si Nivelet e Sigurisë së IA-së ose ASL-të. Në thelb, është një kornizë e shkallëzuar për menaxhimin e rrezikut ndërsa aftësitë e modelit të IA-së përmirësohen. Kompania ka shprehur gjithashtu mbështetjen e saj për legjislacione të tjera, siç është projektligji SB 53 i Kalifornisë.

Ndërsa Amodei thotë se po i shtyn të gjitha këto nën flamurin e sigurisë publike, analistët ishin skeptikë. Holger Mueller i Constellation Research i tha SiliconANGLE se me shumë gjasa ai ka postuar në blogun e tij personal për të provuar ta izolojë Anthropic nga çdo reagim negativ ndaj sugjerimeve të tij. “Thirrja për rregullim jep shijen e keqe të një lideri tregu që dëshiron të ngrijë tregun dhe të ruajë pozicionin e tij në krye,” tha Mueller. “Është e vështirë të provosh se është kështu, dhe ka një argument që mund të argumentohet se është mirë të kesh liderë etikë në krye të industrisë së IA-së, por gjithashtu duhet të shohim se cilat janë qëllimet e tij të vërteta.”

Përveç sigurisë, Amodei paralajmëroi gjithashtu se përçarja në tregun e punës e shkaktuar nga shfaqja e inteligjencës artificiale mund të jetë shumë më e rëndësishme sesa përparimet e mëparshme teknologjike. Gjithashtu, mund të zgjasë shumë më gjatë, tha ai. “Sfida kryesore në një botë të tillë nuk do të jetë nxitja e rritjes, por gjetja e një mënyre që të gjithë të përfitojnë nga përfitimet”, shkroi Amodei.

Amodei tha se ka paralajmëruar prej kohësh për zhvendosjen e vendeve të punës nga inteligjenca artificiale, jo sepse dëshiron të jetë një “profet i fatkeqësisë”, por sepse duke vepruar kështu, “politikbërësit dhe sektori privat kanë shansin më të mirë për t’u përshtatur dhe për t’u përgjigjur”.

Në postimin e tij, ai i bëri thirrje qeverisë të mbledhë më shumë të dhëna për të ndjekur zhvendosjen e vendeve të punës për shkak të inteligjencës artificiale, si dhe stimujt pro-punësimit që mund të ndihmojnë në ngadalësimin e kësaj. Ai gjithashtu dëshiron që qeveria të shqyrtojë “mekanizma të tillë si të ardhurat bazë universale”, nëse zhvendosja e vendeve të punës bëhet më e thellë dhe e zvogëlon përgjithmonë kërkesën për punë. Ai shtoi se kjo mund të financohet duke taksuar “kompanitë përkatëse” ose duke rritur taksën mbi fitimet kapitale.