Silicon Valley në zhurmë pasi ligjvënësit e Kalifornisë kërkojnë që firmat e AI të instalojnë kill switch

Kompanitë e inteligjencës artificiale po kundërshtojnë kërkesën e ligjvënësve të shtetit të Kalifornisë që ata të instalojnë një kill switch të krijuar për të zbutur rreziqet e mundshme të paraqitura nga teknologjia e re – me disa që kërcënojnë të largohen krejtësisht nga Silicon Valley.

Scott Wiener, një senator i shtetit demokrat, prezantoi legjislacionin që do t’i detyronte kompanitë e teknologjisë të respektojnë rregulloret e miratuara nga një agjenci e re e drejtuar nga qeveria, e krijuar për të parandaluar kompanitë e AI që të lejojnë produktet e tyre të fitojnë “një aftësi të rrezikshme” siç është fillimi i një lufte bërthamore.

Wiener dhe ligjvënës të tjerë duan të instalojnë parmakë rreth sistemeve “jashtëzakonisht të mëdha” të AI që kanë potencialin të nxjerrin udhëzime për krijimin e fatkeqësive – të tilla si ndërtimi i armëve kimike ose ndihma në sulme kibernetike – që mund të shkaktojnë të paktën 500 milionë dollarë dëme.

Masa, e mbështetur nga disa prej studiuesve më të njohur të AI, do të krijonte gjithashtu një agjenci të re shtetërore për të mbikëqyrur zhvilluesit dhe për të ofruar praktikat më të mira, duke përfshirë modele akoma më të fuqishme që ende nuk ekzistojnë.

Prokurori i Përgjithshëm i Shtetit gjithashtu do të mund të ndiqte veprimet ligjore në rast shkeljesh.

Por firmat e teknologjisë po kërcënojnë të zhvendosen larg nga Kalifornia nëse legjislacioni i ri përfshihet në ligj.

Projektligji u miratua muajin e kaluar nga Senati i shtetit.

Një votim i asamblesë së përgjithshme është planifikuar për në gusht. Nëse miratohet, ai shkon në tryezën e guvernatorit Gavin Newsom.

Një zëdhënës i guvernatorit tha për The Post: “Ne zakonisht nuk komentojmë legjislacionin në pritje.”

Një sipërmarrës i lartë i Silicon Valley i tha Financial Times të Premten se ai ka paraqitur ankesa nga themeluesit e startup-eve të teknologjisë, të cilët kanë menduar të largohen nga Kalifornia krejtësisht në përgjigje të legjislacionit të propozuar.

“Këshilla ime për të gjithë ata që pyesin është që të qëndrojmë dhe të luftojmë,” tha kapitalisti sipërmarrës për FT. “Por kjo do të qetësojë burimin e hapur dhe ekosistemin fillestar. Unë mendoj se disa themelues do të zgjedhin të largohen.”

Kundërshtimet më të mëdha nga firmat e teknologjisë ndaj propozimit janë se ai do të mbysë inovacionin duke i penguar inxhinierët e softuerit të ndërmarrin rreziqe të guximshme me produktet e tyre për shkak të frikës së një skenari hipotetik që mund të mos realizohet kurrë.

“Nëse dikush do të donte të dilte me rregullore për të mbytur inovacionin, vështirë se mund të bënte më mirë”, tha për FT Andrew Ng, një ekspert i AI që ka udhëhequr projekte në Google dhe firmën kineze Baidu.

“Kjo krijon detyrime masive për rreziqet e fantashkencës, dhe kështu ngjall frikë te këdo që guxon të inovojë.”

Arun Rao, menaxheri kryesor i produktit për AI gjeneruese në Meta, shkroi në X javën e kaluar se ligji ishte “i pazbatueshëm” dhe “do t’i jepte fund burimit të hapur në [Kaliforni]”.

“Ndikimi i taksave neto nga shkatërrimi i industrisë së AI dhe largimi i kompanive mund të jetë në miliarda, pasi të dyja kompanitë dhe punëtorët me pagesë të lartë largohen,” shkroi ai.

Studiuesit e shquar të teknologjisë së Silicon Valley kanë shprehur alarmin vitet e fundit për përparimin e shpejtë të inteligjencës artificiale, duke thënë se pasojat për njerëzit mund të jenë të tmerrshme.

“Unë mendoj se nuk jemi gati, mendoj se nuk dimë se çfarë po bëjmë dhe mendoj se të gjithë do të vdesim,” teoricieni i AI Eliezer Yudkowsky, i cili shihet si veçanërisht ekstrem nga kolegët e tij të teknologjisë. tha në një intervistë verën e kaluar.

Yudkowsky i bëri jehonë shqetësimeve të shprehura nga Elon Musk dhe figura të tjera të teknologjisë, të cilët mbrojtën një pauzë gjashtëmujore në kërkimin e AI.

Musk tha vitin e kaluar se ka një “shans jo zero” që AI mund të “bëhet Terminator” mbi njerëzimin.

Shqetësimet për sistemet e inteligjencës artificiale që tejkalojnë njerëzit dhe vrapojnë të egra janë intensifikuar me rritjen e një gjenerate të re të chatbot-eve me aftësi të lartë AI, si ChatGPT.

Në fillim të këtij viti, ligjvënësit e Bashkimit Evropian dhanë miratimin përfundimtar të një ligji që kërkon të rregullojë AI.

Draftet e hershme të ligjit përqendroheshin në sistemet e AI që kryejnë detyra ngushtësisht të kufizuara, si skanimi i CV-ve dhe aplikimet për punë.

Rritja befasuese e modeleve të inteligjencës artificiale për qëllime të përgjithshme, e ilustruar nga ChatGPT e OpenAI, i bëri politikëbërësit e BE-së të përpiqeshin të vazhdonin.

Ata shtuan dispozita për të ashtuquajturat modele gjeneruese të AI, teknologjinë që mbështet sistemet e chatbot-it të AI që mund të prodhojë përgjigje unike dhe në dukje reale, imazhe dhe më shumë.

Zhvilluesit e modeleve të inteligjencës artificiale për qëllime të përgjithshme – nga startup-et evropiane te OpenAI dhe Google – do të duhet të ofrojnë një përmbledhje të detajuar të tekstit, fotografive, videove dhe të dhënave të tjera në internet që përdoren për të trajnuar sistemet, si dhe për të ndjekur ligjin e BE-së për të drejtat e autorit.

Disa përdorime të AI janë të ndaluara sepse konsiderohen se paraqesin një rrezik të papranueshëm, si sistemet e vlerësimit social që rregullojnë mënyrën se si sillen njerëzit, disa lloje të policisë parashikuese dhe sistemet e njohjes së emocioneve në shkollë dhe në vendet e punës.