Mbi 400 shkencëtarë të AI-së kërkojnë rregulla për kufizimin e rreziqeve të saj

Disa nga figurat më të shquara të inteligjencës artificiale po i bëjnë thirrje industrisë të frenojë rreziqet më urgjente të teknologjisë.

Të martën, një koalicion prej më shumë se 400 studiuesish, përfshirë themeluesit e inteligjencës artificiale, Yoshua Bengio dhe Geoffrey Hinton, publikuan një letër të hapur duke u bërë thirrje studiuesve të inteligjencës artificiale dhe të sigurisë të bashkëpunojnë për përmirësimin e qasjeve të harmonizimit dhe përmbajtjes, dhe duke synuar mbrojtjen e infrastrukturës kritike përpara se të ndodhin incidente të tjera të “dështimeve të sigurisë të profilit të lartë”.

Letra pretendon se këto incidente shërbejnë si dëshmi të rëndësisë së harmonizimit të IA-së dhe mund të ishin parandaluar me sandbox-e më të forta, duke përfaqësuar një “shkak të papërgjegjshëm në praktikat standarde të sigurisë kibernetike”. Megjithëse nuk përmendi asnjë kompani konkretisht, letra vjen pas shkeljes së të dhënave të Hugging Face nga OpenAI në korrik dhe një sërë incidentesh që kanë dalë në dritë që nga ajo kohë , ku janë përfshirë disa laboratorë të mëdhenj të IA-së.

“Pa ndryshime të menjëhershme në praktikat e zhvillimit dhe vendosjes së inteligjencës artificiale, incidente të tilla do të vazhdojnë të ndodhin dhe incidentet e ardhshme do të jenë shumë më të dëmshme për infrastrukturën tonë kritike të ekspozuar”, thuhet në letër.

Letra jep tre rekomandime për adresimin e këtyre rreziqeve:

Organizatat që po zhvillojnë dhe po vendosin modele të IA-së “të aftë për kibernetikë” duhet të zbatojnë menjëherë “sisteme të përmbajtjes me siguri të lartë”, si dhe fillimisht të përdorin si parazgjedhje “hapësirën ajrore” të këtyre modeleve ose t’i izolojnë ato nga rrjetet e jashtme të pasigurta.

Ai sugjeron krijimin e një organi ndërkombëtar të standardeve që përfshin qeveritë dhe një gamë të gjerë ekspertësh të inteligjencës artificiale dhe sigurisë për të krijuar praktikat më të mira për harmonizimin dhe përmbajtjen që “lejojnë akses më të madh jashtë sandbox-it”. Kjo organizatë duhet gjithashtu të gjurmojë të gjitha dështimet e përmbajtjes, vëren letra.

Së fundmi, të gjitha incidentet e sigurisë që përfshijnë dështimet e përmbajtjes së inteligjencës artificiale duhet t’i raportohen këtij organi standardesh dhe të bëhen publike, duke i lejuar industrisë të mësojë nga gabimet e saj. “Kjo transparencë kërkohet si për qëllime të të mësuarit ashtu edhe për llogaridhënie”, thuhej në letër.

Kjo letër i shtohet numrit në rritje të studiuesve dhe udhëheqësve të industrisë së inteligjencës artificiale që bëjnë thirrje për rritje të masave mbrojtëse të sigurisë. Dhe thirrjet vijnë nga brenda shtëpisë së madhe të teknologjisë: Satya Nadella i Microsoft , ish -CEO i DeepMind, Demis Hassabis , dhe Dario Amodei i Anthropic kanë qenë ndër udhëheqësit e industrisë në muajt e fundit që kanë kërkuar standarde më të forta sigurie.

Megjithatë, pavarësisht thirrjeve për transparencë, laboratorët e inteligjencës artificiale mund të jenë duke u bërë të paqëndrueshëm në atë që i thonë publikut: Një raport nga Reuters i publikuar të martën pohon se Anthropic dhe OpenAI po kërkojnë ndikim mbi atë që mund të publikojnë këta vlerësues. Megjithëse raporti vëren se kjo synon të parandalojë ekspozimin ndaj pronësisë intelektuale, kjo gjithashtu mund të kufizojë transparencën dhe dobinë e vlerësimeve nga palët e treta.

Edhe pse shumë në industri kanë shprehur shqetësimin e tyre për humbjen e kontrollit të inteligjencës artificiale nga njerëzit, kjo letër argumenton se shumë nga incidentet e inteligjencës artificiale mashtruese deri më tani kanë qenë rezultat i sandbox-eve të dobëta dhe mund të ishin parandaluar me masa më të forta sigurie që nga momenti i fillimit. Megjithatë, këto thirrje për përmbajtje vijnë mes diskutimeve në rritje rreth mundësisë së vetë-përmirësimit rekursiv, ose RSI, ndërsa laboratorët vrapojnë drejt inteligjencës artificiale që mund të përmirësohet vetë. Jack Clark, një bashkëthemelues i Anthropic, shkroi në një buletin të Substack të hënën se “RSI e plotë” do të bëhet e mundur në vitin 2027, në vend të vitit 2028 siç kishte parashikuar më parë. Nëse aftësitë vetë-përmirësuese të këtyre modeleve janë vërtet afër, atëherë forcimi i aftësisë sonë për t’i kontrolluar ato para se të arrijmë atje është më i rëndësishëm se kurrë.