Anthropic propozon një ngadalësim global të zhvillimit të inteligjencës artificiale
Anthropic thotë se IA po zhvillohet kaq shpejt, saqë tendenca tregon drejt sistemeve që bëhen të afta të zhvillojnë pasardhësin e tyre. Ende nuk jemi atje, por beson se “mund të vijë më shpejt sesa janë përgatitur shumica e institucioneve”. Në një postim në blog, Anthropic shpjegon se IA që mund të ndërtohet vetë mund të “sjellë të mira të mëdha për botën” në fushat e shkencës dhe kujdesit shëndetësor, ndër të tjera. Megjithatë, ajo gjithashtu mund të “rrisë rreziqet që njerëzit të humbasin kontrollin mbi sistemet e IA-së”. Pra, si mund ta parandalojë njerëzimi Skynet të bëhet një gjë e vërtetë? Anthropic sugjeron që përgjigjja është ngadalësimi global ose pauza e përkohshme e zhvillimit të IA-së “për të mundësuar që strukturat shoqërore dhe kërkimi i harmonizimit të ecin me përparimin e teknologjisë”.
Kompania është një nga emrat kryesorë në garën e IA-së sot, dhe ndryshe nga konkurrentët e saj që ende nuk kanë fituar para, thuhet se është në rrugën e duhur për të pasur tremujorin e saj të parë fitimprurës . Kohët e fundit ajo paraqiti dokumente në SEC për t’u bërë publike, me shumë mundësi para se të mbarojë viti. Siç vëren The Wall Street Journal, kritikët sugjerojnë se paralajmërimet e Anthropic në lidhje me teknologjinë e saj janë një dredhi marketingu, ndoshta në një përpjekje për ta bërë atë të duket si më pak skandaloze midis të gjitha kompanive të IA-së ose për ta bërë të duket sikur produktet e saj janë më të mirat që ekzistojnë.
Kritikët po tregojnë konkretisht publikimin e kufizuar të modelit të saj të inteligjencës artificiale të sigurisë kibernetike, Mythos, si shembull. Anthropic tha se po e bënte Mythos të disponueshëm për një grup të zgjedhur partnerësh për shkak të dëmit të mundshëm që aftësia e tij për të identifikuar shpejt dobësitë mund të shkaktojë në duar të gabuara. Por njerëzit mendojnë se është thjesht një dredhi për të ngjallur entuziazëm mbi produktin ose për të mbuluar faktin se Anthropic dëshiron ta shesë atë vetëm te ndërmarrjet më të mëdha.
Megjithatë, vlen të përmendet se sugjerimi i kompanisë bazohet në gjetjet e Institutit Anthropic, një degë kërkimore që ajo krijoi në mars. Anthropic tha atëherë se roli i institutit është t’i “tregojë botës” atë që mëson rreth sfidave që lindin ndërsa firmat e inteligjencës artificiale zhvillojnë sisteme më të përparuara të inteligjencës artificiale. Instituti, së bashku me bashkëpunëtorët, do të kryejë kërkime mbi atë që nevojitet për të “ndërtuar sistemet që do të kërkonte një ngadalësim ose pauzë e besueshme”.
Nëse kompanitë e inteligjencës artificiale bien dakord për një ngadalësim, duhet të ketë mekanizma për të verifikuar nëse të gjitha ato e kanë ndaluar ose ngadalësuar zhvillimin e inteligjencës artificiale. Përndryshe, disa mund të kalojnë përpara të tjerave pasi ta zhvillojnë teknologjinë e tyre në fshehtësi. “Një ngadalësim ose pauzë domethënëse do të kërkonte që shumë laboratorë me burime të mira në ose afër kufirit, në shumë vende, të bien dakord të ndalojnë në të njëjtat kushte”, shkruan Anthropic. “Do të kërkonte gjithashtu që secili të mund të verifikojë nëse të tjerët e kanë ndaluar në të vërtetë.”
Sugjerimi i saj do të ndodhte vetëm nëse të gjitha kompanitë e inteligjencës artificiale në të gjithë botën mund të bashkohen dhe të zotohen të ndalojnë zhvillimin e inteligjencës artificiale për një farë kohe. Anthropic thotë se nuk është e pamundur, duke përmendur si shembull traktatet për armët bërthamore, megjithëse pranon se këto marrëveshje u hartuan për dekada. Nuk kemi aq shumë kohë, duke qenë se zhvillimi i inteligjencës artificiale po përparon me një ritëm të shpejtë. Kompania po planifikon të zhvillojë bisedime me politikëbërës, studiues dhe kompani të tjera të inteligjencës artificiale gjatë muajve të ardhshëm mbi këtë çështje dhe do të publikojë rezultatet e këtyre bisedave.