Anthropic po zhvillon një sistem për të verifikuar identitetin e modeleve të inteligjencës artificiale
Anthropic po punon në një sistem me burim të hapur për të verifikuar se cili model i inteligjencës artificiale prodhoi një rezultat të caktuar, sipas një postimi në blog të publikuar të martën. Sistemi, i quajtur FlashProve, është ndërtuar për të ofruar atë që studiuesit e quajnë “inferencë e provueshme” një provë kriptografike, në thelb një garanci matematikore, se një rezultat i caktuar erdhi nga një model specifik. Ai ka për qëllim t’u lejojë përdoruesve të konfirmojnë se përgjigjja që morën erdhi vërtet nga modeli që mendojnë se po përdorin.
Ngjashëm me nënshkrimet kriptografike të email-eve që u lejojnë marrësit të konfirmojnë se një mesazh ka ardhur vërtet nga dërguesi i tij i pretenduar, FlashProve do të ishte i fortë kundër mashtruesve që përpiqen të maskojnë një model si një tjetër, edhe kur mashtruesi është laboratori që ndërtoi dhe drejton modelin. Në veçanti, studiuesit vërejnë se sistemi mund të përdoret për të parandaluar një kompani të inteligjencës artificiale që të zëvendësojë fshehurazi një model më të lirë për të ulur kostot, ose një model më të shtrenjtë për të fryrë rezultatet e performancës së saj.
FlashProve mund të përdoret gjithashtu për të verifikuar pretendimet nga palët e treta se një detyrë specifike është kryer nga një model i avancuar. “Një zhvillues mund të pretendojë se biblioteka e tij e softuerit është skanuar për dobësi nga një model i avancuar i sigurisë kibernetike, ose një kompani mund të pretendojë se plani i saj i biznesit është miratuar nga një model i përshtatshëm”, shkruajnë studiuesit. “Si mund t’i verifikojë një përdorues këto pretendime?”
Që të funksionojë, sistemi kërkon që laboratorët e IA-së të publikojnë një “gjurmë gishtash” të secilit model që publikojnë, e cila më vonë mund të përputhet me rezultate specifike dhe të verifikohet kriptografikisht. Më e rëndësishmja, gjurmët e gishtave nuk zbulojnë peshat e një modeli, numrat e brendshëm që përcaktojnë se si sillet dhe të cilët krijuesit e modeleve të mbyllura si Anthropic dhe OpenAI i mbajnë privatë. Kjo do të thotë që laboratorët mund të publikojnë gjurmët e gishtave pa hequr dorë nga aseti i tyre më i vlefshëm, duke i mundësuar sistemit të funksionojë edhe me modele komerciale. Sistemi është projektuar gjithashtu të jetë i lehtë, kështu që verifikimi mund të kryhet në një pajisje lokale.
Si pjesë e njoftimit, studiuesit publikuan një specifikim teknik të detajuar dhe kod pune për elementë të ndryshëm të sistemit, i cili është i disponueshëm publikisht sipas një licence me burim të hapur në GitHub. Hulumtimi në sistem është duke vazhduar dhe nuk ka plane për ta vendosur atë në Anthropic ose në ndonjë laborator tjetër.
“Ky postim kërkimor ka për qëllim të ndajë progresin e ndërmjetëm dhe jo një axhendë të përfunduar kërkimore”, shpjegojnë studiuesit në postimin e njoftimit. “Ne po e ndajmë këtë në mënyrë të qartë me qëllimin që të tjerët të shohin atë që kemi bërë, ta marrin dhe ta përmirësojnë.”