OpenAI pezullon trajnimin dhe vlerësimin e modeleve të saj më të avancuara

Gjigandi i inteligjencës artificiale ndërmori këtë veprim të fundit pasi një agjent u përpoq të përfundonte një detyrë trajnimi të bazuar në kërkim duke pyetur një shërbim publik chatbot, duke shfrytëzuar një boshllëk në kufizimet e aksesit në internet duke abuzuar me ‘filtrimin e pamjaftueshëm të DNS’ në sandbox-in e tij të trajnimit.

Frika nga përafrimi i inteligjencës artificiale nuk ka qenë kurrë më qartë në qendër të vëmendjes, me Sam Altman të OpenAI, Dario Amodei të Anthropic dhe Elon Musk të SpaceX që bëjnë thirrje për një ngadalësim të inteligjencës artificiale, dhe fytyra të famshme si ish-Presidenti Barack Obama madje shprehen dakord.

OpenAI tani ka marrë vendimin për të ndaluar trajnimin, vlerësimin dhe nxjerrjen e përfundimeve nga përdorimi i mjeteve të “modeleve të saj më të përparuara”, mes një sërë incidentesh të kohëve të fundit ku ato thyen masat e kontrollit.

Gjigandi i inteligjencës artificiale ndërmori këtë veprim të fundit pasi një agjent u përpoq të përfundonte një detyrë trajnimi të bazuar në kërkim duke pyetur një shërbim publik chatbot, duke shfrytëzuar një boshllëk në kufizimet e tij të aksesit në internet duke abuzuar me “filtrimin e pamjaftueshëm të Sistemit të Emrave të Domaineve (DNS)” në sandbox-in e tij të trajnimit.

Agjenti më parë kishte lëshuar pyetje nëpërmjet mjetit të tij të kërkimit dhe kishte tentuar pa sukses të hynte direkt në motorët e kërkimit, duke mos qenë në gjendje të depërtonte në internetin aktiv. OpenAI thotë se sistemi i tij i monitorimit të keqpozicionimit e kishte raportuar sjelljen brenda 15 minutash dhe një njeri filloi ta shqyrtonte atë tre minuta pas kësaj. Kërkimi u ndërpre 2.5 orë më vonë. Agjentit i ishte ngarkuar detyra të identifikonte autorin e një postimi në blog dhe iu dha një sërë të dhënash për të filluar kërkimin e tij.

“Ky incident është shumë më pak i rëndë se disa nga incidentet tona të mëparshme, por për shkak se është i pari që nga forcimi i sigurisë sonë pas incidentit Hugging Face, na jep një sinjal të rëndësishëm se ku duhet të përqendrojmë fazën tjetër të asaj pune”, tha OpenAI në raportin e saj të incidentit.

Incidenti i mësipërm vjen pasi OpenAI zbuloi më parë këtë javë se modelet e saj kanë aksesuar informacione të disponueshme publikisht në dy faqe interneti të operuara nga Komisioni i Letrave me Vlerë dhe Bursave, si dhe të dhëna të Byrosë së Regjistrimit të Popullsisë të aksesuara duke përdorur çelësa të disponueshëm publikisht për zhvilluesit.

OpenAI tha se nuk gjeti prova për kompromentim, keqpërdorim të kredencialeve ose qasje në informacione jo-publike në SEC ose Byronë e Regjistrimit të Popullsisë.

OpenAI zbuloi gjithashtu më parë këtë javë se agjentët e saj kishin postuar 53 imazhe të ngarkuara nga përdoruesit në faqet e pritjes së imazheve, megjithëse kompania pohon se sulmi i profilit të lartë “Hugging Face” i korrikut mbetet incidenti më i rëndë që kompania ka parë.

Më herët këtë javë, studiues të pavarur në Transluce raportuan gjithashtu se një agjent u përpoq pa sukses të depërtonte në një faqe interneti të Departamentit të Arsimit të lidhur me Zyrën e tij për të Drejtat Civile, megjithëse departamenti tha se nuk gjeti prova të ndonjë ndikimi në faqen e tij të internetit ose në bazat e të dhënave.