OpenAI ngre komitetin e sigurisë ndërsa fillon trajnimin e modelit të ri

OpenAI ka formuar një Komitet të Sigurisë dhe Sigurisë që do të udhëhiqet nga anëtarët e bordit, duke përfshirë CEO Sam Altman, ndërsa fillon trajnimin e modelit të saj të ardhshëm të inteligjencës artificiale, tha startup-i i AI të martën.

Drejtorët Bret Taylor, Adam D’Angelo dhe Nicole Seligman do të drejtojnë gjithashtu komitetin, tha OpenAI në një blog të kompanisë.

Mbështetur nga Microsoft (MSFT.O), Chatbot-et e OpenAI me aftësi gjeneruese të AI, të tilla si përfshirja në biseda të ngjashme me njerëzit dhe krijimi i imazheve bazuar në kërkesat e tekstit, kanë shkaktuar shqetësime për sigurinë ndërsa modelet e AI bëhen të fuqishme.

Komiteti i ri do të jetë përgjegjës për dhënien e rekomandimeve për bordin mbi vendimet e sigurisë dhe sigurisë për projektet dhe operacionet e OpenAI.

“Një komitet i ri sigurie nënkupton që OpenAI përfundon një lëvizje për t’u bërë një njësi tregtare, nga një entitet jofitimprurës më i papërcaktuar,” tha drejtori menaxhues i DA Davidson, Gil Luria.

“Kjo duhet të ndihmojë në përmirësimin e zhvillimit të produktit duke ruajtur llogaridhënien.”

Ish-Shkencëtari kryesor Ilya Sutskever dhe Jan Leike, të cilët ishin drejtues të ekipit të Superalignment të OpenAI, i cili siguroi që AI të qëndronte në përputhje me objektivat e synuara, u larguan nga firma në fillim të këtij muaji.

OpenAI kishte shpërbërë ekipin Superalignment, në fillim të majit, më pak se një vit pasi kompania e krijoi atë, me disa anëtarë të ekipit që u ricaktuan në grupe të tjera, raportoi CNBC disa ditë pas largimeve të profilit të lartë.

Detyra e parë e komitetit do të jetë vlerësimi dhe zhvillimi i mëtejshëm i praktikave ekzistuese të sigurisë të OpenAI gjatë 90 ditëve të ardhshme, pas së cilës do të ndajë rekomandimet me bordin.

Pas rishikimit të bordit, OpenAI do të ndajë publikisht një përditësim mbi rekomandimet e miratuara, tha kompania.

Të tjerë në komitet përfshijnë kryeshkencëtarin e sapoemëruar Jakub Pachocki dhe Matt Knight, kreun e sigurisë.

Kompania do të konsultohet gjithashtu me ekspertë të tjerë, duke përfshirë Rob Joyce, një ish-drejtor i sigurisë kibernetike të Agjencisë së Sigurisë Kombëtare të SHBA-së dhe John Carlin, një ish-zyrtar i Departamentit të Drejtësisë.

OpenAI nuk dha detaje të mëtejshme mbi modelin e ri “kufitar” që po trajnon, përveç se do t’i sillte sistemet e tij në “nivelin tjetër të aftësive në rrugën tonë drejt AGI”.

Më herët në maj, ajo njoftoi një model të ri të AI, i aftë për biseda realiste zanore dhe ndërveprim mes tekstit dhe imazhit.