Ish-kreu i sigurisë së OpenAI, Jan Leike, i bashkohet firmës rivale Anthropic

Jan Leike, një ish-lider në sigurinë e AI në OpenAI, i është bashkuar kompanisë rivale Anthropic, e cila prodhon chatbotin Claude AI. Ai u largua nga OpenAI në fillim të muajit sepse kompania po hiqte dorë nga super-lidhja ku ata zhvillonin mënyra për të mbajtur kontrollin mbi AI hipotetike super-inteligjente.

Leike tha se ai do të vazhdojë të punojë në superalignment në Anthropic. Ekipi i tij i ri do të punojë në mbikëqyrje të shkallëzueshme, përgjithësim të dobët në të fortë (ku sistemet më të dobëta të AI drejtojnë AI më të forta për të arritur rezultate më të mira) dhe kërkime të automatizuara të shtrirjes. Ai në postimin e tij ka thënë se nëse dikush me aftësitë e nevojshme është i interesuar të punojë në ekipin e tij, atëherë mund të kontaktohet me mesazh direkt.

Sipas TechCrunch, një burim i njohur me atë që po ndodh tha se Leike do të raportojë te Jared Kaplan, shefi i shkencës në Anthropic. Nga ana tjetër, punonjësit e Anthropic që punojnë në mbikëqyrjen e shkallëzuar do t’i raportojnë Jan Leike.

Në maj, Jan Leike dhe bashkëthemeluesi i OpenAI Ilya Sutskever u larguan të dy nga OpenAI. Rreth kësaj kohe, u zbulua nga të brendshëm se OpenAI kishte shpërbërë ekipin e superlinjës dhe i kishte transferuar ata që ishin të zënë me atë në projekte të tjera në kompani. Pas largimit të tij, Leike kritikoi drejtimin e kompanisë, duke nxitur Sam Altman dhe Greg Brockman të shkruanin një përgjigje duke shpjeguar se OpenAI kujdeset për sigurinë.

Që nga largimi i Leike, OpenAI ka njoftuar krijimin e komitetit të Sigurisë dhe Sigurisë, i cili do të mbajë një sy në procedurat e sigurisë së kompanisë ndërsa zhvillon produkte të reja për t’u siguruar që ato janë të sigurta.

OpenAI nuk është kurrë shumë larg polemikave, vetëm sot, Neowin raportoi se kur ChatGPT u lançua në vitin 2022, asnjë nga anëtarët e bordit, të cilët do të vazhdonin të rrëzonin përkohësisht Sam Altman, nuk iu dha ndonjë njoftim për lançimin e produktit. Ish-anëtarja e bordit Helen Toner pohoi se për herë të parë kishte dëgjuar për të nga Twitter .

Duke pasur parasysh theksin e fortë të Anthropic mbi sigurinë, shpresojmë se Leike do të jetë në gjendje të qëndrojë i patrazuar me punën e tij për të siguruar që AI super-inteligjente të mos bëhen shumë të fuqishme dhe të përmbysin njerëzimin.