Anthropic zgjedh Accenture si vlerësuesin e parë të integruar për të ndihmuar në zbatimin e propozimit të Amodei për ngadalësimin

Anthropic njoftoi të premten se ka zgjedhur Accentury Si një vlerësues i integruar, hapi i parë konkret i kompanisë drejt zbatimit të propozimit të CEO-s Dario Amodei për të ngadalësuar ritmin e zhvillimit të inteligjencës artificiale.

Si Anthropic ashtu edhe Accenture kanë rënë dakord të investojnë të paktën 1 miliard dollarë për të “ndërtuar kapacitetet në këtë fushë” gjatë pesë viteve të ardhshme, sipas një njoftimi. Por Anthropic tha se duke pasur parasysh “rëndësinë dhe urgjencën”, do të financojë drejtpërdrejt punën e Accenture.

“Në plan afatgjatë, ne mendojmë se financimi duhet të vijë nga burime të përbashkëta ose qeveritare, siç kërkuam në Kornizën tonë të Avancuar të IA-së në qershor”, tha Anthropic. “Meqenëse asnjëra prej tyre nuk ekziston sot, ne planifikojmë të punojmë me vlerësues të ndryshëm sipas marrëveshjeve të ndryshme të financimit.”

Të shtunën, Amodei tronditi sektorin e teknologjisë duke publikuar një plan me tre hapa për të zbutur shpejtësinë me të cilën kompanitë e inteligjencës artificiale përmirësojnë modelet e tyre më të përparuara. Anthropic dhe rivali i saj kryesor, OpenAI,

kanë qenë nën shqyrtim të rreptë javët e fundit pasi një kor në rritje studiuesish paralajmëruan për potencialin që inteligjenca artificiale të shkaktojë dëme katastrofike.

Propozimi i Amodei u mirëprit nga disa drejtues të industrisë këtë javë, përfshirë drejtorin ekzekutiv të OpenAI, Sam Altman, dhe Tesla-n dhe SpaceX CEO Elon Musk, por edhe të tjerë, si Nvidia Drejtori Ekzekutiv Jensen Huang i hodhi poshtë shqetësimet dhe argumentoi se nuk ka nevojë për rregullore të reja. Shumë veta vunë në dyshim se çfarë do të nënkuptonte propozimi i Amodei-t në praktikë, veçanërisht ndërsa Anthropic përgatitet për atë që pritet gjerësisht të jetë një IPO e madhe.

Hapi i parë i planit të Amodei-t u jep vlerësuesve të palëve të treta akses në kompani në nivel punonjësish për të verifikuar praktikat e sigurisë dhe për të raportuar incidentet. Ai tha të shtunën se Anthropic u zotua “në mënyrë të njëanshme” për këtë pjesë të propozimit dhe inkurajoi kompanitë e tjera të IA-së të bënin të njëjtën gjë.

Anthropic tha të premten se fillimisht kishte rënë dakord të integronte punonjës nga Faculty, biznesi specialist i IA-së i Accenture, në kompani me qëllim testimin e masave mbrojtëse, modelet e ekipit të kuq dhe vlerësimin nëse modelet sillen në përputhje me vlerat njerëzore. Partneriteti nuk është ekskluziv dhe Anthropic tha se është në diskutime me organizatën kërkimore jofitimprurëse METR, si dhe palë të treta të tjera.

Kompania theksoi se është ende përgjegjëse për sigurinë e modeleve të saj dhe tha se puna me vlerësues të integruar nuk do ta zvogëlojë përgjegjshmërinë e saj.

“Po i ndajmë këto përpjekje të hershme tani në mënyrë që njerëzit dhe zhvilluesit e tjerë të IA-së të mund ta shohin procesin tonë”, tha Anthropic. “Presim që qasja jonë të evoluojë ndërsa fusha përparon dhe do të ndajmë më shumë ndërsa fillon puna jonë dhe ndërsa sjellim vlerësues shtesë.”