Meta po has vështirësi me agjentë AI të pakontrolluar

Një agjent i inteligjencës artificiale u bë mashtrues në Meta, duke ekspozuar të dhëna të ndjeshme të kompanisë dhe të përdoruesve te punonjësit që nuk kishin leje për t’i aksesuar ato.

Sipas një raporti incidenti, i cili u pa dhe u raportua nga The Information, një punonjës i Meta-s postoi në një forum të brendshëm duke kërkuar ndihmë me një pyetje teknike — gjë që është një veprim standard. Megjithatë, një inxhinier tjetër i kërkoi një agjenti të inteligjencës artificiale të ndihmonte në analizimin e pyetjes dhe agjenti përfundoi duke postuar një përgjigje pa i kërkuar inxhinierit leje për ta ndarë atë. Meta e konfirmoi incidentin për The Information.

Siç doli, agjenti i inteligjencës artificiale nuk dha këshilla të mira. Punonjësi që bëri pyetjen përfundoi duke ndërmarrë veprime bazuar në udhëzimet e agjentit, të cilat pa dashje vunë në dispozicion të inxhinierëve, të cilët nuk ishin të autorizuar për t’i aksesuar ato, sasi të mëdha të dhënash të lidhura me kompaninë dhe përdoruesit për dy orë.

Meta e konsideroi incidentin një “Sev 1”, që është niveli i dytë më i lartë i ashpërsisë në sistemin e brendshëm të kompanisë për matjen e problemeve të sigurisë.

Agjentët mashtrues të inteligjencës artificiale kanë shkaktuar tashmë një problem në Meta. Summer Yue, drejtoreshë sigurie dhe harmonizimi në Meta Superintelligence, postoi në X muajin e kaluar duke përshkruar se si agjentja e saj OpenClaw përfundoi duke fshirë të gjithë kutinë e saj postare, edhe pse ajo i tha të konfirmonte me të përpara se të ndërmerrte ndonjë veprim.

Megjithatë, Meta duket optimist për potencialin e inteligjencës artificiale agjentike. Vetëm javën e kaluar, Meta bleu Moltbook, një faqe rrjetesh sociale të ngjashme me Reddit për agjentët e OpenClaw që të komunikojnë me njëri-tjetrin.