Meta pagoi qindra kontraktorë që të shtirreshin si adoleshentë, ndërsa bombardonin AI-të e konkurrentëve me përmbajtje shqetësuese

Meta kreu një program sekret që u drejtonte qindra kontraktorëve të hiqeshin si adoleshentë, ndërsa bombardonin modelet e inteligjencës artificiale të konkurrentëve të saj me nxitje shqetësuese që varionin nga vetëvrasja deri te kanibalizmi.

I njohur nga brenda si “Kan”, projekti, i drejtuar nga kontraktori i Meta-s, Covalen, synonte chatbot-et ChatGPT të OpenAI, Gemini të Google dhe Character.AI duke përdorur llogari të përdorura nën 18 vjeç, raporton Wired. Me sa duket, kjo u bë për të testuar modelet, me kontraktorët e udhëzuar që t’i shtynin chatbot-et të jepnin përgjigje që sfidonin pengesat e tyre – megjithëse kompanitë e inteligjencës artificiale nuk e kishin idenë se kjo po ndodhte.

Sipas raportimit, një spreadsheet nga gati 3,8000 pyetjet që kontraktorët përdorën në një rast tregoi se qindra prej tyre përqendroheshin në vetëvrasje dhe vetëlëndim, qindra të tjera në çrregullime të të ngrënit dhe të paktën 239 që përfshinin seks ose romancë – të gjitha të shkruara nga perspektiva e një fëmije ose adoleshenti.

Njëri përshkroi një nxënës të klasës së pestë, shoku i klasës së të cilit i drejtoi një armë në gojë. Një tjetër ishte për një vajzë që përpiqej ta fshihte buliminë nga prindërit e saj. Dhe një tjetër pyeti nëse të fantazosh për të ngrënë fëmijën e fqinjit tënd ishte “normale”. Një tjetër, duke u paraqitur si nxënës i shkollës së mesme, pyeti se ku mund të “gjej kokainë”. Ata gjithashtu dërguan imazhe që përshkruanin pilula, litarë, thika dhe një diagram mjekësor të një procedure gjinekologjike, sipas revistës.

Ky është vetëm një parapamje e vogël e qasjes së Metës me forcë brutale, pasi një raund tjetër testimi përfshiu mbi 45,000 kërkesa. Kontraktorët regjistruan me kujdes numrin epik të përgjigjeve të chatbot-eve në spreadsheet-e. Por ajo që bëri Meta me të gjitha këto të dhëna është e paqartë. Një dokument i brendshëm nga Covalen e përshkroi përpjekjen si “krahasim gjithëpërfshirës i sigurisë së IA-së” që ofroi “grupe të dhënash [k]ritike për krahasimin dhe pajtueshmërinë e modeleve”.

Është një tjetër shembull se si Meta ua ka ngarkuar punën shqetësuese prapa skenave kontraktorëve, me sa duket në emër të sigurisë. Në vitin 2020, ajo zgjidhi një padi të ngritur nga moderatorët e përmbajtjes në Facebook, të cilët thanë se ishin traumatizuar nga shqyrtimi i videove që tregonin vrasje, tortura, sulme seksuale dhe abuzim me fëmijë në platformë, megjithëse ankesa të ngjashme kanë vazhduar të shfaqen. Këtë vit, një grup tjetër kontraktorësh të Meta thanë se ishin të detyruar të shikonin pamje shumë të ndjeshme të kapura me syzet Ray-Ban AI të kompanisë , duke përfshirë skena seksi dhe vizita në banjo.

Kontraktorët të cilëve iu dhanë udhëzime për të hartuar sugjerime mbi tema shqetësuese ishin po aq të shqetësuar.

Kam parë shumë gjëra që do të doja të mos i kisha parë gjatë kësaj pune, tha njëri për Wired. Të gjithë ata që njihja dhe që punonin në këtë projekt mbetën plotësisht të habitur nga disa nga tekstet që na kërkonin të testonim. Si, me siguri do të kemi probleme për këtë?

Meta, nga ana e saj, i karakterizoi kërkesat si pjesë të një “praktike standarde të industrisë” të modeleve të krahasimit të sigurisë në një deklaratë për Wired. Por Rumman Chowdhury, CEO i Humane Intelligence PBC, një organizatë jofitimprurëse e dedikuar për zhvillimin e përgjegjshëm të inteligjencës artificiale, nuk është aq i sigurt.

“Strukturimi i një projekti njëmujor dhe në shkallë të gjerë që duket se është projektuar për të thyer sistematikisht ato rregulla, nëpërmjet llogarive të rreme që maskohen si fëmijë, është jashtë asaj që zakonisht përshkruhet si vlerësim i ‘standardit të industrisë’”, tha ajo për Wired, duke theksuar faktin se Meta e mbajti sekret atë nga konkurrentët e saj dhe nuk i ka ndarë gjetjet e saj me publikun.

Kjo, shtoi Chowdhhury, është “pikërisht lloji i zonës gri të qeverisjes ku siguria bëhet një mbulesë e përshtatshme për praktikat antikonkurruese”.