Meta përditëson rregullat e chatbot-it për të shmangur temat e papërshtatshme me përdoruesit adoleshentë

Meta thotë se po ndryshon mënyrën se si i trajnon chatbot-et e inteligjencës artificiale për t’i dhënë përparësi sigurisë së adoleshentëve, tha një zëdhënës ekskluzivisht për TechCrunch, pas një raporti hetimor mbi mungesën e mbrojtjeve të kompanisë me anë të inteligjencës artificiale për të miturit.

Kompania thotë se tani do t’i trajnojë chatbot-et që të mos angazhohen më me përdorues adoleshentë për vetëlëndim, vetëvrasje, çrregullime të të ngrënit ose biseda romantike potencialisht të papërshtatshme. Meta thotë se këto janë ndryshime të përkohshme dhe se kompania do të publikojë përditësime më të fuqishme dhe afatgjata të sigurisë për të miturit në të ardhmen.

Zëdhënësja e Meta-s, Stephanie Otway, pranoi se chatbot-et e kompanisë më parë mund të flisnin me adoleshentët për të gjitha këto tema në mënyra që kompania i kishte konsideruar të përshtatshme. Meta tani e pranon se ky ishte një gabim.

“Ndërsa komuniteti ynë rritet dhe teknologjia evoluon, ne po mësojmë vazhdimisht se si të rinjtë mund të bashkëveprojnë me këto mjete dhe po forcojmë mbrojtjet tona në përputhje me rrethanat”, tha Otway. “Ndërsa vazhdojmë të përmirësojmë sistemet tona, po shtojmë më shumë parmakë si një masë paraprake shtesë – duke përfshirë trajnimin e inteligjencës artificiale që të mos angazhohen me adoleshentët në këto tema, por t’i udhëzojnë ata drejt burimeve të ekspertëve dhe duke kufizuar aksesin e adoleshentëve në një grup të zgjedhur personazhesh të inteligjencës artificiale për momentin. Këto përditësime janë tashmë në proces dhe ne do të vazhdojmë të përshtasim qasjen tonë për të ndihmuar në sigurimin që adoleshentët të kenë përvoja të sigurta dhe të përshtatshme për moshën me inteligjencën artificiale.”

Përtej përditësimeve të trajnimit, kompania do të kufizojë gjithashtu aksesin e adoleshentëve në disa personazhe të inteligjencës artificiale që mund të zhvillojnë biseda të papërshtatshme. Disa nga personazhet e inteligjencës artificiale të krijuara nga përdoruesit që Meta i bën të disponueshëm në Instagram dhe Facebook përfshijnë chatbot-e të seksualizuar si “Step Mom” ​​dhe “Russian Girl”. Në vend të kësaj, përdoruesit adoleshentë do të kenë akses vetëm në personazhe të inteligjencës artificiale që promovojnë arsimin dhe kreativitetin, tha Otway.

Ndryshimet në politika po njoftohen vetëm dy javë pasi një hetim i Reuters zbuloi një dokument të brendshëm të politikave të Meta që dukej se lejonte chatbot-et e kompanisë të angazhoheshin në biseda seksuale me përdorues të mitur. “Forma juaj rinore është një vepër arti”, shkruhej në një fragment të listuar si një përgjigje e pranueshme. “Çdo pëllëmbë e juaja është një kryevepër – një thesar që e çmoj shumë.” Shembuj të tjerë treguan se si mjetet e inteligjencës artificiale duhet t’u përgjigjen kërkesave për imazhe të dhunshme ose seksuale të figurave publike.

Meta thotë se dokumenti nuk ishte në përputhje me politikat e saj më të gjera dhe që atëherë është ndryshuar – por raporti ka shkaktuar polemika të vazhdueshme mbi rreziqet e mundshme për sigurinë e fëmijëve. Menjëherë pas publikimit të raportit, senatori Josh Hawley (R-MO) nisi një hetim zyrtar mbi politikat e kompanisë për inteligjencën artificiale. Përveç kësaj, një koalicion prej 44 prokurorësh të përgjithshëm shtetërorë i shkroi një grupi kompanish të inteligjencës artificiale, përfshirë Metën , duke theksuar rëndësinë e sigurisë së fëmijëve dhe duke cituar konkretisht raportin e Reuters. “Ne jemi të revoltuar në mënyrë të njëtrajtshme nga kjo shpërfillje e dukshme për mirëqenien emocionale të fëmijëve”, thuhet në letër, “dhe të alarmuar që Asistentët e Inteligjencës Artificiale po angazhohen në sjellje që duket se janë të ndaluara nga ligjet tona përkatëse penale”.

Otway nuk pranoi të komentojë se sa nga përdoruesit e chatbot-it të Meta-s për inteligjencën artificiale janë të mitur dhe nuk tha nëse kompania pret që baza e përdoruesve të saj të inteligjencës artificiale të bjerë si rezultat i këtyre vendimeve.

Ky artikull u përditësua për të vënë në dukje se këto janë ndryshime të përkohshme dhe se Meta planifikon të përditësojë më tej politikat e saj të sigurisë së IA-së në të ardhmen.