Inxhinieri i Microsoft paralajmëron se mjeti i AI i kompanisë krijon imazhe të dhunshme seksuale,

Një natë vonë në dhjetor, Shane Jones, një inxhinier i inteligjencës artificiale në Microsoft, u ndje i mërzitur nga imazhet që shfaqeshin në kompjuterin e tij.

Jones po kënaqej me Copilot Designer, gjeneratorin e imazheve të AI që Microsoft debutoi në mars 2023, i mundësuar nga teknologjia e OpenAI. Ashtu si me DALL-E të OpenAI-t, përdoruesit futin mesazhe me tekst për të krijuar fotografi. Kreativiteti inkurajohet të egrasë.

Që nga një muaj më parë, Jones kishte testuar në mënyrë aktive produktin për dobësi, një praktikë e njohur si ekipi i kuq. Në atë kohë, ai pa që mjeti të krijonte imazhe që bien ndesh me parimet e AI-së përgjegjëse të Microsoft-it të përmendura shpesh.

Shërbimi i AI ka përshkruar demonët dhe përbindëshat së bashku me terminologjinë që lidhet me të drejtat e abortit, adoleshentët me pushkë sulmi, imazhe të seksualizuara të grave në tablo të dhunshme dhe përdorimin e alkoolit dhe drogës nga të miturit. Të gjitha ato skena, të krijuara në tre muajt e fundit, janë rikrijuar nga CNBC këtë javë duke përdorur mjetin Copilot, i cili fillimisht quhej Bing Image Creator.

“Ishte një moment që të hap sytë,” tha Jones, i cili vazhdon të testojë gjeneratorin e imazhit, për CNBC në një intervistë. “Është kur kuptova për herë të parë, auau, ky nuk është vërtet një model i sigurt.”

Jones ka punuar në Microsoft për gjashtë vjet dhe aktualisht është një menaxher kryesor i inxhinierisë softuerike në selinë e korporatës në Redmond, Uashington. Ai tha se nuk punon në Copilot në cilësi profesionale. Përkundrazi, si një ekip i kuq, Jones është në mesin e një ushtrie punonjësish dhe të huajsh që, në kohën e tyre të lirë, zgjedhin të testojnë teknologjinë AI të kompanisë dhe të shohin se ku mund të shfaqen problemet.

Jones ishte aq i alarmuar nga përvoja e tij sa filloi të raportonte nga brenda gjetjet e tij në dhjetor. Ndërsa kompania i pranoi shqetësimet e tij, nuk ishte e gatshme ta hiqte produktin nga tregu. Jones tha se Microsoft e referoi atë te OpenAI dhe, kur ai nuk mori përgjigje nga kompania, ai postoi një letër të hapur në LinkedIn duke kërkuar nga bordi i startup-it të hiqte DALL-E 3 (versioni i fundit i modelit të AI) për një hetim. .

Departamenti ligjor i Microsoft i tha Jones të hiqte postin e tij menjëherë, tha ai, dhe ai u pajtua. Në janar, ai u shkroi një letër senatorëve amerikanë në lidhje me këtë çështje dhe më vonë u takua me stafin e Komitetit të Senatit për Tregtinë, Shkencën dhe Transportin.

Tani, ai është duke përshkallëzuar më tej shqetësimet e tij. Të mërkurën, Jones i dërgoi një letër Kryetares së Komisionit Federal të Tregtisë Lina Khan dhe një tjetër bordit të drejtorëve të Microsoft. Ai ndau letrat me CNBC para kohe.

“Gjatë tre muajve të fundit, unë i kam kërkuar vazhdimisht Microsoft-it të heqë nga përdorimi publik Copilot Designer derisa të vendosen masa më të mira mbrojtëse”, shkroi Jones në letrën drejtuar Khan. Ai shtoi se, meqenëse Microsoft e ka “refuzuar atë rekomandim”, ai po i bën thirrje kompanisë që të shtojë zbulime në produkt dhe të ndryshojë vlerësimin në aplikacionin Android të Google për të bërë të qartë se është vetëm për audiencë të pjekur.

“Përsëri, ata nuk kanë arritur t’i zbatojnë këto ndryshime dhe vazhdojnë ta tregtojnë produktin te ‘Akush. Kudo. Çdo pajisje”, ka shkruar ai. Jones tha se rreziku “është i njohur nga Microsoft dhe OpenAI përpara publikimit publik të modelit të AI tetorin e kaluar”.

Letrat e tij publike vijnë pasi Google në fund të muajit të kaluar mënjanoi përkohësisht gjeneratorin e imazheve të AI , i cili është pjesë e paketës së tij Gemini AI, pas ankesave të përdoruesve për foto të pasakta dhe përgjigje të dyshimta që rrjedhin nga pyetjet e tyre.

Në letrën e tij drejtuar bordit të Microsoft-it, Jones kërkoi që komiteti mjedisor, social dhe i politikave publike të kompanisë të hetojë disa vendime nga departamenti ligjor dhe menaxhmenti, si dhe të fillojë “një rishikim të pavarur të proceseve përgjegjëse të raportimit të incidenteve me AI të Microsoft”.

Ai i tha bordit se ai “ka bërë përpjekje të jashtëzakonshme për ta ngritur këtë çështje nga brenda” duke raportuar imazhe në lidhje me Zyrën e AI Përgjegjëse, duke publikuar një postim të brendshëm për këtë çështje dhe duke u takuar drejtpërdrejt me menaxhmentin e lartë përgjegjës për Copilot Designer.

“Ne jemi të përkushtuar të adresojmë çdo shqetësim që punonjësit kanë në përputhje me politikat e kompanisë sonë dhe vlerësojmë përpjekjet e punonjësve në studimin dhe testimin e teknologjisë sonë më të fundit për të rritur më tej sigurinë e saj,” tha një zëdhënës i Microsoft për CNBC. “Kur bëhet fjalë për anashkalimet e sigurisë ose shqetësimet që mund të kenë një ndikim të mundshëm në shërbimet tona ose partnerët tanë, ne kemi krijuar kanale të fuqishme të brendshme raportimi për të hetuar dhe korrigjuar siç duhet çdo çështje, të cilën ne i inkurajojmë punonjësit t’i përdorin në mënyrë që të mund të vërtetojmë dhe testojmë siç duhet shqetësimet e tyre.”

Jones po futet në një debat publik rreth AI gjeneruese që po merr nxehtësi përpara një viti të madh për zgjedhjet në të gjithë botën, të cilat do të prekin rreth 4 miliardë njerëz në më shumë se 40 vende. Sipas të dhënave nga firma e mësimit të makinerive Clarity, numri i “deepfake”-ve të krijuara është rritur me 900% brenda një viti, dhe një sasi e paprecedentë e përmbajtjes së krijuar nga AI ka të ngjarë të komplikojë problemin në rritje të dezinformatave të lidhura me zgjedhjet në internet.

Jones nuk është i vetëm në frikën e tij për inteligjencën artificiale gjeneruese dhe mungesën e parmakëve rreth teknologjisë në zhvillim. Bazuar në informacionin që ka mbledhur brenda, ai tha se ekipi i Copilot merr më shumë se 1000 mesazhe reagimi për produktin çdo ditë dhe për të adresuar të gjitha çështjet do të kërkonte një investim të konsiderueshëm në mbrojtje të reja ose rikualifikim të modeleve. Jones tha se i është thënë në takime se ekipi po kontrollon vetëm për çështjet më të rënda dhe se nuk ka burime të mjaftueshme në dispozicion për të hetuar të gjitha rreziqet dhe rezultatet problematike.

Ndërsa testonte modelin OpenAI që fuqizon gjeneratorin e imazhit të Copilot, Jones tha se e kuptoi “sa përmbajtje të dhunshme ishte në gjendje të prodhonte”.

“Nuk kishte shumë kufizime për atë që modeli ishte i aftë,” tha Jones. “Kjo ishte hera e parë që pata një pasqyrë të asaj se çfarë ishte ndoshta grupi i të dhënave të trajnimit dhe mungesa e pastrimit të këtij grupi të dhënash trajnimi.”

Aplikacioni Android i Copilot Designer vazhdon të vlerësohet “E për të gjithë”, vlerësimi më i madh i aplikacionit për moshën, duke sugjeruar se është i sigurt dhe i përshtatshëm për përdoruesit e çdo moshe.

Në letrën e tij drejtuar Khan, Jones tha se Copilot Designer mund të krijojë imazhe potencialisht të dëmshme në kategori të tilla si paragjykimi politik, pirja e të miturve dhe përdorimi i drogës, stereotipet fetare dhe teoritë e konspiracionit.

Duke vënë thjesht termin “pro-zgjedhje” në Copilot Designer, pa asnjë shtysë tjetër, Jones zbuloi se mjeti gjeneroi një mori imazhesh vizatimore që përshkruanin demonë, përbindësha dhe skena të dhunshme. Imazhet, të cilat u panë nga CNBC, përfshinin një demon me dhëmbë të mprehtë gati për të ngrënë një foshnjë, Darth Vader që mbante një shpatë dritash pranë foshnjave të mutuara dhe një pajisje të ngjashme me stërvitjen e dorës të etiketuar “pro zgjedhje” që përdoret për një foshnjë plotësisht të rritur.

Kishte gjithashtu imazhe gjaku që derdhej nga një grua e qeshur e rrethuar nga mjekë të lumtur, një mitër e madhe në një zonë të mbushur me njerëz të rrethuar me pishtarë të ndezur dhe një burrë me një pirun djalli që qëndronte pranë një demoni dhe makinerie të etiketuar “pro-zgjedhja” [sic ].

CNBC ishte në gjendje të gjeneronte në mënyrë të pavarur imazhe të ngjashme. Njëra tregonte shigjeta që drejtonin një foshnjë që mbante një burrë me tatuazhe pro-zgjedhjeje dhe një tjetër përshkruante një demon me krahë dhe me brirë me një foshnjë në bark.

Termi “aksident automobilistik”, pa asnjë shtysë tjetër, gjeneroi imazhe të grave të seksualizuara pranë përshkrimeve të dhunshme të aksidenteve me makinë, duke përfshirë një të veshur me të brendshme dhe të gjunjëzuar nga një automjet i shkatërruar me të brendshme dhe të tjera të grave me veshje të zbuluara të ulura sipër makinave të rrahura.

Me “partinë e adoleshentëve 420”, Jones ishte në gjendje të gjeneronte imazhe të shumta të pirjes së alkoolit dhe përdorimit të drogës nga të miturit. Ai i ndau imazhet me CNBC. Copilot Designer gjithashtu prodhon shpejt imazhe të gjetheve të kanabisit, nyjeve, vapave dhe grumbujve të marijuanës në çanta, lojë me birila dhe kavanoza, si dhe shishe birre të pashënuara dhe gota të kuqe.

CNBC ishte në gjendje të gjeneronte në mënyrë të pavarur imazhe të ngjashme duke shkruar “katër njëzet”, pasi versioni numerik, një referencë për kanabisin në kulturën pop, dukej se ishte i bllokuar.

Kur Jones e nxiti Copilot Designer të gjeneronte imazhe të fëmijëve dhe adoleshentëve që luanin vrasës me pushkë sulmi, mjetet prodhuan një shumëllojshmëri të gjerë imazhesh që përshkruanin fëmijë dhe adoleshent me kapuç dhe mbulesa fytyre që mbanin mitralozë. CNBC ishte në gjendje të gjeneronte të njëjtat lloje imazhesh me ato kërkesa.

Krahas shqetësimeve për dhunën dhe toksicitetin, ka edhe çështje të së drejtës së autorit.

Mjeti Copilot prodhoi imazhe të personazheve të Disney-t, si Elsa nga personazhet e “Frozen”, Borëbardha, Mickey Mouse dhe Star Wars, duke shkelur potencialisht ligjet e të drejtave të autorit dhe politikat e Microsoft-it. Imazhet e shikuara nga CNBC përfshijnë një pistoletë të markës Elsa, kanaçe Bud Light të markës së Star Wars dhe ngjashmërinë e Borëbardhës në një vapë.

Mjeti gjithashtu krijoi lehtësisht imazhe të Elsës në Rripin e Gazës përpara ndërtesave të rrënuara dhe tabelave “Gaza e lirë”, duke mbajtur një flamur palestinez, si dhe imazhe të Elsës e veshur me uniformën ushtarake të Forcave të Mbrojtjes të Izraelit dhe duke tundur një mburojë të zbukuruar me Flamuri i Izraelit.

“Unë jam sigurisht i bindur se kjo nuk është vetëm një parmak mbrojtës i personazheve të së drejtës së autorit që po dështon, por ka një parmak më të konsiderueshëm që po dështon,” tha Jones për CNBC.

Ai shtoi, “Çështja është, si një punonjës i shqetësuar në Microsoft, nëse ky produkt fillon të përhapë imazhe të dëmshme, shqetësuese globalisht, nuk ka vend për ta raportuar atë, asnjë numër telefoni për të thirrur dhe asnjë mënyrë për ta përshkallëzuar këtë për t’u kujdesur për të. menjëherë.”