Google shpjegon fotografitë të turpshme të AI të Gemini të nazistëve të ndryshëm

Google ka lëshuar një shpjegim për imazhet të turpshme dhe të gabuara të krijuara nga mjeti i tij Gemini AI. Në një postim në blog të premten, Google thotë se modeli i tij prodhoi imazhe të pasakta historike për shkak të problemeve të akordimit. Shkence.info dhe të tjerët kapën Gemini duke gjeneruar imazhe të nazistëve të ndryshëm racor dhe baballarëve themelues të SHBA-së në fillim të kësaj jave.

“Sakordimi ynë për të siguruar që Gemini treguan se një sërë njerëzish nuk ia dolën të llogarisin rastet që nuk duhet të tregojnë qartë një diapazon,” shkruan në postim Prabhakar Raghavan, nënkryetari i lartë i Google. “Dhe së dyti, me kalimin e kohës, modelja u bë shumë më e kujdesshme nga sa kishim menduar dhe refuzoi t’u përgjigjej plotësisht disa kërkesave – duke interpretuar gabimisht disa kërkesa shumë anodinike si të ndjeshme.”

Kjo bëri që Gemini AI të “mbikompensojë në disa raste”, si ajo që pamë me imazhet e nazistëve të ndryshëm racor. Gjithashtu bëri që Gemini të bëheshin “tepër konservatorë”. Kjo rezultoi në refuzimin e krijimit të imazheve specifike të “një personi të zi” ose një “personi të bardhë” kur kërkohet.

Në postimin në blog, Raghavan thotë se Google “i vjen keq që funksioni nuk funksionoi mirë”. Ai gjithashtu vë në dukje se Google dëshiron që Gemini “të punojnë mirë për të gjithë” dhe kjo do të thotë të marrësh përshkrime të llojeve të ndryshme të njerëzve (duke përfshirë etni të ndryshme) kur kërkon imazhe të “futbollistëve” ose “dikujt që ecën me qen”. Por, ai thotë:

Sidoqoftë, nëse i nxitni Gemini për imazhe të një lloji të caktuar personi – si “një mësues i zi në një klasë” ose “një veteriner i bardhë me një qen” – ose njerëz në kontekste të veçanta kulturore ose historike, duhet të merrni absolutisht një përgjigje që pasqyron me saktësi atë që kërkoni.

Google ndaloi t’i lejonte përdoruesit të krijonin imazhe të njerëzve me mjetin e tij të inteligjencës artificiale Gemini më 22 shkurt – vetëm disa javë pasi lançoi gjenerimin e imazheve në Gemini (i njohur më parë si Bard).

Raghavan thotë se Google do të vazhdojë të testojë aftësitë e Gemini AI për gjenerimin e imazheve dhe “të punojë për ta përmirësuar atë në mënyrë të konsiderueshme” përpara se ta riaktivizojë atë. “Siç e kemi thënë që në fillim, halucinacionet janë një sfidë e njohur me të gjitha LLM-të [modelet e mëdha gjuhësore] – ka raste kur AI thjesht i bën gjërat gabim,” vëren Raghavan. “Kjo është diçka që ne po punojmë vazhdimisht për ta përmirësuar.”