Punonjësi i Microsoft paralajmëron FTC në lidhje me gjeneratorin e imazhit të AI të Microsoft

Inxhinieri i Microsoft AI Shane Jones paralajmëron se gjeneratori i imazheve të AI të kompanisë, Copilot Designer, krijon përmbajtje seksuale dhe të dhunshme dhe injoron ligjet për të drejtat e autorit.

Jones, i cili nuk është i përfshirë në zhvillimin e gjeneratorit të imazhit, doli vullnetar për të grupuar produktin për dobësitë në kohën e tij të lirë.

Ai zbuloi se Gjeneruesi i Imazheve mund të gjeneronte imazhe të dhunshme dhe seksuale, duke përfshirë imazhe të skenave të dhunshme që lidhen me të drejtat e abortit, pirjen e të miturve dhe përdorimin e drogës.

Dhjetorin e kaluar, ai ndau gjetjet e tij brenda me Microsoft dhe i kërkoi kompanisë të tërhiqte produktin. Microsoft nuk u pajtua.

Jones thekson se ai kontaktoi Zyrën e Microsoft për Inteligjencën Artificiale të Përgjegjshme dhe foli me menaxhmentin e lartë të Copilot Designer – pa marrë një përgjigje të kënaqshme.

Në janar, Jones u shkroi një letër senatorëve amerikanë dhe u takua me anëtarët e Komitetit të Senatit për Tregtinë, Shkencën dhe Transportin.

Tani ai po përshkallëzohet: në një letër drejtuar kryetares së Komisionit Antitrust të SHBA-së, Lina Khan dhe bordit të drejtorëve të Microsoft-it, ai po kërkon mbrojtje më të mirë, transparencë dhe një ndryshim në vlerësimin e të rriturve të aplikacionit Android.

Ai gjithashtu bëri thirrje për një rishikim të pavarur të procesit të raportimit të incidentit të inteligjencës artificiale të Microsoft, duke pretenduar se problemet me gjeneratorin e imazhit ishin të njohura për OpenAI dhe Microsoft përpara se të lëshohej vjeshtën e kaluar.

Jones ka punuar në Microsoft për rreth gjashtë vjet dhe aktualisht mban një menaxher kryesor të inxhinierisë softuerike.