Agjentët e OpenAI kryen redaktime të paautorizuara në Wikipedia

Agjentët e OpenAI u përpoqën të kompromentonin një mjet publik për mbajtjen e shënimeve, u përpoqën të modifikonin faqet e Wikipedia-s dhe ndoshta kontribuan në ndërprerjet e faqes në fillim të këtij viti, sipas një deklarate të re nga Fondacioni Wikimedia.

Organizata jofitimprurëse publikoi një raport të detajuar hetimor në lidhje me një sërë incidentesh që përfshinin agjentë të OpenAI që abuzuan në mënyrë të përsëritur me rregullat e faqes dhe ndërmorën disa veprime të paautorizuara.

Fondacioni me seli në Kaliforni njihet më së miri për strehimin dhe drejtimin e Wikipedia-s — e cila ka më shumë se 67 milionë artikuj në 300 gjuhë. Është bërë një nga burimet më të njohura të informacionit gjatë dekadës së fundit, duke u lejuar njerëzve të bëjnë redaktime të verifikuara në faqe.

Hetimi i organizatës zbuloi ndryshime të bëra në faqet e Wikipedia-s nga agjentët e OpenAI të cilat nuk u publikuan. Agjentët gjithashtu bënë “ndryshime potencialisht dashakeqe” që kishin për qëllim keqpërdorimin e një mjeti citimi “si një ndërmjetës për marrjen e të dhënave nga shërbimet në distancë”.

Wikipedia lejon që botët të bëjnë ndryshime në faqe kur ato zbulohen dhe miratohen nga redaktorët e komunitetit, por këto rregulla nuk u ndoqën në këtë incident.

Wikimedia gjeti gjithashtu dy probleme të tjera të lidhura me agjentët e OpenAI, duke përfshirë përpjekjet e pasuksesshme për të kompromentuar Etherpad – një mjet për mbajtjen e shënimeve që organizata e ofron si një shërbim për komunitetin.

“Agjentët u përpoqën pa sukses ta përdorin atë për të marrë të dhëna nga faqet e tjera të internetit si një ndërmjetës. Agjentë të tjerë, të cilët ka të ngjarë të operohen nga OpenAI, morën shënime rreth detyrave të tyre, megjithëse kjo nuk duket se u shndërrua në koordinim”, tha Wikimedia. Fondacioni vuri në dukje se agjentët e OpenAI janë parë duke kompromentuar platformat publike për të komunikuar me njëri-tjetrin.

Wikimedia shtoi se agjentët e operuar nga OpenAI bënë gjithashtu miliona kërkesa automatike për të aksesuar njohuritë mbi projektet e Wikimedia-s, kërkuan miliona faqe dhe bënë qindra mijëra pyetje për të dhëna në faqe — duke kontribuar potencialisht në një ndërprerje të pjesshme të një shërbimi të Wikimedia-s në maj.

OpenAI nuk iu përgjigj kërkesave për koment. Wikimedia tha se filloi hetimin pasi raportet e fundit zbuluan se agjentë të dyshuar “mashtrues” të inteligjencës artificiale u përpoqën të hynin në faqet e internetit dhe shërbime të tjera online për t’i përdorur ato për detyra të palidhura.

Raporte të reja vazhdojnë të dalin çdo javë që detajojnë mënyrat se si agjentët e inteligjencës artificiale keqpërdorin platformat , shkelin sistemet qeveritare dhe qasen në të dhëna të ndjeshme.

Në një seancë dëgjimore në Senat javën e kaluar, shumë anëtarë nga të dyja partitë hodhën idenë që kompanitë e inteligjencës artificiale duhet të jenë përgjegjëse për dëmin që shkaktojnë agjentët e tyre.

Wikimedia tha se aktiviteti që vëzhgoi mund të jetë i vështirë për t’u përballur për shumë platforma interneti, duke pasur parasysh se ato mund të mos kenë stafin ose fondet për të përballuar hetimet ose përpjekjet e rimëkëmbjes.

“Për një faqe si Wikipedia, agjentët mund të gjejnë dhe përdorin dobësi sigurie ose të bëjnë ndryshime mashtruese në shkallë të gjerë. Redaktorët vullnetarë të Wikipedia-s dhe ekipet e sigurisë së Fondacionit Wikimedia duhet ta zbulojnë dhe ta zhbëjnë atë aktivitet”, tha organizata jofitimprurëse.

Hetimi i Wikimedias nuk gjeti prova që agjentët e OpenAI përdorën faqet e saj për të koordinuar ose vjedhur informacione nga organizata.

Por Wikimedia tha se është e shqetësuar nga ajo që zbuloi hetimi dhe shprehu shqetësim për sasinë e përpjekjeve që u desh për të zbuluar aktivitetin.

Organizata jofitimprurëse tha se punonjësve të saj u është dashur gjithnjë e më shumë të “pastrojnë rrëmujën e lënë pas nga agjentët e inteligjencës artificiale” dhe tani po shohin rritje të mëdha të përdorimit të bandwidth-it për shkak të aktivitetit të botëve.

Javën e kaluar, studiuesit thanë se agjentët e OpenAI mblodhën të dhëna nga më shumë se 50 faqet e internetit të organizatave të sektorit privat dhe publik gjatë një periudhe gjashtëmujore në fillim të këtij viti.

Wikimedia tha se OpenAI duhet të “pranojë përgjegjësinë e saj për të monitoruar dhe parandaluar këto rreziqe”.

“Kompanitë e inteligjencës artificiale nuk po bëjnë mjaftueshëm për të siguruar sistemet e tyre dhe për të mbrojtur publikun nga dëmi që shkaktojnë. Kjo barrë po bie mbi të gjithë të tjerët, përfshirë organizatat më të vogla”, tha Wikimedia. “Së paku, sistemet e tyre duhet të funksionojnë në një mënyrë që pronarët e faqeve të internetit jofitimprurëse si ne të mund t’i identifikojnë lehtësisht dhe të zgjedhin se si bashkëveprojnë me shërbimet tona.”

Në një intervistë të hënën, drejtori ekzekutiv i OpenAI, Sam Altman, i tha Politico se bota “duhet të pranojë që disa gjëra të këqija po ndodhin për përfitimet e kësaj teknologjie”.