OpenAI ndalon llogaritë e përdorura për të zhvilluar mjete kineze të mbikëqyrjes që synojnë Perëndimin

OpenAI thuhet se ka ndaluar disa llogari që ishin të lidhura me një mjet kinez të mbikëqyrjes. Këto llogari po përdornin ChatGPT për të krijuar hapa shitjesh dhe për të korrigjuar kodin për një asistent të AI për të mbledhur të dhëna në kohë reale mbi protestat kundër Kinës që ndodhin në vendet perëndimore, si SHBA dhe MB.

Sipas një raporti nga Bloomberg, hetuesi kryesor i OpenAI, Ben Nuimmo, tha se kompania po përpiqet të hedhë dritë mbi mënyrën se si regjimet autoritare si Kina mund të përpiqen të përdorin teknologjinë e ndërtuar nga SHBA kundër SHBA-së dhe aleatëve të saj.

“Kjo është një paraqitje mjaft shqetësuese në mënyrën se si një aktor jodemokratik u përpoq të përdorte AI demokratike ose me bazë në SHBA për qëllime jodemokratike, sipas materialeve që po krijonin vetë.

OpenAI tha më tej se këto llogari kishin referuar edhe mjete të tjera të AI, duke përfshirë një version të Llama, i cili është modeli i AI me burim të hapur i zhvilluar nga Meta. Nga ajo që OpenAI mund të hetonte, duket se softueri i mbikqyrjes u quajt “Qianyue Overseas Public Opinion AI Assistant”, megjithëse nuk u verifikua nëse ishte vendosur apo jo.

Në raportin e tij, OpenAI tha se politikat e saj përfshijnë parandalimin e përdorimit të mjeteve të AI nga regjimet autoritare për të grumbulluar pushtet dhe për të kontrolluar qytetarët e tyre.

“Ne besojmë se të sigurohemi se AI përfiton sa më shumë njerëz të mundshëm do të thotë të mundësosh AI përmes rregullave të arsyeshme që synojnë mbrojtjen e njerëzve nga dëmtimet aktuale dhe ndërtimin e AI demokratike.

Kjo përfshin parandalimin e përdorimit të mjeteve të AI nga regjimet autoritare për të grumbulluar pushtet dhe për të kontrolluar qytetarët e tyre, ose për të kërcënuar ose detyruar shtetet e tjera; si dhe aktivitete të tilla si operacionet e influencës së fshehtë (IO), shfrytëzimi i fëmijëve, mashtrimet, mesazhet e padëshiruara dhe aktiviteti kibernetik me qëllim të keq.”

Softueri u krijua për të identifikuar temat dhe bisedat në internet në vendet perëndimore për të drejtat e njeriut në Kinë dhe tema të tjera kundër Kinës, nga faqet e internetit të mediave sociale si X, Facebook dhe Instagram, dhe për t’i dërguar këto raporte mbikqyrje autoriteteve kineze, agjentëve të inteligjencës dhe stafit në ambasadat kineze.

OpenAI ka paralajmëruar qeverinë amerikane për një kohë të gjatë, veçanërisht pasi DeepSeek vodhi shfaqjen me modelin e tij të arsyetimit R1, i cili tejkaloi shumë modele të tjera të prodhuara në SHBA në standarde dhe shkaktoi kërdi në tregjet amerikane. OpenAI akuzoi DeepSeek për distilimin e prodhimit të modeleve të tij dhe se kompanitë kineze mund të vidhnin të dhëna pronësore nga kompanitë amerikane.