OpenAI i njofton Australisë pas disa javësh për shkeljen e të dhënave të Medicare

“Modelet tona ndërmorën veprime që nuk i kishim ndërmend”, tha një zëdhënës i OpenAI.

OpenAI-t iu deshën javë të tëra për të informuar Australinë se agjentët e saj kishin hakuar një faqe interneti qeveritare – një pranim që vjen ndërsa gjigandi i teknologjisë njëkohësisht nxit për një siguri më të gjerë të IA-së.

Në incidentin e fundit kibernetik të OpenAI që ka dalë në dritë, agjentët e kompanisë fituan akses të paautorizuar në një portal statistikash të kujdesit shëndetësor të administruar nga agjencia e mirëqenies së qeverisë australiane.

Inteligjenca Artificiale ka aksesuar dosje publike dhe jopublike, si dhe ka rishkruar dosje të brendshme, tha kryeministri Anthony Albanese për shtypin në Asamblenë e Përgjithshme të Kombeve të Bashkuara në Nju Jork dje (23 shtator). Asnjë informacion personal nuk kuptohet të jetë kompromentuar në këtë pikë.

Australia ka nisur një hetim mjeko-ligjor në përgjigje të kësaj çështjeje dhe ka ngritur një grup pune për të shqyrtuar çështjen. Qeveria po përcakton gjithashtu nëse ka ndodhur ndonjë krim, tha Albanese.

Agjentët e OpenAI hynë në mënyrë të paligjshme në portalin e raportimit të statistikave për skemën universale të sigurimeve shëndetësore të Australisë, Medicare, tha Albanese për shtypin.

Incidenti ndodhi më 18 qershor kur ekipi kërkimor i OpenAI përdori një model të brendshëm për të kryer kërkime në internet mbi shpenzimet publike të mjekësisë. Agjentët u përballën me bllokime kur përpiqeshin të hynin në të dhëna nga Medicare, por i anashkaluan ato. Ata “nuk pranuan ‘jo’ si përgjigje”, tha Albanese.

Ai shtoi se tre sisteme të tjera qeveritare mund të jenë prekur, përfshirë Institutin Australian të Shëndetit dhe Mirëqenies, Byronë e Statistikave dhe Kërkimeve të Krimit të Uellsit të Ri Jugor dhe Departamentin e Shëndetësisë të Viktorias.

Hulumtimet e pavarura kanë treguar tashmë se agjentët e përparuar të inteligjencës artificiale, si ata nga OpenAI dhe Anthropic, mund të ndërmarrin veprime të rrezikshme dhe mashtruese pa ndonjë nxitje specifike.

“Kjo situatë është padyshim e papranueshme”, tha kryeministri. “Fola me drejtorin ekzekutiv të OpenAI, Sam Altman, për të shprehur shqetësimin ekstrem të Australisë në lidhje me këtë incident.”

Altman iu drejtua Këshillit të Sigurimit të Kombeve të Bashkuara të mërkurën, duke lavdëruar përfitimet e inteligjencës artificiale, ndërsa paralajmëroi për abuzimet e mundshme të saj.

Një zëdhënës i OpenAI u tha mediave se kompania e zbuloi incidentin e shkeljes vetëm në gusht, pas kontrolleve të gjera mbi aktivitetin e modeleve të saj.

Gjigandi i inteligjencës artificiale më pas mori javë të tëra për të informuar qeverinë australiane për incidentin kibernetik; kur erdhi njoftimi, ai ishte në formën e një email-i të dërguar në kutinë postare publike më 10 shtator. Kjo çoi në një vonesë të mëtejshme pesë-ditore në informimin e autoriteteve përkatëse.

Albanese tha se ndau zhgënjimin e tij me Altmanin për vonesën dhe mënyrën se si kompania informoi qeverinë e tij.

“Gjatë shqyrtimit, ne identifikuam aktivitete që përfshinin disa faqe interneti dhe shërbime të qeverisë australiane, ndërsa modelet tona përpiqeshin të kërkonin përgjigje dhe statistika të disponueshme për pyetje rreth Australisë gjatë një vlerësimi të brendshëm”, tha zëdhënësi i OpenAI.

“Gjatë kësaj, modelet tona ndërmorën veprime që nuk i kishim ndërmend.”

Kompania tha se nuk gjeti asnjë të dhënë pacientësh që të ishte aksesuar në shkeljen e Medicare.