AI-ja e Google disi e dinte një sekret të lojës që ekzistonte vetëm në një dokument privat të Google
Pasi një lojtar pyeti inteligjencën artificiale të Google-it për përmbajtje të papublikuar në lojën e tij, një zhvillues i pavarur thotë se i ktheu një emër personazhi që ekzistonte vetëm në një dokument privat të Google. Klub Kofta Studio, zhvilluesi solo pas lojës së mbrojtjes nga kulla Operation Octo, tha se personazhi, i quajtur Vantage Tripod, nuk ishte njoftuar ose ndarë me askënd.
Problemi filloi në serverin Discord të lojës, ku një lojtar po i bënte pyetje inteligjencës artificiale të Google në lidhje me Operation Octo. Përgjigjet ndonjëherë përfshinin detaje që zhvilluesi i konsideronte jashtëzakonisht specifike për një lojë të vogël.
Zhvilluesi më pas i kërkoi lojtarit të provonte pyetje rreth përmbajtjes që nuk ishte zbuluar. Sipas një postimi në Reddit nga Klub Kofta Studio, inteligjenca artificiale e Google-it ia ktheu emrin Vantage Tripod.
“Në një farë mënyre, inteligjenca artificiale nxori emrin e saktë dhe shumë specifik të personazhit ‘Vantage Tripod’, të cilin unë nuk ia kisha përmendur kurrë askujt”, shkroi zhvilluesi. “Për aq sa di unë, i vetmi vend ku informacioni ekziston në formë dixhitale është brenda njërit prej Dokumenteve të mia të Google, dhe ky NUK isha unë që po i flisja inteligjencës artificiale!”
Operation Octo u publikua në Steam në shtator 2025. Zhvilluesi tha se prania e kufizuar në internet e lojës e bëri përgjigjen më alarmante, jo më pak.
“Loja ime nuk është aq e madhe sa të ketë shumë zhurmë për të ngatërruar inteligjencën artificiale të Google, kështu që mendoj se kjo është arsyeja pse arriti të japë informacione të vërteta, të frikshme dhe të vërteta mbi lojën time (pa u ngatërruar nga spekulimet online), dhe nuk kam asnjë ide se si i dinte të gjitha këto”, shkroi zhvilluesi.
Zhvilluesi më vonë i tha Polygon se emri i personazhit nuk ishte përfshirë në kodin, skedarët ose të dhënat e lojës në Steam.
Google tha se nuk përdor materiale private të Workspace, duke përfshirë skedarët Drive dhe Docs, për të trajnuar modelet e saj themelore të IA-së, duke përfshirë Gemini. Kompania tha se dokumentet e ndara publikisht mund të indeksohen nëse lidhjet shfaqen në internet ku shfletuesit e kërkimit mund t’i gjejnë ato. Ajo gjithashtu vuri në dukje kontrollet e ndarjes së Google Drive, të cilat u lejojnë përdoruesve të vendosin se kush mund të hyjë në skedarë individualë.
Provat në dispozicion nuk përcaktojnë se si inteligjenca artificiale e Google e prodhoi emrin e personazhit. Ai nuk mund të rikrijohej në mënyrë të pavarur pasi postimi në Reddit qarkulloi. Zhvilluesi tha se kërkimet e mëvonshme filluan ta kthenin emrin, duke cituar postimin në Reddit si burim.
“Do të doja të thoja se rasti im specifik nuk mund të përsëritet më dhe inteligjenca artificiale thjesht do të jepte emrin ‘Vantage Tripod’ dhe më pas do të tregonte postimin në Reddit si burim tani,” tha zhvilluesi.
Kjo e bën më të vështirë ndarjen e përgjigjes origjinale nga ajo që IA tani mund të marrë nga rrjeti publik. Pasi një pretendim shfaqet në një postim të shpërndarë gjerësisht, produktet e kërkimit të IA-së mund ta citojnë atë postim përsëri te përdoruesit, edhe nëse përgjigjja origjinale mbetet e pashpjeguar.
Përmbledhjet e IA-së të Google kanë përdorur gjithnjë e më shumë materiale nga Reddit në rezultatet e kërkimit. Kjo mund të jetë e dobishme kur përdoruesit kërkojnë diskutime të drejtpërdrejta, por gjithashtu mund të krijojë probleme kur postimet përmbajnë thashetheme, shaka ose pretendime të pambështetura.
Përgjigjet e kërkimit të gjeneruara nga inteligjenca artificiale mund të manipulohen gjithashtu. Një YouTuber vitin e kaluar bindi kërkimin me inteligjencë artificiale të Google të përsëriste një pretendim të rremë se Grand Theft Auto 6 do të kishte një “buton twerk”.
Për zhvilluesit, ky rast është një kujtesë se informacioni i papublikuar i projektit mund të jetë i vështirë për t’u përmbajtur pasi të arrijë në një përgjigje publike të IA-së ose në një diskutim online. Gjithashtu ngre një pyetje themelore për sistemet e kërkimit të IA-së: kur një përgjigje përfshin informacion të paqartë, përdoruesit kanë nevojë për një mënyrë të qartë për të ditur nëse ai ka ardhur nga një burim i besueshëm, një dokument publik apo vetë modeli.