OpenAI ndihmon spamuesit të mbushin 80,000 faqe me mesazhe që shmangën filtrat

Spammers përdorën OpenAI për të gjeneruar mesazhe që ishin unike për çdo marrës, duke i lejuar ata të anashkalojnë filtrat e zbulimit të spamit dhe të shpërndajnë mesazhe të padëshiruara në më shumë se 80,000 faqe interneti në katër muaj, thanë studiuesit të mërkurën.

Gjetja, e dokumentuar në një postim të publikuar nga firma e sigurisë SentinelOne’s SentinelLabs, nënvizon shpatën me dy tehe të përdorura nga modelet e mëdha gjuhësore. E njëjta gjë që i bën ata të dobishëm për detyra beninje – gjerësia e të dhënave të disponueshme për ta dhe aftësia e tyre për t’i përdorur ato për të gjeneruar përmbajtje në shkallë – shpesh mund të përdoret në aktivitete me qëllim të keq po aq lehtë. OpenAI revokoi llogarinë e spammers në shkurt.

Shpërthimi i postës së padëshiruar është puna e AkiraBot—një kornizë që automatizon dërgimin e mesazheve në sasi të mëdha për të promovuar shërbimet e optimizimit të kërkimit në hije në faqet e internetit të vogla dhe të mesme. AkiraBot përdori skriptet e bazuara në python për të rrotulluar emrat e domeneve të reklamuara në mesazhe. Ai përdori gjithashtu API-në e chat-it të OpenAI-t të lidhur me modelin gpt-4o-mini për të gjeneruar mesazhe unike të personalizuara për çdo sajt që dërgoi spam, një teknikë që me gjasë e ndihmoi atë të anashkalojë filtrat që kërkojnë dhe bllokojnë përmbajtje identike të dërguar në një numër të madh faqesh. Mesazhet shpërndahen përmes formave të kontaktit dhe miniaplikacioneve të bisedës live të ngulitura në faqet e internetit të synuara.

“Përdorimi i përmbajtjes së mesazheve të padëshiruara të krijuara nga AkiraBot nga LLM tregon sfidat e reja që AI paraqet për mbrojtjen e faqeve të internetit kundër sulmeve të padëshiruara”, shkruajtën studiuesit e SentinelLabs, Alex Delamotte dhe Jim Walter. “Treguesit më të lehtë për t’u bllokuar janë grupi rrotullues i domeneve të përdorura për të shitur ofertat e SEO Akira dhe ServiceWrap, pasi nuk ka më një qasje të qëndrueshme në përmbajtjen e mesazheve të padëshiruara, siç ishte me fushatat e mëparshme që shesin shërbimet e këtyre firmave.”

AkiraBot punoi duke i caktuar rolin e mëposhtëm API-së së bisedës së OpenAI duke përdorur modelin gpt-4o-mini: “Ju jeni një asistent i dobishëm që gjeneron mesazhe marketingu.” Një prompt udhëzoi LLM të zëvendësonte variablat me emrin e sitit të dhënë në kohën e ekzekutimit. Si rezultat, trupi i çdo mesazhi emëronte faqen e internetit të marrësit me emër dhe përfshinte një përshkrim të shkurtër të shërbimit të ofruar prej tij.

“Mesazhi që rezulton përfshin një përshkrim të shkurtër të faqes në internet të synuar, duke e bërë mesazhin të duket i kuruar,” shkruajnë studiuesit. “Përfitimi i gjenerimit të çdo mesazhi duke përdorur një LLM është se përmbajtja e mesazhit është unike dhe filtrimi kundër postës së padëshiruar bëhet më i vështirë në krahasim me përdorimin e një modeli të qëndrueshëm mesazhi që mund të filtrohet në mënyrë të parëndësishme.”

SentinelLabs mori skedarët e regjistrit AkiraBot të lënë në një server për të matur shkallët e suksesit dhe dështimit. Një skedar tregoi se mesazhet unike ishin dorëzuar me sukses në më shumë se 80,000 faqe interneti nga shtatori 2024 deri në janar të këtij viti. Për krahasim, mesazhet që synonin afërsisht 11,000 domene dështuan. OpenAI falënderoi studiuesit dhe përsëriti se një përdorim i tillë i chatbot-eve të tij bie ndesh me kushtet e shërbimit të tij.