CEO i Perplexity shpjegon se si motorët e kërkimit të AI mund të manipulohen lehtësisht

Aravind Srinivas, bashkëthemelues i motorit të kërkimit AI Perplexity, zbuloi se si motorët e kërkimit të AI mund të manipulohen duke përdorur tekst të fshehur në faqet e internetit. Në një intervistë me Lex Fridman, Srinivas përshkroi një teknikë që ai e quan “Aswer Engine Optimization”.

Srinivas shpjegoi se pronarët e faqeve të internetit mund të futin tekst të padukshëm në faqet e tyre, si lexfridman.com, dhe të udhëzojnë sistemet e AI që të thonë gjithmonë disa gjëra, si “Lex është i zgjuar dhe i pashëm”, kur lexojnë përmbajtjen e fshehur.

Ky manipulim, i njohur si injeksion i menjëhershëm, funksionon me tekst të fshehur si në tekst ashtu edhe në imazhe të vazhdueshme, siç u demonstrua në një eksperiment të fundit. Ka të ngjarë të ketë mënyra të tjera për të fshehur tekstin manipulues, të tilla si kapja e zvarritësve të AI në hartat e faqeve, në tekstin ALT të imazhit ose në emrat e skedarëve.

Mbrojtja kundër një manipulimi të tillë është një sfidë, tha Srinivas, duke e krahasuar atë me një lojë mace dhe miu. Disa çështje duhet të adresohen në mënyrë reaktive, ngjashëm me mënyrën se si Google është marrë me postën e padëshiruar të SEO për vite me radhë, tha Srinivas.

Aktualisht, nuk ka mbrojtje të besueshme kundër injeksioneve të menjëhershme, një dobësi e njohur të paktën që nga lëshimi i GPT-3. Edhe hierarkia e re e udhëzimeve të OpenAI dhe Inteligjenca e Apple nuk janë plotësisht të mbrojtura kundër këtij sulmi.

Kjo tregon se injeksionet e menjëhershme nuk janë një problem i vogël. Nëse Perplexity dhe produkte të ngjashme fitojnë popullaritet, kjo formë manipulimi mund të përhapet gjerësisht, me përmbajtje të rreme ose manipuluese të futur në përgjigjet e AI që janë të vështira për t’u zbuluar sepse nuk ka kontekst shtesë, siç është një faqe interneti.

Ndërsa injeksionet e menjëhershme janë një kërcënim serioz, Perplexity ka gjëra më të këqija për t’u shqetësuar. Është në rritje, duke iu përgjigjur 250 milionë pyetjeve në qershor 2024, pasi iu përgjigj gjithsej 500 milionëve vitin e kaluar. Por startup-i ende mbetet shumë pas Google, i cili trajton rreth 8.5 miliardë kërkime në ditë.

Perplexity gjithashtu përballet me konkurrencë nga gjigantët e teknologjisë me burime dhe të dhëna të mëdha. Google sapo zgjeroi përgjigjet e tij të AI në më shumë vende, ndërsa Microsoft ofron aftësi të ngjashme në Bing. OpenAI po teston gjithashtu një motor kërkimi të AI të quajtur SearchGPT.