OpenAI prezanton Lockdown Mode për mbrojtje shtesë kundër sulmeve me ‘prompt injection’

OpenAI ka filluar të lançojë Modalitetin e Lockdown, një cilësim opsional sigurie i projektuar për t’u ofruar përdoruesve mbrojtje të avancuar nga sulmet e injektimit të shpejtë. Për ata që nuk janë të njohur, injektimi i shpejtë është një formë e inxhinierisë sociale që është specifike për chatbot-et bisedorë. Ndërsa sistemet e inteligjencës artificiale janë bërë më të mira në nxjerrjen e informacionit nga interneti, njerëzit kanë filluar të fshehin udhëzime keqdashëse në faqet e internetit dhe vende të tjera për të provuar t’i mashtrojnë ato sisteme.

OpenAI e paraqet Lockdown Mode si një lloj linje të fundit mbrojtjeje kundër injektimeve të menjëhershme, duke u bazuar në mbrojtjet e fuqishme që thotë se tashmë ofron përmes ChatGPT, modeleve dhe sistemeve të saj backend. “Lockdown Mode nuk është menduar për të gjithë,” shpjegon OpenAI. “Është projektuar për njerëz dhe organizata që merren me të dhëna të ndjeshme dhe duan mbrojtje më të rreptë nga rreziqet e nxjerrjes së të dhënave që lidhen me injektimin e menjëhershëm.”

Për këtë qëllim, aktivizimi i Modalitetit të Bllokimit kufizon disa nga veçoritë që ofron OpenAI përmes ChatGPT dhe produkteve të tjera të tij. Për shembull, ju ende mund të përdorni gjenerimin e imazheve dhe të ngarkoni foto në ChatGPT, por ai mund të mos tërheqë imazhe nga interneti ose të shfaqë ndonjë imazh brenda një përgjigjeje. Chatbot gjithashtu nuk mund të shkarkojë skedarë për të analizuar, megjithëse ju ende mund të ngarkoni manualisht dokumente nëse dëshironi njohuritë e tij. Karakteristika të tjera, të tilla si Kërkimi i Thellë dhe Modaliteti i Agjentit, janë çaktivizuar plotësisht. “Modaliteti i Bllokimit nuk ndryshon kujtesën, ngarkimet e skedarëve, aftësinë për të ndarë një bisedë ose nëse bisedat tuaja mund të përdoren për të përmirësuar modelet”, shton OpenAI. “Shumë nga këto cilësime mund të konfigurohen veçmas nga administratorët e hapësirës së punës.”

Kompania gjithashtu vëren se Modaliteti i Bllokimit nuk do të ndalojë shfaqjen e injeksioneve të menjëhershme në proceset e përmbajtjes së ChatGPT. Në vend të kësaj, është projektuar për të parandaluar një sulmues nga nxjerrja e të dhënave të ndjeshme nga llogaria juaj duke kufizuar kërkesat e rrjetit që dikush mund të shfrytëzojë. Modaliteti i Bllokimit është i disponueshëm për të gjitha llogaritë personale, duke përfshirë ato që përdorin ChatGPT përmes nivelit falas të OpenAI. Për ta aktivizuar, hapni menynë e cilësimeve të ChatGPT dhe zgjidhni Siguria dhe mbrojtja. Nën Sigurinë e Avancuar, prekni Modalitetin e Bllokimit dhe aktivizoni butonin. Mund ta çaktivizoni përkohësisht mbrojtjen shtesë duke zgjedhur Menaxho nga mesazhi i statusit që shfaqet mbi dritaren e bisedës dhe duke zgjedhur Çaktivizo për këtë bisedë. 

Veçmas, OpenAI po lançon një menaxher aktiv sesioni që u lejon përdoruesve të shohin çdo pajisje ose shfletues që është përdorur për të hyrë në llogarinë e tyre. Nga aty, kompania ofron mundësinë për të dalë nga seancat individuale ose të gjitha menjëherë. Vetëm vini re se kjo e fundit mund të zgjasë deri në 30 minuta për t’u përfunduar. “Nëse dyshoni për aktivitet të paautorizuar në llogari, ndryshoni fjalëkalimin tuaj nëse përdorni një të tillë, rishikoni metodat e hyrjes dhe kontaktoni Ndihmën e OpenAI”, shton kompania.