OpenAI synon t’i kalojë Anthropic me masa të reja për mbrojtjen e privatësisë së klientëve

Ndërsa modelet e inteligjencës artificiale janë bërë më të fuqishme, është rritur potenciali që këto modele të keqpërdoren ashtu si edhe kërkesa për mbrojtje sigurie që mund ta ndalojnë një abuzim të tillë. Kompanitë e inteligjencës artificiale tani duhet të ecin në një distancë të ngushtë midis respektimit të privatësisë së klientëve të tyre të ndërmarrjeve dhe monitorimit të përdorimit për probleme të mundshme.

Duke ndjerë një mundësi për të tejkaluar rivalin e saj Anthropic, OpenAI sapo njoftoi një qasje sigurie të përqendruar te privatësia për monitorimin e keqpërdorimit. Kompania po prezanton një shërbim të ri për të zgjedhur klientë, të cilin e quan Përpunimi i Sigurisë Private. Ky është një sistem i automatizuar që vëzhgon abuzimet e mundshme, ndërkohë që njëkohësisht nuk ruan asnjë nga të dhënat e klientit.

Ky sistem bie ndesh qartë me politikën e ruajtjes së të dhënave të shpallur së fundmi nga Anthropic . Politika, e cila ka acaruar disa klientë, i mundëson laboratorit të IA-së të mbajë të dhënat e përdoruesve (të gjitha seancat e tyre – dhe bisedat në to) për një periudhë prej 30 ditësh, kur bëhet fjalë për “modelet e mbuluara”. Këto modele përfshijnë të gjitha modelet e klasës Mythos dhe “modelet e ardhshme me aftësi të ngjashme”, thotë kompania.

Kjo politikë, e cila u njoftua në korrik, u hartua për qëllime sigurie, duke i lejuar laboratorit të shqyrtojë dhe analizojë parregullsitë e mundshme. Megjithatë, ajo ka shqetësuar thellësisht disa ndërmarrje që trajtojnë sasi të mëdha të të dhënave të ndjeshme dhe nuk duan që ato të ruhen (ose inspektohen) nga laboratori i inteligjencës artificiale.

OpenAI — si shumica e kompanive të tjera të IA — u ofron klientëve një nivel relativ të privatësisë duke iu përmbajtur një politike të njohur si Mbajtje Zero e të Dhënave. ZDR përdor agjentë brenda API-t të OpenAI për të monitoruar abuzimin në bazë të seancës. Në këtë mënyrë, të dhënat e klientëve nuk ruhen nga kompania, por kompanitë janë ende në gjendje të skanojnë për aktivitete të këqija pa pasur nevojë për ndërhyrje njerëzore. Vlen të përmendet se Anthropic gjithashtu i përmbahet kryesisht ZDR — përveç kur bëhet fjalë për “modele të mbuluara”, si Fable.

OpenAI thotë se Përpunimi i Sigurisë Private është një teknologji e re që zgjeron fushëveprimin e ZDR-së. E përshkruan atë si një formë të monitorimit të sigurisë në horizont të gjatë që vlerëson të dhënat hyrëse dhe dalëse të bisedave të shumëfishta – jo vetëm të njërës. Përsëri, monitorimi kryhet nga një agjent, i cili, nëse aktivizohet, kap ndërveprimet dhe i analizon ato nëpër seanca për shenja të keqpërdorimit të mundshëm.

Teknologjia e re ndihmon OpenAI të zbulojë përdorimin keqdashës të IA-së që ndodh gjatë seancave të shumëfishta, tha një zëdhënës për TechCrunch. Një aktor i keq – hipotetikisht dikush që përpiqet të krijojë programe keqdashëse për një sulm kibernetik – mund t’i shpërndajë kërkesat e tij për të shmangur zbulimin. Përpunimi i Sigurisë Private mund të analizojë ato biseda të shumëfishta për shenja abuzimi pa shqyrtim njerëzor të bisedave të një përdoruesi.

Në rastin kur sistemi aktivizohet, ai mund të dërgojë një “sinjal të përcaktuar ngushtë” te OpenAI që paralajmëron për një lloj specifik aktiviteti, thotë kompania. Bazuar në atë sinjal, OpenAI mund të vendosë nëse “zbatimi është i nevojshëm”, thotë ajo. Nëse po, OpenAI do të kontaktojë klientin për më shumë kontekst ose për të punuar me ta mbi çështjen dhe një klient mund të zgjedhë të ndajë të dhëna me OpenAI sipas gjykimit të tij, tha zëdhënësi.

Në të kundërt, Anthropic vëren se rishikimi njerëzor i të dhënave të klientëve mund të ndodhë, por vetëm “përmes një rruge të kontrolluar aksesi” që përfshin “një grup të vogël rishikuesish të miratuar”. Secila prej këtyre seancave të rishikimit “regjistrohet në një regjistër të pandryshueshëm që rishikuesit nuk mund ta shtypin ose modifikojnë”, thotë kompania.

Konkurrenca korporative midis OpenAI dhe Anthropic është e tensionuar për momentin, me të dyja kompanitë që kërkojnë çdo mundësi për të fituar një avantazh ndaj njëra-tjetrës. Një raport i kohëve të fundit tregoi se tremujori i dytë i OpenAI u rrit më ngadalë se Anthropic. Shkalla vjetore e të ardhurave të Anthropic thuhet se tani është 65 miliardë dollarë. Investitorët e Anthropic kanë thënë se mund të ketë një ofertë publike fillestare (IPO) prej 2 trilionë dollarësh, ndërsa OpenAI po punon gjithashtu për ofertën e saj publike fillestare (IPO ).