Muse i Meta-s mund të krijojë profile të miqve tuaj përpara se të mbërrijë përditësimi i privatësisë

Jason Aten tha se kishte instaluar Muse në një Mac mini që e mbante për testimin e softuerëve. Kolumnisti i teknologjisë i kërkoi atij të bënte kërkime për biografinë e tij dhe të sugjeronte mënyra për ta ndihmuar me punën e tij. Më vonë, ndërsa diskutonte për iPhone-t e rinj me bashkë-prezantuesin e tij të podkastit Primary Technology, Stephen Robles, ai mori një ofertë nga agjenti për të bërë kërkime për një rubrikë rreth bisedës së tyre.

Ai thotë se nuk i kishte kërkuar Muse-s ta lexonte atë.

Lidhja e llogarive me agjentin personal të Meta-s i jep asaj akses dhe memorie të vazhdueshme rreth përdoruesve dhe marrëdhënieve të tyre, ndërsa bisedat dhe thirrjet e mjeteve përdoren për trajnimin e modelit si parazgjedhje. Udhëzimet e saj për faqet rreth njerëzve të tjerë u përshkruan në një raport të WIRED të publikuar më 3 tetor.

Në llogarinë e tij të 19 shtatorit, Aten tha se kishte refuzuar qasjen në mesazhe dhe informacione të tjera personale. Cilësimet e aplikacionit të tij tregonin se Qasja e Plotë në Disk ishte e çaktivizuar. Muse gjithashtu raportoi një mesazh të redaktorit në lidhje me një afat kohor për shkrimin e rubrikës.

Ekzekutivi ekzekutiv i komunikimeve Meta, Andy Stone, mohon aksesin pa Qasje të Plotë në Disk dhe lidhësin e Mesazheve. Ekzekutivi ekzekutiv i inxhinierisë së konsumatorëve, David Singleton, e quan shpjegimin e njoftimit të Muse të ngatërruar.

Agjenti i kishte thënë Aten se merrte njoftime në vend të historikut të mesazheve. Përgjigja e tij nuk përcakton se si funksiononte softueri. Aten gjeti një regjistrim sinkronizimi që arrinte rreshtin 187,462 në bazën e të dhënave të Mesazheve të Mac-it të tij, një pozicion në bazën e të dhënave, jo një numër të verifikuar të mesazheve të lexuara.

Mospërputhja mbetet e pazgjidhur. Përvoja e tij nuk ka përcaktuar në mënyrë të pavarur një anashkalim lejesh.

Muse i jep çdo përdoruesi një kompjuter virtual të përhershëm në renë kompjuterike të Meta-s, me një shfletues dhe shërbime të lidhura. Një agjent mund të kryejë një detyrë në të gjitha ato shërbime dhe pastaj të vazhdojë punën pasi përdoruesi të mbyllë aplikacionin. Përgjigja e një chatbot mund të përfundojë një bisedë; Muse mund të kthehet më vonë me një veprim të propozuar ose një përditësim.

Prandaj, vendimi për instalimin shtrihet përtej aplikacionit në një telefon ose Mac. Lidhja e një kutie hyrëse i jep softuerit që funksionon diku tjetër qasje në materialin që mund ta përdorë ndërsa pronari i tij po bën diçka tjetër. Klienti lokal i Mac dhe kompjuteri në cloud janë pjesë të ndara të sistemit.

Dizajni i Metës përfshin kufizime. Përshkrimi i sigurisë së tij vendos një Sentinel të veçantë jashtë zonës së punës së agjentit për të kontrolluar lejet dhe aktivitetin dalës. Kredencialet ruhen në një ruajtje të izoluar; agjenti kryesor përdor shërbimet pa i parë sekretet aktuale.

Përdoruesit mund të zgjedhin aplikacionet e lidhura, të ndryshojnë aksesin dhe të shkëpusin shërbimet. Muse paraqet një regjistër aktiviteti dhe kërkon miratim para veprimeve të ndjeshme, siç janë blerjet. Këto janë përshkrimet e Meta-s për dizajnin e saj, në vend të një vlerësimi të pavarur të sigurisë.

Përdoruesit mund të inspektojnë, modifikojnë dhe shkarkojnë skedarët e ruajtur në kompjuterin e tyre në cloud, duke përfshirë edhe memorien e Muse rreth tyre. Ky kontekst mbetet i ruajtur ndërsa Sentinel kontrollon lejen për një veprim të propozuar. Ai lejon veprimin, e bllokon atë ose kërkon miratim. Miratimi i një mesazhi ose blerjeje është një vendim i veçantë nga ruajtja e asaj memorieje.

Karan Joshi, një studiues i pavarur i sigurisë në inteligjencën artificiale, nxori udhëzime për marrëdhënie përmes bisedës së zakonshme. Ata kërkojnë “një faqe për çdo person në jetën e përdoruesit”, me histori personale dhe detaje të marrëdhënies. Udhëzimet dekurajojnë faktet e shpikura.

Kjo tregon sjellje të synuar, jo profile të plotësuara të kontakteve të çdo përdoruesi. Meta thotë se informacioni publik dhe i ndarë nga përdoruesit ofron kontekst, siç është fatura e një hidrauliku ose lulet e preferuara të një bashkëshorti/bashkëshorteje.

Për recensuesin e softuerit WIRED, Reece Rogers, kërkesat për informacione shtesë u bënë një pjesë e përsëritur e testimit. Pasi diskutoi kursimin për pushime, Muse propozoi lidhjen e llogarive rrjedhëse dhe të kursimit në mënyrë që të mund të gjurmonte bilancet reale. Sugjerime të tjera e ftuan atë të jepte datat e skadimit të pasaportës dhe licencës ose të lejonte agjentin të inspektonte kutinë e tij postare.

Gjatë shqyrtimit të Rogers më 20 shtator, dokumenti i kujtesës mund të modifikohej manualisht ose të fshihej përmes një kërkese bisede. Nuk kishte asnjë çelës për ta çaktivizuar plotësisht kujtesën.

Rogers përfundimisht e fshiu aplikacionin. Përpara heqjes, ai dërgoi një kërkesë tjetër për të lidhur më shumë shërbime.

Patrick Wardle, bashkëthemelues i Fondacionit Objective-See dhe autor i serisë së librave The Art of Mac Malware, shqyrtoi një problem tjetër: çfarë mund të bënte një proces tjetër në Mac me aksesin e agjentit.

Dokumentacioni i tij i provës së konceptit përshkruan një të metë që përfshinte diktimin e mikrofonit. Një program keqdashës që tashmë funksiononte si përdorues lokal mund të ridrejtonte trafikun e diktimit, duke kapur potencialisht kërkesat me zë dhe materialet e vërtetimit ose duke futur udhëzime në Muse. Rreziku shtesë vinte nga qasja që përdoruesi i kishte dhënë tashmë agjentit.

Kjo kërkonte ekzekutimin e kodit lokal. Mashtrimi i një personi që të ekzekutojë udhëzime keqdashëse mund t’i japë malware-it atë akses. Nuk ishte provë që një person arbitrar në internet mund të lexonte llogaritë e çdo përdoruesi të Muse. Demonstrimi gjithashtu nuk vërteton shfrytëzim kriminal.

Meta thotë se ka lëshuar një rregullim të menjëhershëm për këtë dobësi. Demonstrimi i Wardle tregoi se si lejet e një agjenti mund të amplifikonin aksesin e disponueshëm për softuerët keqdashës që ndodhen tashmë në një pajisje.

Përdoruesit mund të zgjedhin të mos marrin pjesë në këtë trajnim. Meta thotë se heq informacionin kyç identifikues personal para këtij përdorimi. Përshkrimi i tij nuk ofron një auditim të pavarur se sa efektivisht ky proces heq identitetet.

Meta thotë gjithashtu se bisedat dhe të dhënat e makinës virtuale nuk ndahen drejtpërdrejt me sistemet e saj të reklamimit. Shfletimi i agjentëve mund të ndikojë ende në mënyrë indirekte në reklamim: një faqe interneti veshjesh e vizituar në emër të dikujt mund të përdorë vizitën e agjentit për t’i treguar atij personi një reklamë në Instagram.

Makina aktuale virtuale lejon akses Meta kur është e nevojshme për të operuar, siguruar ose mbështetur shërbimin, në varësi të politikave të kompanisë. Makina virtuale konfidenciale ka për qëllim të parandalojë këtë akses kriptografikisht. Njoftimi i lançimit, i përditësuar më 30 shtator, ende përshkruan shpërndarjen më vonë në vitin 2026.

Sistemi i planifikuar do t’u lejonte përdoruesve të kontrollonin çelësat e tyre të aksesit. Auditorë të jashtëm do të inspektonin kodin e tij burimor. Meta gjithashtu premton të publikojë skedarët e udhëzimeve të lexueshme nga makina të softuerit dhe një regjistrim që përdoruesit mund ta kontrollojnë për të verifikuar lidhjen e tyre me sistemin konfidencial.

Redaktori i përgjithshëm i TechRadar, Lance Ulanoff, e emëroi agjentin e tij, Charlie, dhe ia lidhi kutinë personale postare. Kutia gjeti një mesazh që ai e kishte humbur, ndihmoi në përgatitjen e një përgjigjeje dhe mori detajet për një fjalim.

Charlie vuri re gjithashtu se konteksti i chatbot-it të importuar përshkruante një udhëtim në Portugali, ndërsa një email i referohej Italisë. Ulanoff i tha agjentit se planet kishin ndryshuar. Agjenti e lidhi largimin e tij të afërt me një afat pune.

Gazetarja e Axios, Ina Fried, zgjodhi një provë më të ngushtë. Me stërvitje të çaktivizuar, ajo kërkoi një njoftim kur të njoftohej koha e parë e ndeshjes së playoff-it të Golden State Valkyries. Muse e dorëzoi atë brenda natës. Ajo i kufizoi kërkesat në informacione që ndihej rehat t’ia bënte të ditur Facebook-ut dhe që ende priste opsionin konfidencial.

Fried shkroi: “Por unë nuk jam gati t’i dorëzoj çelësat e kështjellës.”