NGL bëhet aplikacioni i parë i ndaluar të presë të mitur nga FTC

Komisioni Federal i Tregtisë dhe Zyra e Prokurorit të Rrethit të Los Anxhelosit kanë ndaluar një aplikacion të diskutueshëm të mesazheve anonim që t’u shërbejë fëmijëve nën 18 vjeç, duke ndërmarrë një hap të paprecedentë dhe agresiv kundër asaj që rregullatorët e quajtën “ngacmim i shfrenuar kibernetik dhe kërcënime kundër fëmijëve dhe adoleshentëve” në platformë.

Ndalimi i synuar është masa më e fundit e FTC në një goditje më të gjerë ndaj kompanive të mediave sociale, ndërmjetësve të të dhënave dhe bizneseve të tjera që dyshohet se keqpërdorin të dhënat e konsumatorit ose bëjnë pretendime të mbipopulluara për inteligjencën artificiale.

Si pjesë e një padie dhe zgjidhjeje të shpallur të martën, aplikacioni i penalizuar – i njohur si NGL – do të paguajë gjithashtu 5 milionë dollarë për të zgjidhur atë që kryetarja e FTC Lina Khan tha se ishte “mospërfillje e pamatur për sigurinë e fëmijëve”. Aplikacioni do të duhet gjithashtu të zbatojë një portë moshe për të bllokuar shërbimet e tij për përdoruesit aktualë dhe të rinj që janë nën 18 vjeç. Rregullatorët shkruan se aplikacioni e konsideronte veten si një “hapësirë ​​të sigurt” për adoleshentët, por, në realitet, ishte pre e tyre.

Përveç nënvizimit të ndjekjes së FTC-së në premtimet e mëparshme për të policuar zhurmën e AI, padia emërton drejtpërdrejt bashkëthemeluesit e kompanisë, duke reflektuar angazhimet e fundit të agjencisë për t’i mbajtur drejtuesit individualë përgjegjës për keqbërjet e korporatave.

Aplikacioni, i njohur si NGL, ishte shkarkuar miliona herë, sipas ankesës. NGL është një shkurtim në internet për “nuk do të gënjejë”.

NGL u tregtua në mënyrë aktive përdoruesve të rinj dhe shkeli ligjet federale që synonin mbrojtjen e të dhënave të fëmijëve, pretendohej në padi, ndërsa punonjësit e saj dyshohet se talleshin me përdoruesit që paguanin si “pinjollë” duke përfituar nga injoranca e tyre.

Në një deklaratë, bashkëthemeluesi i NGL Joao Figueiredo tha se kompania kishte kaluar gati dy vjet duke bashkëpunuar me hetimin e FTC-së, por se ajo kundërshton gjetjet e agjencisë, të cilat u miratuan unanimisht nga komisioni prej pesë anëtarësh.

“Ne e shohim këtë rezolutë si një mundësi për ta bërë NGL më të mirë se kurrë për përdoruesit tanë dhe mendojmë se marrëveshja është në interesin tonë më të mirë,” tha Figueiredo. “Ndërsa ne besojmë se shumë nga pretendimet rreth të rinjve të bazës sonë të përdoruesve janë faktikisht të pasakta, ne parashikojmë që procedurat e dakorduara për përcaktimin e moshës dhe procedurat e tjera tani do të ofrojnë drejtim për të tjerët në hapësirën tonë dhe shpresojmë të përmirësojnë politikat në përgjithësi.”

Marrëveshja duhet të miratohet ende nga Gjykata e Qarkut e SHBA për Qarkun Qendror të Kalifornisë përpara se të hyjë në fuqi.

NGL mashtronte adoleshentët që të abonoheshin në shërbimin e saj premium duke u dërguar atyre mesazhe të rreme, anonime dhe më pas duke premtuar se do të zbulonte dërguesin pasi të paguanin, thuhet në ankesë.

Mesazhet e krijuara nga kompjuteri janë shkruar qëllimisht për të pre e anktheve apo aspiratave sociale të adoleshentëve, thuhet në padi, duke përmendur shembuj të tillë si “Unë e di se çfarë ke bërë” dhe “Unë kam qenë i dashuruar me ty për vite me radhë”.

NGL krijoi më shumë se 1,000 mesazhe të ndryshme të tilla duke u paraqitur si përdorues të vërtetë dhe i dërgoi ato miliona herë për të bindur adoleshentët të paguanin për të parë se kush i dërgoi, thuhet në ankesë. Por kur përdoruesit paguanin për informacione si për mesazhet e rreme ashtu edhe për ato reale, ndonjëherë deri në 9,99 dollarë në javë, aplikacioni nuk e shfaqte emrin e dërguesit, por përkundrazi jepte “sugjerime” të tilla si vendndodhja e përafërt e përdoruesit ose lloji i pajisjes. përdorur, sipas padisë.

Mesazhet filluan të dërgoheshin në vitin 2022, një vit pas lëshimit të dobët të aplikacionit, thuhet në ankesë. Pasi përdoruesit filluan të dyshonin për mesazhet e rreme, shumë prej tyre shkruan komente negative për aplikacionin dhe disa madje e quajtën atë një mashtrim, sipas padisë.

NGL dyshohet se ishte mburrur në marketingun e saj se aplikacioni ishte një “hapësirë ​​e sigurt për adoleshentët” dhe se përdorte moderimin e përmbajtjes së bazuar në AI për të mbrojtur përdoruesit. Në prapaskenë, megjithatë, bashkëthemeluesit e aplikacionit dyshohet se injoruan ose denigruan përdoruesit që u ankuan, me Figueiredo duke iu përgjigjur “lol” në një mesazh të brendshëm ndaj një raporti për një klient të mërzitur, sipas padisë.

Padia dhe zgjidhja janë një shembull tjetër se si Khan, një kritik i zëshëm i industrisë së teknologjisë, e ka bërë rregullimin e të dhënave dixhitale një shenjë dalluese të mandatit të saj.

Përveç paralajmërimit se inteligjenca artificiale gjeneruese mund të “ngarkojë” mashtrime dhe mashtrime, Khan ka propozuar rregulla të shumta që do të shtrëngonin mënyrën se si bizneset mund të mbledhin, përdorin dhe ndajnë të dhënat e konsumatorëve. Njëri do të godasë atë që ajo e quan industrinë e ” mbikëqyrjes komerciale “, ndërsa një tjetër kërkon të zgjerojë zbatimin nga FTC të një ligji historik për privatësinë e fëmijëve.

FTC po kërkon gjithashtu të ndalojë Metën të fitojë para nga të dhënat e fëmijëve, një lëvizje që kompania e ka kundërshtuar në gjykatë. Në vitin 2022, FTC detyroi Epic Games, prodhuesin e videolojës hit “Fortnite”, të paguante 520 milionë dollarë për të zgjidhur akuzat se përdorte truket e fshehta të ndërfaqes së përdoruesit të njohur si “modele të errëta” për të mashtruar përdoruesit për të bërë blerje brenda lojës.

Lëvizja e FTC vjen në sfondin e një sërë legjislacioni shtetëror që kërkon të kufizojë aksesin e të rinjve në mediat sociale. Në një tjetër të parë këtë vit, Nju Jorku miratoi legjislacionin që rregullon algoritmet që fuqizojnë burimet e mediave sociale në Facebook, Instagram, TikTok dhe aplikacione të tjera. Shtetet si Arkansas, Florida, Luiziana dhe shumë të tjera kanë miratuar gjithashtu ligje që shtrëngojnë qasjen e kompanive të mediave sociale ndaj adoleshentëve. Kundërshtarët, megjithatë, thonë se ligjet shkelin të drejtat e Amendamentit të Parë të adoleshentëve dhe Gjykata e Lartë ka rënë dakord të marrë në konsideratë kushtetutshmërinë e kufizimeve të uebsajteve të bazuara në moshë në mandatin e saj të ardhshëm.

Duke theksuar natyrën novatore të zgjidhjes së NGL, komisioneri i FTC Andrew Ferguson e përshkroi veprimin e së martës si një përdorim “të ri” të fuqive ligjore të agjencisë. Për herë të parë, tha ai në një deklaratë, FTC pretendoi se NGL shkeli ligjin “duke marketingun e një aplikacioni të mesazheve anonime për fëmijët dhe adoleshentët, pavarësisht se e dinte se aplikacionet e mesazheve anonime janë të dëmshme për këto grupe”.

“Kjo sjellje e supozuar, e krijuar për të manipuluar psikikën e pambrojtur të adoleshencës, ishte e dënueshme dhe e padrejtë,” tha Ferguson. Por, argumentoi ai, publiku nuk duhet ta interpretojë padinë për të nënkuptuar se është e paligjshme në përgjithësi tregtimi i ndonjë aplikacioni anonim të mesazheve për adoleshentët.

Të martën, FTC vlerësoi grupin e mbrojtjes së konsumatorëve Fairplay dhe kritiken e mediave sociale Kristin Bride për “ndihmë të paçmuar” në hetimin e NGL. Vitin e kaluar, Bride dëshmoi para Kongresit në një seancë të profilit të lartë për rreziqet e mediave sociale për adoleshentët, duke rrëfyer sesi djali i saj adoleshent Carson vdiq nga vetëvrasja në vitin 2020 pasi mori një breshëri mesazhesh anonime ngacmuese kibernetike. Në tetor, Bride dhe Fairplay i shkruan FTC-së duke bërë thirrje për një hetim agjencie për NGL dhe duke e akuzuar atë për praktika të padrejta dhe mashtruese të biznesit në kundërshtim me ligjin federal.

Në një deklaratë të martën, Nusja përshëndeti padinë dhe zgjidhjen.

“Ky model i rrezikshëm biznesi i mban fëmijët të angazhuar ndërsa përpiqen të identifikojnë ngacmuesit e tyre të panjohur, në mënyrë që këto kompani të mund të përfitojnë nga mbledhja e më shumë të dhënave,” tha Bride. “Është e pandërgjegjshme që NGL jo vetëm që do t’i ngarkonte adoleshentët e cenueshëm për sugjerime të kota se kush u dërgonte mesazhe, por që vetë zhvilluesit po u dërgonin mesazhe ngacmuese adoleshentëve dhe po bënin shaka për këtë, ndërsa prindërit shprehnin shqetësime për bullizmin kibernetik.”