Teknologjia e deepfake në kohë reale bëhet virale duke nxitur frikën e mashtrimit të identitetit

Në ditët e fundit, një paketë e re softuerike e quajtur Deep-Live-Cam ka bërë bujë në mediat sociale, duke tërhequr vëmendjen për aftësinë e saj për të krijuar “deepfakes” në kohë reale me lehtësi të jashtëzakonshme. Softueri nxjerr një fotografi të vetme të një personi dhe aplikon fytyrën e tij në një burim të drejtpërdrejtë të kamerës së internetit, duke gjurmuar pozën, ndriçimin dhe shprehjet e personit në kamerën e internetit. Ndërsa rezultatet nuk janë pa të meta, përparimi i shpejtë i teknologjisë nënvizon se sa më e lehtë është bërë të mashtrosh të tjerët me AI.

Projekti Deep-Live-Cam ka qenë në zhvillim që nga fundi i vitit të kaluar, por kohët e fundit ka marrë vëmendjen virale pasi videot e shembujve filluan të qarkullojnë në internet. Këto klipe tregojnë individë që imitojnë figura të shquara si Elon Musk dhe George Clooney në kohë reale.

Rritja e papritur e popullaritetit e çoi shkurtimisht projektin me burim të hapur në krye të listës së depove në tendencë të GitHub. Softueri falas është i disponueshëm nga GitHub, duke e bërë atë të aksesueshëm për këdo që ka njohuri bazë të programimit.

Keqpërdorimi i mundshëm i Deep-Live-Cam ka ngjallur shqetësim tek vëzhguesit e teknologjisë. Ilustruesi Corey Brickley pati epifaninë se teknologjitë më të reja të fundit janë të pjekura për abuzim. “E çuditshme sesi të gjitha risitë kryesore që dalin nga teknologjia së fundmi janë nën pemën e aftësive të mashtrimit,” shkroi Brickley në Twitter, duke shtuar: “Mirë mos harroni të vendosni fjalë kodi me të gjithë prindërit tuaj.”

Ndërsa komenti i Brickley-t është qëllimisht sardonik, ai nxjerr në pah mundësinë që aktorët e këqij të përdorin mjete të tilla për mashtrim. Duke marrë parasysh përhapjen dhe aksesin e teknologjive të “deepfake”, vendosja e një fjale të sigurt për të konfirmuar identitetin tuaj te familja dhe miqtë nuk është një ide e çmendur.

Vetë teknologjia e ndërrimit të fytyrave nuk është e re. Termi ” deepfake ” ekziston që nga viti 2017. Ai e ka origjinën nga një përdorues i Reddit që e përdori atë si dorezë. Redditori postonte shpesh foto dhe video në të cilat ai ndërronte fytyrën e një interpretuesi porno me atë të një personi të famshëm. Në atë kohë, teknologjia ishte e ngadaltë, e shtrenjtë dhe larg nga koha reale. Megjithatë, ato teknika primitive janë përmirësuar në një shkallë të pabesueshme. Projektet si Deep-Live-Cam dhe të tjerët janë më të zgjuar dhe më të shpejtë dhe kanë ulur pengesën e hyrjes, duke lejuar këdo që ka një kompjuter standard të krijojë falsifikime të thella duke përdorur softuer të lirë.

Potenciali për abuzim tashmë është duke u dokumentuar mirë.

Në shkurt, mashtruesit në Kinë imituan drejtuesit e kompanisë, përfshirë CFO, në një telefonatë video dhe mashtruan një punonjës për të bërë mbi 25 milionë dollarë në transferta parash. Punonjësi ishte i vetmi person real në thirrjen e konferencës. Në një rast të ngjashëm, dikush në SHBA kohët e fundit klonoi zërin e Joe Biden për t’i bindur njerëzit që të votonin në zgjedhjet paraprake në New Hampshire. Me rritjen e softuerit të rreme në kohë reale si Deep-Live-Cam, rastet e mashtrimit me video në distancë mund të bëhen më të zakonshme, duke prekur jo vetëm figurat publike, por edhe individët e zakonshëm.