Claude tani vendos filigrana në të gjitha tekstet e krijuara nga AI

Claude tani do të fillojë të lërë shënjues të padukshëm për të treguar se një tekst është gjeneruar me inteligjencën artificiale, tha krijuesi i tij Anthropic.

Përditësimi i ri është pjesë e Aktit të BE-së për Inteligjencën Artificiale, i cili kërkon që kompanitë e inteligjencës artificiale të prezantojnë mënyra për të dalluar përmbajtjen e gjeneruar nga inteligjenca artificiale. Por kjo vjen mes shqetësimit të gjerë se interneti po mbushet me media me cilësi të ulët të gjeneruara me inteligjencë artificiale, gjë që është quajtur “mangësi e inteligjencës artificiale”.

Në përputhje me rregullat e inteligjencës artificiale, këto filigranë të padukshëm do të vendosen si në tekst ashtu edhe në imazhe. Kjo do të zbatohet në të gjithë botën, madje edhe në përdorime specifike të chatbot-it Anthropic, siç është Claude Code.

Filigranët në imazhet e gjeneruara nga inteligjenca artificiale janë përhapur gjerësisht dhe janë relativisht të thjeshtë. Ato lënë një sërë të dhënash në imazh që janë të padukshme për një njeri, por që mund të zbulohen nga sistemet e automatizuara.

Megjithatë, ato vijnë me kufizime. Filigrani mund të hiqet kur një përdorues konverton një imazh ose bën një pamje të ekranit të tij, për shembull.

Por ndoshta ndryshimi më i habitshëm dhe më i diskutueshëm është se Anthropic tha se do të prezantonte veçori të ngjashme për gjenerimin e tekstit. Edhe kjo do të përfshijë një gjurmë të padukshme që sistemet e automatizuara do të jenë në gjendje ta dallojnë, por do të jetë e padukshme për njerëzit, tha kompania.

Kjo veçori është vërtetuar tashmë si e diskutueshme midis disa përdoruesve, të cilët kanë frikë se t’i kërkosh Claude-it redaktime në një tekst mund të nënkuptojë që ai të jetë raportuar në mënyrë të rreme si i prodhuar nga një sistem i automatizuar, për shembull. Anthropic theksoi se ky ishte një kufizim i sistemit dhe se “shenja e Claude” mund të jetë e dukshme edhe në shembuj ku “idetë, teksti ose të dhënat themelore kanë origjinën nga një burim tjetër”.

“Një shenjë e zbuluar jep një sinjal se përmbajtja është përpunuar nga Claude, por nuk është plotësisht përfundimtare,” paralajmëroi Anthropic. “Zbulimi i një shenje Claude ju tregon se përmbajtja mund të jetë përpunuar nga Claude,” tha ajo, duke vënë në dukje se një shenjë “vetëm nuk konfirmon prejardhjen e plotë të përmbajtjes.”

Gjithashtu vuri në dukje se mungesa e një filigrani të tillë nuk do të thotë domosdoshmërisht që teksti nuk është gjeneruar ose përpunuar duke përdorur inteligjencën artificiale. Për shembull, mund të ketë ardhur nga një model përpara se të futej shenja, të jetë redaktuar ose ndryshuar shumë, ose të jetë shumë i shkurtër që të përfshijë një sinjal të besueshëm.

Anthropic nuk dha ndonjë detaj specifik se si saktësisht do t’i integrojë filigranët në tekstin e tij, me sa duket të paktën pjesërisht për të shmangur njerëzit që të gjejnë mënyra për t’i hequr ato. Por teknologji e ngjashme tenton të funksionojë ose duke përdorur karaktere specifike, të padukshme ose duke zgjedhur fjalë specifike më shumë se të tjerat – dhe mendohet se Claude po përdor këtë të fundit.

Kjo mund të përfshijë përdorimin e një proporcioni më të lartë ose më të ulët të një fjale të caktuar, për shembull, në mënyrë që ajo të dallohej në një analizë statistikore. Anthropic theksoi se kjo nuk do të ishte e perceptueshme dhe se nuk do të “ndryshonte kuptimin, cilësinë ose lexueshmërinë e përgjigjes së Claude”.

Në të kaluarën, teknologji të tjera për zbulimin e tekstit të gjeneruar nga inteligjenca artificiale kanë hasur në një sërë problemesh.

Mund të jetë e mundur të ruhen të gjitha mesazhet e gjeneruara nga një chatbot dhe të kontrollohet teksti i dyshimtë kundrejt tij, për shembull, por kjo sjell shqetësime si praktike ashtu edhe për privatësinë në lidhje me mënyrën e ruajtjes së të gjitha këtyre bisedave. Opsione të tjera që ofrohen tashmë përfshijnë kontrollin e tekstit pasi të gjenerohet për shenjat karakteristike të shkrimit të IA-së – siç janë fjalë të veçanta ose ndërtime fjalish – por edhe kjo mund të kërkojë burime të konsiderueshme kompjuterike dhe nuk funksionon gjithmonë në mënyrë të qëndrueshme.

Fillimisht, Anthropic do t’i shtojë shenjat çdo përmbajtjeje të gjeneruar me modelet që u prezantuan pas 2 gushtit të vitit, tha ajo. Por po kërkon të shtojë mbështetje për modelet më të vjetra, tha ajo.