Anthropic bllokon një përpjekje të mundshme për të përdorur AI-në për prodhimin e armëve biologjike

Anthropic thotë se ka identifikuar dhe penguar përpjekjet për të përdorur modelin e saj të inteligjencës artificiale për “aktivitete dashakeqe” që mund të mbështesin zhvillimin e armëve biologjike.

Gjetjet, të bëra në raportin e fundit të inteligjencës së kërcënimeve të firmës, janë të fundit në një seri paralajmërimesh në rritje nga studiuesit e inteligjencës artificiale dhe ekspertët e industrisë në lidhje me rreziqet e mundshme të teknologjisë për njerëzimin.

Paralajmërimet kanë nxitur thirrje për veprim, me senatorin amerikan Bernie Sanders që kërkoi një pauzë në zhvillimin e inteligjencës artificiale të përparuar dhe një ndalim të superinteligjencës artificiale.

Presidenti Donald Trump deri më tani i ka hedhur poshtë frikëra të tilla, duke thënë të enjten se ishte i shqetësuar se “nëse nuk fitojmë inteligjencën artificiale, do të gjendemi në një pozicion shumë të keq”.

Kompania publikoi raportin e saj të fundit të inteligjencës mbi kërcënimet të enjten.

Raporte të tilla janë bërë një tipar i rregullt në të gjithë industrinë e IA-së, pasi firmat kërkojnë të demonstrojnë se si i identifikojnë dhe pengojnë përpjekjet për të keqpërdorur modelet e tyre.

Këtu përfshihet edhe Google, e cila shkroi të martën se një person ishte përpjekur të përdorte mjetin e saj të inteligjencës artificiale, Gemini, për të marrë një “udhëzues teknik të plotë, hap pas hapi, për sintetizimin e agjentëve biologjikë të armatosur”.

Modeli i inteligjencës artificiale i Claude, Anthropic, u përdor gjithashtu nga aktorë të lidhur me një fushatë spiunazhi kibernetik me bazë në Rusi dhe nga një institucion propagandistik iranian, sipas raportit të tij.

Rastet shqetësuese të zbuluara gjatë tetë muajve të fundit varionin nga aplikacionet e rreme të takimeve dhe mashtrimet me Wifi në hotele, deri te mbikëqyrja e ndërtuar për të identifikuar disidentët.

Anthropic ka akuzuar gjithashtu firmat kineze të inteligjencës artificiale se po përpiqen të kopjojnë aftësitë e Claude.

Raporti i gjatë rendit rastet në të cilat grupe të dyshuara të sponsorizuara nga shteti, kriminelë, shitës të programeve spiune, institucione të propagandës shtetërore dhe individë të motivuar politikisht e keqpërdorën teknologjinë e saj.

“Përdorimi keqdashës” i modeleve të saj Claude Haiku, Sonnet dhe Opus u ndërpre midis dhjetorit 2025 dhe gushtit 2026, tha ajo.

Asnjë nga rastet e keqpërdorimit nuk përfshinte Claude Fable ose modelet e fuqishme të klasës Mythos, me përjashtim të një rasti të distilimit – procesi për trajnimin e modeleve më të vogla të IA-së duke përdorur modele më të mëdha dhe më të shtrenjta.

Përveç zbulimit të përdorimit të modeleve të saj për operacione kibernetike dhe ndikimi, mbikëqyrje, mashtrime dhe zhvillim armësh, Anthropic tha se kishte bllokuar shkencëtarët që përdornin inteligjencën e saj artificiale në mënyra që mund të mbështesnin zhvillimin e armëve biologjike.

Raporti nxori në pah “pesë studime rastesh të aktorëve që përdorin modelet tona në mënyra që mund të mbështesin zhvillimin e armëve biologjike”.

Keqpërdorimi biologjik, tha ajo, është “një nga rreziqet më serioze të modelit të inteligjencës artificiale në kufijtë e botës”. Pa masat e duhura mbrojtëse, aftësi të tilla “mund të kenë pasoja katastrofike”, tha Anthropic.

“I njëjti informacion që mund të përdoret për të zhvilluar një armë biologjike mund të përdoret gjithashtu për të zhvilluar, për shembull, një vaksinë ose një kurë për një sëmundje”, tha Anthropic.

Jacob Klein, kreu i inteligjencës së kërcënimeve në Anthropic, i tha New York Times se ishte “një situatë tepër e nuancuar”.

“Nuk po e sheh dikë në një mënyrë si në një libër komik që thotë: ‘Hej, dua të ndërtoj një armë biologjike për të vrarë të gjithë'”, tha ai.

Raporti vuri në dukje gjithashtu gjashtë raste ku Claude u përdor “për të zhvilluar softuer për armë konvencionale, duke përfshirë armë zjarri, raketa, dronë të armatosur, bomba dhe municione të tjera, si dhe sistemet e synimit dhe kontrollit që i operojnë ato”.

Raporti tregoi se kriminelët kibernetikë dhe hakerat e mbështetur nga shteti e kanë përdorur gjithnjë e më shumë teknologjinë e saj për të ndihmuar operacionet e tyre.

Grupi i hakerëve ShinyHunters, si dhe laboratorët me bazë në Kinë, ishin ndër ata që u përmendën në raport.

Raporti tha gjithashtu se një grup hakerash, puna e të cilit është në përputhje me Midnight Blizzard me bazë në Rusi, dyshohet se ka përdorur inteligjencën artificiale për të ndërtuar një sistem që zbulonte automatikisht kur programi i tij keqdashës sinjalizohej nga mbrojtjet e sigurisë dhe rishkruante kodin derisa t’i shmangej zbulimit.

Kompania me seli në Kaliforni tha se i kishte përfshirë gjetjet e saj në proceset e saj “për të parandaluar, zbuluar dhe ndërprerë më mirë këto aktivitete në të ardhmen”.

Anthropic tha se kishte ndarë informacione me autoritetet dhe partnerët e industrisë aty ku ishte e përshtatshme.

Raporti – i pari i kompanisë këtë vit – vjen pasi një studiues i lartë i sigurisë në Anthropic paralajmëroi se inteligjenca artificiale po përparon aq shpejt sa ai beson se ka një shans më të madh se 10% që “mund të vrasë të gjithë njerëzit” brenda dekadës së ardhshme.

Në një artikull të botuar më 6 shtator, shkencëtari kryesor i OpenAI, Jakub Pachocki, bëri thirrje që industria të zbatojë “ngadalësime vullnetare” derisa të vendosen masa mbrojtëse.

“Jam i shqetësuar se askush nuk është i përgatitur për pasojat e një rritjeje të vazhdueshme të shpejtë të inteligjencës së makinerive”, tha Pachocki, duke shtuar se OpenAI, e cila prodhon ChatGPT, do të vazhdojë punën e saj për ndërtimin e masave mbrojtëse, megjithëse kërkohen ndërhyrje më të gjera.

Paralajmërimi nxiti një letër të hapur drejtuar Kryeministrit të Mbretërisë së Bashkuar, Andy Burnham, duke bërë thirrje për një traktat të ri shumëkombësh për zhvillimin e sigurt të inteligjencës artificiale dhe një thirrje për qeveritë që të bashkëpunojnë rreth asaj se si duhet të duket një traktat i bazuar në zhvillimin e superinteligjencës.

Në SHBA, ligjvënësi demokrat Bernie Sanders ka prezantuar legjislacionin për të ndaluar superinteligjencën e inteligjencës artificiale dhe për të ndaluar përkohësisht zhvillimin e përparuar të inteligjencës artificiale.

“Kur shkencëtarët të thonë se ekziston një shans, një shans që kjo të ketë një ndikim kataklizmik mbi njerëzimin, duhet të jesh idiot për të mos thënë, ngadalësoje”, tha ai të enjten në emisionin Newsnight të BBC-së.