Microsoft thotë se AI mund të krijojë kërcënime ‘zero day’ në biologji

Një ekip në Microsoft thotë se përdori inteligjencën artificiale për të zbuluar një dobësi “zero dite” në sistemet e biosigurisë të përdorura për të parandaluar keqpërdorimin e ADN-së.

Këto sisteme shqyrtimi janë të dizajnuara për të ndaluar njerëzit të blejnë sekuenca gjenetike që mund të përdoren për të krijuar toksina ose patogjenë vdekjeprurës. Por tani studiuesit e udhëhequr nga shkencëtari kryesor i Microsoft, Eric Horvitz, thonë se kanë gjetur një mënyrë për të anashkaluar mbrojtjet në një mënyrë të panjohur më parë për mbrojtësit.

Ekipi e përshkroi punën e tij sot në revistën Science.

Horvitz dhe ekipi i tij u përqendruan në algoritmet gjeneruese të IA-së që propozojnë forma të reja të proteinave. Këto lloje programesh tashmë po nxisin kërkimin për ilaçe të reja në startup-e të financuara mirë si Generate Biomedicines dhe Isomorphic Labs, një degëzim i Google.

Problemi është se sisteme të tilla janë potencialisht “përdorim i dyfishtë”. Ato mund të përdorin grupet e tyre të trajnimit për të gjeneruar molekula si të dobishme, ashtu edhe të dëmshme.

Microsoft thotë se filloi një test “të bashkuar” të potencialit të përdorimit të dyfishtë të inteligjencës artificiale në vitin 2023, me qëllim që të përcaktojë nëse “dizajni kundërshtar i proteinave të inteligjencës artificiale” mund t’i ndihmonte bioterroristët të prodhonin proteina të dëmshme.

Mbrojtja që sulmoi Microsoft është ajo që njihet si softuer për shqyrtimin e biosigurisë. Për të prodhuar një proteinë, studiuesit zakonisht duhet të porosisin një sekuencë përkatëse të ADN-së nga një shitës komercial, të cilën më pas mund ta instalojnë në një qelizë. Këta shitës përdorin softuer për shqyrtimin e porosive hyrëse me toksina ose patogjenë të njohur. Një përputhje e ngushtë do të aktivizojë një alarm.

Për të hartuar sulmin e tij, Microsoft përdori disa modele proteinash gjeneruese (përfshirë edhe modelin e vet, të quajtur EvoDiff) për të ridizajnuar toksinat, duke ndryshuar strukturën e tyre në një mënyrë që i lejonte ato të shpëtonin nga programi i shqyrtimit, por që parashikohej se do ta ruante të paprekur funksionin e tyre vdekjeprurës.

Studiuesit thonë se stërvitja ishte tërësisht dixhitale dhe ata nuk prodhuan kurrë proteina toksike. Kjo u bë për të shmangur çdo perceptim se kompania po zhvillonte armë biologjike.

Përpara publikimit të rezultateve, thotë Microsoft, ai njoftoi qeverinë amerikane dhe prodhuesit e softuerëve, të cilët tashmë i kanë përditësuar sistemet e tyre, megjithëse disa molekula të dizajnuara nga inteligjenca artificiale mund t’i shpëtojnë zbulimit.

“Fragmenti është i paplotë dhe gjendja aktuale po ndryshon. Por kjo nuk është diçka që bëhet menjëherë. Është fillimi i testimeve edhe më të shumta”, thotë Adam Clore, drejtor i Kërkimit dhe Zhvillimit të Teknologjisë në Integrated DNA Technologies, një prodhues i madh i ADN-së, i cili është bashkautor në raportin e Microsoft. “Jemi në një lloj gare armatimesh.”

Për t’u siguruar që askush nuk e keqpërdor hulumtimin, studiuesit thonë se nuk po zbulojnë një pjesë të kodit të tyre dhe nuk zbuluan se cilat proteina toksike i kërkuan inteligjencës artificiale të ridizajnonte. Megjithatë, disa proteina të rrezikshme janë të njohura mirë, si ricina – një helm që gjendet në fasulet e ricinit – dhe prionet infektive që janë shkaku i sëmundjes së lopës së çmendur.

“Ky zbulim, i kombinuar me përparimet e shpejta në modelimin biologjik të mundësuar nga inteligjenca artificiale, tregon nevojën e qartë dhe urgjente për procedura të përmirësuara të shqyrtimit të sintezës së acidit nukleik, të shoqëruara me një mekanizëm të besueshëm zbatimi dhe verifikimi”, thotë Dean Ball, një bashkëpunëtor në Fondacionin për Inovacionin Amerikan, një grup mendimtarësh në San Francisko.

Ball vëren se qeveria amerikane tashmë e konsideron shqyrtimin e urdhrave të ADN-së si një linjë kyçe sigurie. Majin e kaluar, në një urdhër ekzekutiv mbi sigurinë e kërkimit biologjik, Presidenti Trump bëri thirrje për një riorganizim të përgjithshëm të atij sistemi, megjithëse deri më tani Shtëpia e Bardhë nuk ka publikuar rekomandime të reja.

Të tjerë dyshojnë se sinteza komerciale e ADN-së është pika më e mirë e mbrojtjes kundër aktorëve të këqij. Michael Cohen, një studiues i sigurisë së inteligjencës artificiale në Universitetin e Kalifornisë, Berkeley, beson se gjithmonë do të ketë mënyra për të maskuar sekuencat dhe se Microsoft mund ta kishte bërë testin e tij më të vështirë.

Sfida duket e dobët dhe mjetet e tyre të riparuara dështojnë shumë, thotë Cohen. Duket se ka një mungesë vullneti për të pranuar se së shpejti do të na duhet të tërhiqemi nga kjo pikë e supozuar bllokimi, kështu që duhet të fillojmë të kërkojmë përreth për terren që mund ta mbajmë realisht.

Cohen thotë se biosiguria ndoshta duhet të integrohet në vetë sistemet e inteligjencës artificiale – qoftë drejtpërdrejt ose nëpërmjet kontrolleve mbi informacionin që ato japin.

Por Clore thotë se monitorimi i sintezës së gjeneve është ende një qasje praktike për zbulimin e bio-kërcënimeve, pasi prodhimi i ADN-së në SHBA dominohet nga disa kompani që punojnë ngushtë me qeverinë. Në të kundërt, teknologjia e përdorur për të ndërtuar dhe trajnuar modele të inteligjencës artificiale është më e përhapur. “Nuk mund ta fusësh atë xhind përsëri në shishe”, thotë Clore. “Nëse ke burimet për të na mashtruar që të bëjmë një sekuencë ADN-je, ndoshta mund të trajnosh një model të madh gjuhësor.”