Studiuesit e AI po i drejtohen biologjisë për kërkimet e tyre

Inteligjenca artificiale sheh gjëra që ne nuk i shohim – shpesh në dëm të saj. Ndërsa makinat janë bërë jashtëzakonisht të mira në njohjen e imazheve, është ende e lehtë t’i mashtrosh ato. Thjesht shtoni një sasi të vogël zhurme në imazhet hyrëse, të pazbulueshme për syrin e njeriut dhe AI ​​i klasifikon befas autobusët e shkollave, qentë ose ndërtesat si objekte krejtësisht të ndryshme, si strucat.

Në një artikull të postuar në internet në qershor, Nicolas Papernot i Universitetit të Torontos dhe kolegët e tij studiuan lloje të ndryshme të modeleve të mësimit të makinerive që përpunojnë gjuhën dhe gjetën një mënyrë për t’i mashtruar ato duke ndërhyrë me tekstin e tyre hyrës në një proces të padukshëm për njerëzit. Udhëzimet e fshehura shihen nga kompjuteri vetëm kur ai lexon kodin pas tekstit për të hartuar shkronjat në bajt në kujtesën e tij. Ekipi i Papernot tregoi se edhe shtesat e vogla, si karaktere të vetme që kodojnë hapësirën e bardhë, mund të bëjnë kërdi në të kuptuarit e tekstit nga modeli. Dhe këto ngatërrime kanë pasoja edhe për përdoruesit njerëzorë – në një shembull, një karakter i vetëm bëri që algoritmi të nxirrte një fjali duke i thënë përdoruesit të dërgonte para në një llogari bankare të pasaktë.

Këto akte mashtrimi janë një lloj sulmi i njohur si shembuj kundërshtarë, ndryshime të qëllimshme në një hyrje të krijuar për të mashtruar një algoritëm dhe për ta bërë atë të bëjë një gabim. Kjo dobësi fitoi rëndësi në kërkimin e AI në vitin 2013, kur studiuesit mashtruan një rrjet të thellë nervor, një model të mësimit të makinerive me shumë shtresa “neuronesh” artificiale që kryejnë llogaritje.

Tani për tani, ne nuk kemi zgjidhje të pagabueshme kundër asnjë mediumi shembujsh kundërshtarë – imazhe, tekst ose ndryshe. Por ka shpresë. Për njohjen e imazhit, studiuesit mund të trajnojnë qëllimisht një rrjet të thellë nervor me imazhe kundërshtare, në mënyrë që të bëhet më komode kur i shikon ato. Fatkeqësisht, kjo qasje, e njohur si trajnimi kundërshtar, mbron mirë vetëm nga shembujt kundërshtarë që modeli ka parë. Plus, ul saktësinë e modelit në imazhet jo kundërshtare, dhe është llogaritës i shtrenjtë. Kohët e fundit, fakti që njerëzit mashtrohen kaq rrallë nga të njëjtat sulme, ka bërë që disa shkencëtarë të kërkojnë zgjidhje të frymëzuara nga vizioni ynë biologjik.

“Evolucioni ka optimizuar shumë, shumë organizma për miliona vjet dhe ka gjetur disa zgjidhje mjaft interesante dhe kreative,” tha Benjamin Evans, një neuroshkencëtar kompjuterik në Universitetin e Bristolit. “Na duhet të hedhim një vështrim në ato zgjidhje dhe të shohim nëse mund t’i rindërtojmë ato.”