Studiuesit thonë se do të jetë e pamundur të kontrollosh një AI super-inteligjente

Ideja e inteligjencës artificiale që shkatërron njerëzimin është folur për dekada dhe në vitin 2021, shkencëtarët dhanë verdiktin e tyre nëse do të ishim në gjendje të kontrollonim një super-inteligjencë kompjuterike të nivelit të lartë. Përgjigja? Pothuajse definitivisht jo.

Kapja është se kontrollimi i një super-inteligjence shumë përtej të kuptuarit njerëzor do të kërkonte një simulim të asaj super-inteligjence të cilën ne mund ta analizojmë (dhe ta kontrollojmë). Por nëse nuk jemi në gjendje ta kuptojmë atë, është e pamundur të krijojmë një simulim të tillë.

Rregulla të tilla si ‘të mos shkaktojë dëm për njerëzit’ nuk mund të vendosen nëse nuk i kuptojmë llojin e skenarëve që do të krijojë një AI, sugjerojnë autorët e punimit të ri. Pasi një sistem kompjuterik është duke punuar në një nivel mbi qëllimin e programuesve tanë, ne nuk mund të vendosim më kufij.

“Një super-inteligjencë paraqet një problem thelbësisht të ndryshëm nga ata që zakonisht studiohen nën flamurin e ‘etikës robotike'”, shkruan studiuesit.

“Kjo për shkak se një superinteligjencë është shumëplanëshe, dhe për këtë arsye potencialisht e aftë të mobilizojë një shumëllojshmëri burimesh për të arritur objektiva që janë potencialisht të pakuptueshëm për njerëzit, e lëre më të kontrollueshme.”

Një pjesë e arsyetimit të ekipit erdhi nga problemi i ndalimit i paraqitur nga Alan Turing në 1936. Problemi përqendrohet në njohjen nëse një program kompjuterik do të arrijë ose jo një përfundim dhe përgjigje (kështu që ndalon), ose thjesht do të përpiqet përgjithmonë të gjejë një të tillë.

Siç tregoi Turing përmes një matematike të zgjuar, ndërkohë që ne mund ta dimë se për disa programe specifike, është logjikisht e pamundur të gjejmë një mënyrë që do të na lejojë ta dimë këtë për çdo program të mundshëm që mund të shkruhet ndonjëherë. Kjo na kthen te AI, e cila në një gjendje super-inteligjente mund të mbajë menjëherë çdo program të mundshëm kompjuterik në kujtesën e saj.

Çdo program i shkruar për të ndaluar AI që të dëmtojë njerëzit dhe të shkatërrojë botën, për shembull, mund të arrijë në një përfundim (dhe të ndalojë) ose jo – është matematikisht e pamundur për ne që të jemi absolutisht të sigurt në çdo mënyrë, që do të thotë se nuk është i kontrollueshëm.

“Në fakt, kjo e bën algoritmin e kontrollit të papërdorshëm,” tha shkencëtari kompjuterik Iyad Rahwan nga Instituti Max-Planck për Zhvillimin Njerëzor në Gjermani në vitin 2021.

Alternativa për t’i mësuar AI disa etikë dhe për t’i thënë asaj që të mos shkatërrojë botën – diçka që asnjë algoritëm nuk mund të jetë absolutisht i sigurt se do ta bëjë, thanë studiuesit – është të kufizoni aftësitë e super-inteligjencës. Mund të shkëputet nga pjesë të internetit ose nga disa rrjete, për shembull.

Studimi e hodhi poshtë këtë ide gjithashtu, duke sugjeruar se do të kufizonte shtrirjen e inteligjencës artificiale; argumenti shkon se nëse nuk do ta përdorim atë për të zgjidhur probleme përtej fushëveprimit të njerëzve, atëherë pse ta krijojmë atë fare?

Nëse do të ecim përpara me inteligjencën artificiale, mund të mos e dimë as kur arrin një super-inteligjencë jashtë kontrollit tonë, e tillë është pakuptueshmëria e saj. Kjo do të thotë që ne duhet të fillojmë të bëjmë disa pyetje serioze në lidhje me drejtimet në të cilat po shkojmë.

“Një makinë super-inteligjente që kontrollon botën tingëllon si fantashkencë,” tha shkencëtari kompjuterik Manuel Cebrian nga Instituti Max-Planck për Zhvillimin Njerëzor, gjithashtu në vitin 2021. “Por tashmë ka makina që kryejnë disa detyra të rëndësishme në mënyrë të pavarur pa programues plotësisht. duke kuptuar se si ata e mësuan atë.”