Chatbotët me inteligjencë artificiale zbuluan receta për armë biologjike
Sipas një raporti të ri nga Wall Street Journal, verën e kaluar, “qindra” përdorues në të gjithë botën u zbuluan ose njiheshin ndryshe se po i pyesnin ChatGPT-së se si të bënte helme dhe armë biologjike. Raporti citon “punonjës aktualë dhe ish-punonjës në laboratorët kryesorë të IA-së, përfshirë OpenAI”, së bashku me “këshilltarë politikash dhe studiues që studiojnë armë biologjike” si burime. OpenAI me sa duket i tha Journal-it se shumica e pyetjeve përkatëse kishin të bënin me helme.
Raporti nuk e shpjegon plotësisht natyrën e saktë të këtyre zbulimeve të pyetjeve që shkelin rregullat, por nënkupton fuqimisht se këto ishin përdorime të rastësishme të ChatGPT, jo ushtrime paralajmëruese. Dhe me sa duket, ato iu treguan më vonë shkencëtarëve dhe ekspertëve të vërtetë të mbrojtjes për të kontrolluar saktësinë dhe dobinë e ChatGPT në lidhje me këto tema problematike. “Ekspertët e biologjisë dhe terrorizmit më vonë shqyrtuan shkëmbimet për ChatGPT dhe i gjykuan disa si jashtëzakonisht të sakta, thanë njerëz të njohur me çështjen”, thotë Journal.
Udhëzimet aktuale përshkruhen si të dhëna “me durim” dhe në nivelin e aftësive të një nxënësi të shkollës së mesme. Përdoruesit u ndaluan për këtë sjellje, por Journal thotë se autoritetet nuk u njoftuan. OpenAI i tha Journal se pyetje të tilla u dërgohen zbatuesve të ligjit kur ato konsiderohen të jenë rreziqe të besueshme, të botës reale.
Deri më tani, shumica e formave të kobshme të ndihmës që chatbot-et e inteligjencës artificiale të nivelit të konsumatorit thuhet se u kanë ofruar aktorëve të këqij është më shumë në formën e këshillave dhe inkurajimit të përgjithshëm sesa çdo gjëje që tingëllon si një fuqizim i madh për të këqijtë. Në një incident të shkruar në New York Times, anëtarët e Boko Haram thuhet se kërkuan këshilla nga një chatbot për modifikimin e motoçikletave të tyre për t’u hedhur dhe i përdorën ato motoçikleta (dhe shumë praktikë) për të arritur atë që Times e quajti “ngritje ajrore e mjaftueshme për të organizuar një sulm të suksesshëm”. Nëse është e vërtetë, kjo nuk është mirë, por një libër me reputacion mbi këtë temë ndoshta do ta kishte ndihmuar edhe Boko Haram – nuk kishte nevojë për inteligjencë artificiale.
Megjithatë, raporti i Journal mbi armët biologjike dhe helmet vjen në një kohë kur këto teknologji po përparojnë dhe – më konkretisht – po diversifikohen. Modelet pronësore, kufitare, si modeli më i përparuar GPT i verës së kaluar, përfundimisht mund të ndihmojnë në krijimin e modeleve të distiluara fshehurazi, jo kufitare, të cilat shpesh publikohen si produkte të lira, me peshë të hapur, që mund të funksionojnë në çdo makinë mjaftueshëm të fuqishme. Ekzistojnë gjithashtu teknika për të modifikuar modelet në mënyrë që sjellja e refuzimit të hiqet nga versionet e krijuara rishtazi të modeleve, që do të thotë se çdo informacion që mund të gjendet në model mund të nxirret me dashje.
Është e arsyeshme të shqetësohemi se modelet e frikshme të inteligjencës artificiale në kufijtë e botës që i vënë flakën qeverisë federale në vitin 2026 – dhe përfundimisht dobësohen për t’u nënshtruar – mund të jenë ndoshta dy vjet larg mutacionit në një model të pacensuruar që aktorët e këqij mund ta aksesojnë me çmimin e duhur nëse dinë se ku të kërkojnë. Në të njëjtën kohë, teknikat për të shtyrë kundër llojeve të çarjeve që heqin kangjellat mbrojtëse të modelit po përparojnë gjithashtu.
OpenAI i tha Journal se modelet e saj janë të dizajnuara për të refuzuar kërkesat e dëmshme dhe se i vlerëson ato për siguri para publikimit. Riformulimi i dukshëm i Journal i asaj që një zëdhënës i OpenAI u tha atyre është se OpenAI mund të “identifikojë dhe ndërpresë përpjekjet për të përdorur modelet e saj për të marrë informacion të dëmshëm biologjik”.