Trump nënshkruan marrëveshje vullnetare për sigurinë e AI-së me OpenAI, Anthropic dhe 4 drejtues të tjerë të teknologjisë
Donald Trump ka publikuar një marrëveshje vullnetare me gjashtë kompani kryesore të teknologjisë që përcakton një kornizë për mbikëqyrjen e rreziqeve që lidhen me sistemet gjithnjë e më të afta të inteligjencës artificiale.
Marrëveshja njëfaqëshe e Shtëpisë së Bardhë mbi Super Inteligjencën: Angazhim i Përbashkët mbi Përgjegjësitë Kufitare u publikua nga Trump në Truth Social pasi e kishte përshkruar atë si një angazhim “moralisht të detyrueshëm”. Dokumenti nuk krijon detyrime ligjore të zbatueshme, por sugjeron që disa nga dispozitat e tij mund të përfshihen përfundimisht në legjislacion ose rregullore.
Marrëveshja u nënshkrua nga Trump dhe drejtues të Google, Anthropic, Meta, OpenAI, xAI dhe Nvidia. Nënshkruesit janë CEO i Google, Sundar Pichai, CEO i Anthropic, Dario Amodei, CEO i Meta, Mark Zuckerberg, Presidenti i OpenAI, Greg Brockman, CEO i xAI, Elon Musk dhe CEO i Nvidia, Jensen Huang.
Në vend që të përshkruajë një mekanizëm të vetëm sigurie, marrëveshja u kërkon kompanive të ndërtojnë disa nivele shqyrtimi mbi zhvillimin dhe vendosjen e modeleve të përparuara.
Një element është vlerësimi i jashtëm. Kompanitë inkurajohen të punojnë me auditorë të pavarur ose vlerësues të tjerë të jashtëm për të shqyrtuar nëse mbrojtjet dhe rregullimet e tyre të monitorimit të inteligjencës artificiale po funksionojnë siç janë projektuar.
Kompanitë gjithashtu pritet t’i japin mbikëqyrjes në nivel bordi një rol formal. Marrëveshja kërkon që një komitet i pavarur i bordit të marrë informacion nga auditorët e brendshëm dhe të jashtëm, si dhe nga personeli përgjegjës për operimin e kontrolleve të inteligjencës artificiale.
Një shtresë tjetër përfshin monitorimin e modeleve të IA-së gjatë gjithë trajnimit dhe vendosjes në përdorim. Kontrollet e propozuara do të mbulojnë aftësitë dhe harmonizimin, me vëmendje të veçantë në fusha që përfshijnë sigurinë kibernetike, biosigurinë dhe kërcënimet kimike. Dokumenti gjithashtu bën thirrje për masa mbrojtëse kundër modeleve që hyjnë ose ndërhyjnë në sistemet teknike në mënyra të paqëllimshme.
Së fundmi, kompanitë do të mbanin ekipe të brendshme përgjegjëse për të kontrolluar nëse mekanizmat e tyre të kontrollit, monitorimit dhe zbulimit vazhdojnë të funksionojnë siç duhet.
Masat përbëjnë një kornizë qeverisjeje dhe jo një standard teknik të detajuar, duke u lënë kompanive individuale një diskrecion të konsiderueshëm mbi mënyrën se si i zbatojnë ato.
Dokumenti i Shtëpisë së Bardhë lë hapur në mënyrë të qartë mundësinë e shndërrimit të angazhimeve vullnetare në kërkesa formale. Ai thotë se, me kalimin e kohës, legjislacioni ose rregullorja mund të kodifikojnë masat e propozuara.
“Pavarësisht nëse kjo kërkohet nga kompanitë, ne besojmë se zbatimi i këtyre kontrolleve dhe auditimeve është thelbësor për të siguruar një të ardhme të sigurt për të gjithë”, thuhet në marrëveshje, duke shtuar se kompanitë pjesëmarrëse janë të përkushtuara ta bëjnë këtë.
Kompanitë gjithashtu ranë dakord të takoheshin periodikisht për të zhvilluar standarde dhe praktika më të mira që synojnë përmirësimin e sigurisë së sistemeve të tyre.
Ky angazhim vjen në një kohë kur aftësitë e agjentëve të inteligjencës artificiale kanë ngritur pyetje të reja rreth asaj se sa autonomi duhet të lejohet të ushtrojnë sistemet e përparuara. Raportet nga OpenAI dhe Anthropic kanë përfshirë incidente që përfshijnë agjentë të inteligjencës artificiale që sillen në mënyra të paqëllimshme, duke përfshirë raste në të cilat agjentët raportohen se kanë hakuar sisteme që u përkasin organizatave të tjera.
Marrëveshja në vetvete nuk krijon një organ zbatues dhe as nuk specifikon dënime për kompanitë që nuk i përmbushin rekomandimet e saj.
Iniciativa qëndron përkrah mbështetjes më të gjerë të Trump për zgjerimin e shpejtë të industrisë amerikane të inteligjencës artificiale, duke përfshirë ndërtimin e qendrave shtesë të të dhënave të nevojshme për të trajnuar dhe operuar modele gjithnjë e më të fuqishme.
Trump ka thënë gjithashtu se po shqyrton krijimin e një komiteti prej 10 anëtarësh të përqendruar në sigurinë e inteligjencës artificiale. Ai nuk ka zbuluar se kush do të shërbejë në panelin e propozuar dhe as nuk ka shpjeguar se si do të strukturohet dhe çfarë autoriteti do të ketë.
Administrata ka miratuar veçmas një ndryshim në terminologji, duke i udhëzuar agjencitë qeveritare amerikane të përdorin ” superinteligjencë ” ose “SI” në komunikimet zyrtare në vend të “inteligjencës artificiale” ose “IA”.
Për kompanitë e teknologjisë të përfshira, marrëveshja përfaqëson një angazhim të përbashkët vullnetar në një kohë kur qeveritë ende po përcaktojnë se deri ku duhet të shtrihet mbikëqyrja e inteligjencës artificiale në nivel të lartë. Rëndësia e saj praktike do të varet nga mënyra se si firmat pjesëmarrëse i zbatojnë kontrollet e propozuara dhe nëse ndonjë nga masat përkthehet më pas në rregulla detyruese.