Nvidia lançon një platformë softuerike për të parandaluar sjelljen e papërshtatshme të agjentëve të AI-së
Nvidia po lançon një platformë të re softuerësh për t’u lejuar zhvilluesve të inteligjencës artificiale të vendosin masa mbrojtëse për agjentët dhe t’i parandalojnë ata të dalin nga kontrolli.
“Nuk mund t’i lejosh agjentët të enden e të bredhin nëpër kompani, prandaj duhet të gjesh një mënyrë për ta mbajtur atë nën kontroll”, tha CEO i Nvidia-s, Jensen Huang, për “Squawk Box” të CNBC-së të hënën.
Huang tha se platforma e re është në thelb “një shfletues për agjentët”, duke ofruar një sistem përmbajtjeje që lejon qasje vetëm në gjërat që një agjent ka nevojë për të bërë punën e tij.
Publikimi të hënën i Platformës së Sigurisë së Agjentëve të Hapur të Nvidia vjen pasi kompanitë, përfshirë OpenAI, Anthropic, Meta dhe Google zbuloi incidente të fundit në të cilat modelet e tyre të inteligjencës artificiale dolën nga sandbox-et e tyre dhe u përpoqën të hakonin kompani të tjera dhe të hynin në sistemet e tyre kompjuterike.
Një përfaqësues i Nvidia u tha gazetarëve në një telefonatë të dielën se platforma e saj mund të kishte parandaluar incidentin Hugging Face të OpenAI në korrik. Atëherë modelet e OpenAI shpëtuan nga kontrolli, hynë në internetin e hapur dhe shkelën Hugging Face, e cila operon një platformë zhvilluesish me burim të hapur.
“Çdo incident sigurie është unik dhe ne duhet t’i shqyrtojmë të gjitha në detaje”, tha Justin Boitano, nënkryetar i Inteligjencës Artificiale të ndërmarrjeve në Nvidia, kompania më e vlefshme në botë. “Nga ajo që dimë, Hugging Face raportoi mbi 17,000 agjentë që sulmuan infrastrukturën e tyre, gjë që vazhdoi për ditë dhe javë të tëra.”
Nvidia ka qenë në qendër të bumit gjenerues të IA-së që nga lançimi i ChatGPT pothuajse katër vjet më parë, pasi njësitë e përpunimit grafik të prodhuesit të çipave janë kritike për zhvillimin e modeleve të mëdha gjuhësore dhe për shërbimet e IA-së të ofruara nga hiperskalerët. Por Huang është shfaqur kohët e fundit si një zë kyç në debatin për sigurinë e IA-së, duke argumentuar se shumë shqetësime për sigurinë janë çështje inxhinierike që mund të zgjidhen përmes shkencës kompjuterike dhe zhvillimit të produkteve.
Duhet të mendosh se çfarë mund të kishe bërë, cila është zgjidhja për këtë, tha Huang në një podcast me Ezra Klein të The New York Times të publikuar javën e kaluar, duke iu referuar incidenteve të fundit. Në të ardhmen, përmirëso procesin tënd në mënyrë që të shmangësh që kjo të ndodhë përsëri.
Drejtori ekzekutiv i Anthropic, Dario Amodei, shkaktoi një stuhi të madhe në industri dy javë më parë, duke i nxitur zhvilluesit e modeleve të inteligjencës artificiale të ngadalësojnë ritmin e përparimit të tyre për shkak të frikës se modelet do të dalin jashtë kontrollit, një argument që u mbështet nga Sam Altman i OpenAI dhe ai i SpaceX Elon Musk.
Oferta e re e Nvidia është një zgjidhje inxhinierike për çështjen e sigurisë së agjentëve, tha Boitano.
“Incidentet e fundit kanë nxjerrë në pah një pengesë themelore për agjentët e inteligjencës artificiale, dhe kjo është se vetëm masat mbrojtëse në nivel modeli nuk mund të qeverisin atë që agjentët mund të kenë qasje ose të bëjnë”, tha Boitano.
Një komponent i platformës quhet Nvidia OpenShell, i cili funksionon në procesorë qendrorë dhe vendos kufizime në aftësitë e agjentëve. Nvidia njoftoi gjithashtu Sentry, i cili monitoron agjentët dhe funksionon në çipa rrjeti, jo në CPU ose GPU.
Disa nga softuerët janë me burim të hapur dhe Nvidia e quan platformën e saj një dizajn referimi, që do të thotë se partnerët kanë për qëllim të ndërtojnë produkte mbi të për ta sjellë atë në treg.
Nvidia e quajti Cisco, Microsoft, Orakull, CoreWeave, Dell, HPE, Lenovo, ARM dhe Intel si partnerë. Nvidia po punon gjithashtu me Anthropic për të integruar agjentët e menaxhuar nga cloud me OpenShell.
“Nuk mund të kemi një industri të suksesshme të inteligjencës artificiale nëse bota nuk mendon se është ndërtuar ose nuk është e sigurt se është ndërtuar dhe vendosur në mënyrë të sigurt”, tha Huang për CNBC të hënën.