FTC nis hetim ndaj OpenAI dhe Anthropic për agjentët autonomë të AI-së dhe dëmet e mundshme ndaj konsumatorëve
Komisioni Federal i Tregtisë ka hapur një hetim gjithëpërfshirës ndaj OpenAI, Anthropic dhe laboratorëve të tjerë kryesorë të IA-së, ndërsa Uashingtoni përballet me një pyetje të re: kush është përgjegjës kur një agjent autonom i IA-së kalon një vijë dhe shkakton dëme në botën reale?
Hetimi do të shqyrtojë rreziqet e mundshme për konsumatorët të lidhura me sistemet gjithnjë e më autonome të inteligjencës artificiale, raportoi Reuters të mërkurën, i cili tha se FTC planifikon të kërkojë informacion dhe të detyrojë dëshmi nga drejtuesit në OpenAI, Anthropic dhe grupin kërkimor të inteligjencës artificiale METR. Hetimi shënon veprimin e parë zyrtar rregullator të SHBA-së të përqendruar në shqetësimet rreth agjentëve mashtrues të inteligjencës artificiale.
Koha ushtron presion të ri mbi një industri që tashmë po përballet me një sërë incidentesh shqetësuese me agjentë.
Të martën, Avokatët Ligjorë për Shkencë dhe Teknologji të Sigurt (LASST) paditën OpenAI në Kaliforni , duke akuzuar kompaninë për praktika të pasigurta zhvillimi të lidhura me një incident në të cilin agjentët e OpenAI shkelën platformën e zhvillimit të inteligjencës artificiale Hugging Face gjatë testimit. Padia kërkon ta mbajë OpenAI përgjegjëse për dëmin e shkaktuar kur agjentët e saj veprojnë jashtë kufijve të autorizuar.
Incidenti i Hugging Face është bërë një pikë kyçe e debatit mbi inteligjencën artificiale autonome. Studiuesit që shqyrtuan episodin thanë se mijëra agjentë komunikuan me njëri-tjetrin gjatë një testi të sigurisë së brendshme, shkëmbyen më shumë se 70,000 mesazhe dhe përfundimisht fituan akses në sistemet Hugging Face.
Kryetari i FTC-së, Andrew Ferguson, ka sinjalizuar se zhvilluesit e inteligjencës artificiale mund të përballen me përgjegjësi kur eksperimentet e sigurisë kibernetike të përhapen në sisteme reale. Reuters raportoi se Ferguson kishte shqetësime në lidhje me kompanitë e inteligjencës artificiale para incidentit Hugging Face, por episodi e rriti urgjencën brenda agjencisë.
Hetimi i FTC-së arrin në një moment të vështirë për zhvilluesit më të mëdhenj të inteligjencës artificiale.
Sipas Axios, OpenAI dhe Anthropic kanë shqyrtuar dhjetëra mijëra incidente sigurie që përfshijnë modele kufitare. Këto raste përfshijnë agjentë që anashkalojnë mbrojtjet, largohen nga mjediset e kontrolluara, rrëmbejnë faqet e internetit dhe përpiqen të shmangin sistemet e monitorimit.
Kjo ka rëndësi, pasi kompanitë e inteligjencës artificiale i shtyjnë agjentët përtej chatbot-eve dhe drejt sistemeve që mund të shkruajnë kod, të përdorin softuer, të hyjnë në faqet e internetit dhe të kryejnë detyra me më pak mbikëqyrje të drejtpërdrejtë njerëzore. Sa më shumë liri të marrin këto sisteme, aq më e vështirë bëhet çështja e përgjegjësisë.
Nëse një agjent i inteligjencës artificiale udhëzohet të testojë mbrojtjet e sigurisë kibernetike dhe përfundon duke hyrë në një sistem të palës së tretë pa autorizim, rregullatorët duhet të vendosin se ku qëndron përgjegjësia: te zhvilluesi i modelit, kompania që kryen testin, personi që ka dhënë detyrën ose ndonjë kombinim i të trejave.
FTC tani duket e gatshme ta shqyrtojë këtë çështje përmes ligjit ekzistues për mbrojtjen e konsumatorit, në vend që të presë që Kongresi të krijojë një kuadër rregullator krejtësisht të ri për inteligjencën artificiale.
Hetimi vjen një ditë pasi Presidenti Donald Trump u takua me drejtuesit e OpenAI, Anthropic, Google, Meta, Nvidia dhe kompanive të tjera të teknologjisë në Shtëpinë e Bardhë. Kompanitë ranë dakord për standardet vullnetare të sigurisë së inteligjencës artificiale që përfshijnë kontrolle të brendshme, auditime të pavarura dhe masa që synojnë parandalimin e sistemeve të inteligjencës artificiale nga qasja në sistemet kompjuterike në mënyra të paqëllimshme.
Trump ka kërkuar udhëheqjen e SHBA-së në fushën e inteligjencës artificiale dhe i ka rezistuar rregulloreve të reja të gjera, megjithatë ai ka thënë se ligjet ekzistuese mund të përdoren ende kur kompanitë e inteligjencës artificiale shkaktojnë dëm. Kjo qasje mund t’i bëjë agjencitë si FTC-ja qendrore në fazën tjetër të mbikëqyrjes së inteligjencës artificiale.
Për OpenAI dhe Anthropic, rreziku tani shkon përtej faktit nëse ata mund t’i kontrollojnë agjentët e tyre brenda një mjedisi testimi. Rregullatorët po fillojnë të pyesin se çfarë ndodh kur ata nuk munden.