Kërkuesi i Anthropic largohet nga kompania, duke thënë se AI-ja “mund të na vrasë të gjithëve deri në fund të dekadës”
Një studiues i inteligjencës artificiale është larguar nga Anthropic për shkak të shqetësimeve etike, duke pretenduar se teknologjia mund të vrasë njerëz të panumërt brenda 10 viteve të ardhshme – nëse jo të gjithë. Jacob Coxon njoftoi dorëheqjen e tij në një postim në X të martën, duke kritikuar si Anthropic ashtu edhe ish-punëdhënësin e tij OpenAI për mënyrat se si po e zhvillojnë inteligjencën artificiale.
“Kam kaluar tre vitet e fundit duke bërë kërkime para-trajnuese si në OpenAI ashtu edhe në Anthropic,” shkroi Coxon. “Asnjëra kompani nuk po vepron me përgjegjësi. Ata po vrapojnë drejt superinteligjencës vetë-përmirësuese dhe po luajnë me jetën tonë.”
Si Anthropic ashtu edhe OpenAI kanë zhvilluar dhe publikuar me shpejtësi modele të reja të IA-së, ndërsa punojnë drejt krijimit të inteligjencës së përgjithshme artificiale (IAG) . I konsideruar prej kohësh si “Graali i shenjtë” i teknologjisë së IA-së, një model IAG teorikisht do të kishte aftësitë intelektuale të një njeriu, duke përfshirë arsyetimin, logjikën e shëndoshë dhe kreativitetin. Një superinteligjencë artificiale do t’i tejkalonte njerëzit.
Megjithatë, edhe para se të arrihen momente të tilla, ka pasur raste të shumta të modeleve të inteligjencës artificiale që bëhen mashtruese. Më herët këtë vit, studiuesit që testonin modelet e inteligjencës artificiale të Anthropic dhe OpenAI vunë re se ato vepronin jashtë parametrave të tyre dhe hakonin organizata të jashtme pa autorizim. Në një incident të profilit të lartë këtë korrik, një model i OpenAI hakoi në mënyrë autonome Hugging Face, një bibliotekë me burim të hapur të mjeteve të inteligjencës artificiale. Në të njëjtën kohë, modeli i inteligjencës artificiale Claude i Anthropic hyri në internet nga brenda një mjedisi testimi pa autorizim, dhe më pas vazhdoi të hakonte tre kompani të tjera.
Të kombinuara me përdorimin në rritje të inteligjencës artificiale në çdo industri, duke përfshirë armët dhe mbikëqyrjen, zhvillime të tilla kanë shkaktuar shqetësime serioze.
“Njerëzit që po ndërtojnë inteligjencën artificiale besojnë sinqerisht se ajo mund të na vrasë të gjithëve deri në fund të dekadës”, shkroi Coxon. “Ky nuk është një marifet marketingu. Në fund të fundit, shumë drejtues dhe studiues të lartë do t’i shprehin shprehjet e tyre në shtyp sikur të duken të arsyeshme – por dëgjoj të njëjtët njerëz që shprehin frikë privatisht. Asnjë aktivitet tjetër njerëzor nuk përbën këtë nivel rreziku.”
Megjithatë, pavarësisht këtij rreziku të madh, kompanitë e inteligjencës artificiale vazhdojnë të ecin përpara me shpejtësi maksimale. Drejtori ekzekutiv i Anthropic, Dario Amodei, ka thënë se inteligjenca artificiale mbinjerëzore mund të jetë këtu deri në vitin 2027 , ndërsa drejtori ekzekutiv i OpenAI, Sam Altman, beson se do të zhvillojë inteligjencën artificiale artificiale para fundit të vitit.