OpenAI ka frikë se përdoruesit do të bëhen të varur emocionalisht nga modaliteti i zërit ChatGPT

OpenAI është i shqetësuar se njerëzit mund të fillojnë të mbështeten shumë në ChatGPT për shoqëri, duke çuar potencialisht në “varësi”, për shkak të mënyrës së tij të re të zërit me tingull njerëzor.

Ky zbulim erdhi në një raport të enjten nga OpenAI mbi rishikimin e sigurisë që ajo kreu për mjetin – i cili filloi të shpërndahej te përdoruesit me pagesë javën e kaluar – dhe modelin e gjuhës së madhe të AI me të cilin funksionon.

Modaliteti i avancuar i zërit i ChatGPT tingëllon jashtëzakonisht i gjallë. Ai përgjigjet në kohë reale, mund të përshtatet kur të ndërpritet, bën llojet e zhurmave që njerëzit bëjnë gjatë bisedave si të qeshurit ose “hmms”. Mund të gjykojë gjithashtu gjendjen emocionale të folësit bazuar në tonin e zërit të tij.

Brenda disa minutave pasi OpenAI shpalli funksionin në një ngjarje në fillim të këtij viti, ai po krahasohej me asistentin dixhital të AI në filmin “Her” të vitit 2013, me të cilin protagonisti bie në dashuri, vetëm për t’u mbetur zemërthyer kur AI pranon “ajo ” gjithashtu ka marrëdhënie me qindra përdorues të tjerë.

Tani, OpenAI me sa duket është i shqetësuar se historia imagjinare është paksa shumë afër për t’u bërë realitet, pasi thotë se vëzhgoi përdoruesit që flisnin me modalitetin e zërit të ChatGPT në gjuhën “duke shprehur lidhje të përbashkëta” me mjetin.

Përfundimisht, “përdoruesit mund të krijojnë marrëdhënie shoqërore me AI, duke reduktuar nevojën e tyre për ndërveprim njerëzor – duke përfituar potencialisht individë të vetmuar, por ndoshta duke ndikuar në marrëdhënie të shëndetshme”, thuhet në raport. Ai shton se dëgjimi i informacionit nga një robot që tingëllon si një njeri mund t’i bëjë përdoruesit t’i besojnë mjetit më shumë seç duhet, duke pasur parasysh prirjen e AI për t’i gabuar gjërat.

Raporti nënvizon një rrezik të madh rreth inteligjencës artificiale: kompanitë e teknologjisë po garojnë për të përhapur shpejt në publik mjetet e inteligjencës artificiale që ata thonë se mund të ndryshojnë mënyrën se si jetojmë, punojmë, shoqërohemi dhe gjejmë informacion. Por ata po e bëjnë këtë përpara se dikush të kuptojë vërtet se cilat janë ato implikime. Ashtu si me shumë përparime teknologjike, kompanitë shpesh kanë një ide se si mund dhe duhet të përdoren mjetet e tyre, por përdoruesit vijnë me një mori aplikacionesh të tjera të mundshme, shpesh me pasoja të padëshiruara.

Disa njerëz tashmë po krijojnë atë që ata e përshkruajnë si marrëdhënie romantike me chatbots AI, duke shkaktuar shqetësim nga ekspertët e marrëdhënieve.

“Është shumë përgjegjësi e kompanive që ta drejtojnë me të vërtetë këtë në një mënyrë etike dhe të përgjegjshme, dhe e gjitha është në një fazë eksperimentimi tani,” tha për CNN në një intervistë Liesel Sharabi, një profesor i Universitetit Shtetëror të Arizonës që studion teknologjinë dhe komunikimin njerëzor. në qershor. “Unë shqetësohem për njerëzit që po krijojnë lidhje vërtet të thella me një teknologji që mund të mos ekzistojë në planin afatgjatë dhe që po evoluon vazhdimisht.”

OpenAI tha se ndërveprimet e përdoruesve njerëzorë me modalitetin e zërit të ChatGPT gjithashtu, me kalimin e kohës, mund të ndikojnë në atë që konsiderohet normale në ndërveprimet sociale.

“Modelet tona janë të respektuara, duke i lejuar përdoruesit të ndërpresin dhe të “marrin mikrofonin” në çdo kohë, gjë që, megjithëse pritet për një AI, do të ishte anti-normative në ndërveprimet njerëzore”, tha kompania në raport.

Tani për tani, OpenAI thotë se është e përkushtuar për të ndërtuar AI “të sigurt” dhe planifikon të vazhdojë studimin e potencialit për “mbështetje emocionale” nga përdoruesit në mjetet e saj.