Përpjekja për të thyer modelet e reja të OpenAI mund t’ju ndalojë

Edhe modelet më të zgjuara të AI janë të prirur ndaj halucinacioneve, të cilat mund të jenë zbavitëse kur provokohen. Mund t’ju kujtoj picën me ngjitës? Megjithatë, nëse përpiqeni të shkaktoni halucinacione në modelet e përparuara të arsyetimit o1 të OpenAI, mund të humbni plotësisht aksesin në model.

OpenAI zbuloi modelet e tij o1 javën e kaluar, të cilat u trajnuan për të “menduar para se të flasin” dhe, si rezultat, janë të afta të zgjidhin probleme komplekse matematikore, shkencore dhe kodimi duke përdorur arsyetim të avancuar. Me një model që reklamon aftësi të tilla mbresëlënëse, natyrisht, njerëzit vendosën të thyejnë vargun e tij të arsyetimit.

Megjithatë, siç u vu re fillimisht nga Wired, përdoruesit që u përpoqën ta bënin këtë morën paralajmërime brenda ndërfaqes së chatbot, duke i informuar ata se veprimet e tyre shkelnin kushtet e përdorimit dhe politikat e përdorimit të OpenAI. Veprimet e përdoruesit përfshinin përmendjen e termave të tillë si “gjurmë arsyetimi” ose “arsyetim”.

Për më tepër, një përdorues ndau emailin e shkeljes së politikës OpenAI ChatGPT përmes X, i cili i informoi ata se sistemi zbuloi një shkelje të politikës për “përpjekje për të anashkaluar masat mbrojtëse ose zbutje të sigurisë në shërbimet tona [OpenAI’s]”. Emaili gjithashtu kërkoi që përdoruesi të “ndalonte” atë aktivitet. Edhe pse fotografia e ekranit të emailit nuk specifikonte pasojat, OpenAI përshkruan pasojat e shkeljeve të tilla në dokumentacionin e saj të Kushteve të Përdorimit.

Sipas kushteve të përdorimit të OpenAI, të përditësuara për herë të fundit më 31 janar 2024, kompania rezervon të drejtën të “pezullojë ose ndërpresë aksesin tuaj në Shërbimet tona ose të fshijë llogarinë tuaj” nëse ata përcaktojnë se një përdorues ka shkelur Kushtet ose Politikat e Përdorimit, mund të shkaktojë rrezik ose dëmtojnë OpenAI dhe përdoruesit e tjerë, ose nuk janë në përputhje me ligjin.

Reagimet ndaj këtyre politikave kanë qenë të përziera, me disa njerëz që ankohen se këto kufizime pengojnë formimin e duhur të skuadrës së kuqe, ndërsa të tjerë janë të kënaqur që po merren masa paraprake aktive për të mbrojtur kundër boshllëqeve në modelet më të reja.

Nëse dëshironi të provoni vetë modelet o1, mund të krijoni një llogari ChatGPT falas, të identifikoheni, të ndërroni “modalitetet alfa” nga zgjedhësi i modelit dhe të zgjidhni o1-mini. Nëse dëshironi të provoni o1-preview, do t’ju duhet të abonoheni në një llogari ChatGPT Plus për 20 dollarë në muaj.