Avokati vendos një standard të ri për keqpërdorimin e inteligjencës artificiale gjyqtari rrëzon çështjen

I frustruar nga citimet e rreme dhe proza ​​plot ngjyra e mbushur me referenca “të paqarta” për bibliotekat e lashta dhe veprën “ Fahrenheit 451” të Ray Bradbury -t, një gjyqtar federal i Nju Jorkut ndërmori hapin e rrallë të mbylljes së një çështjeje këtë javë për shkak të keqpërdorimit të përsëritur të inteligjencës artificiale nga një avokat gjatë hartimit të dosjeve.

Në një urdhër të lëshuar të enjten, gjyqtarja e distriktit Katherine Polk Failla vendosi që sanksionet e jashtëzakonshme ishin të justifikuara pasi një avokat, Steven Feldman, vazhdoi t’u përgjigjej kërkesave për të korrigjuar dosjet e tij me dokumente që përmbanin citime të rreme.

Një nga ato dokumente ishte “i denjë për t’u përmendur”, tha Failla, “për prozën e tij të zymtë dhe të dukshme”. Aty ku disa nga dokumentet e Feldmanit përmbanin gabime gramatikore dhe fjali të gjata, ky dokument dukej dukshëm i ndryshëm nga ana stilistike.

Ai përmbante, vuri në dukje gjyqtari, “një citat të zgjeruar nga Fahrenheit 451 i Ray Bradbury-t dhe metafora që krahasonin avokimin ligjor me kopshtarinë dhe lënien e një ‘gjurme’ të pashlyeshme mbi argjilë”. Citimi i Bradbury-t është më poshtë:

“Çdokush duhet të lërë diçka pas kur vdes, tha gjyshi im. Një fëmijë, një libër, një pikturë, një shtëpi, një mur të ndërtuar, një palë këpucë të qepura. Apo një kopsht të mbjellë. Diçka që dora juaj e ka prekur diku, në mënyrë që shpirti juaj të ketë ku të shkojë kur të vdisni, dhe kur njerëzit shikojnë atë pemë ose atë lule që keni mbjellë, ju jeni atje. Nuk ka rëndësi se çfarë bëni, tha ai, për sa kohë që ndryshoni diçka nga mënyra se si ishte para se ta preknit në diçka që është si ju pasi t’i hiqni duart. Dallimi midis njeriut që thjesht kosit lëndinat dhe një kopshtari të vërtetë është në prekje, tha ai. Kositësi i lëndinave mund të mos ketë qenë fare atje; kopshtari do të jetë atje gjithë jetën.”

Një tjetër fragment që Failla e theksoi si “duke i ngritur vetullat Gjykatës”, përmendi me kuriozitet një fragment biblik rreth gjykimit hyjnor si një mjet për të pranuar shkeljen e detyrës nga ana e avokatit duke mos kapur citimet e rreme:

“Shkëlqesia Juaj, në bibliotekat e lashta të Ashurbanipalit, skribët e mbanin stilolapsin e tyre si mjet dhe si besim të shenjtë – duke kuptuar se çdo shenjë mbi argjilë do të qëndronte shumë përtej jetës së tyre të vdekshme. Ashtu si roli i shenjës (x) në Ezekielin Kapitulli 9, që shënonte ballin me një tav (x) gjaku dhe boje, mban të njëjtën njohje solemne: se fjala e shkruar mbart fuqinë për të ruajtur ose dënuar, për të ndërtuar ose shkatërruar dhe lë një shenjë të pashlyeshme që nuk mund të fshihet, por duhet të hiqet, le t’i shtyjë të tjerët të mendojnë se këto citime ishin të sakta.

Kam dështuar në atë besim të shenjtë. Gabimet në memorandumin tim, sado të paqëllimshme, kanë zvogëluar integritetin e dokumentit dhe dinjitetin e këtyre procedurave. Ashtu si shkruesit e antikitetit që e mbanin stilolapsin e tyre si privilegj dhe barrë, e kuptoj se autorësia ligjore kërkon më shumë sesa thjesht kompetencë – ajo kërkon besnikëri absolute ndaj së vërtetës dhe saktësi në çdo shenjë në faqe.

Edhe pse gjykatësi besonte se “proza ​​e harlisur” sinjalizonte se një chatbot e shkroi draftin, Feldman e mohoi këtë. Në një transkript të seancës dëgjimore në të cilin gjykatësi peshoi sanksionet e mundshme, Feldman dëshmoi se ai shkroi çdo fjalë të dosjeve. Ai shpjegoi se e kishte lexuar librin e Bradbury-t “shumë vite më parë” dhe donte të përfshinte “gjëra personale” në atë dosje. Dhe sa i përket referencave të tij për Ashurbanipalin, edhe ato “erdhën nga unë”, tha ai.

Në vend që të pranonte se kishte lejuar një IA të hartonte dosjet e tij, ai pohoi se gabimi i tij më i madh ishte mbështetja në programe të ndryshme të IA-së për të shqyrtuar dhe verifikuar citimet. Ndër mjetet që ai pranoi se kishte përdorur ishin Paxton AI, Vincent AI i vLex dhe NotebookLM i Google. Në thelb, ai dëshmoi se zëvendësoi tre raunde shqyrtimi të IA-së me një lexim të vetëm të të gjitha rasteve që po citonte. Ai tha se ky gabim lejoi që halucinacionet dhe citimet e rreme të futeshin në dosje.

Por gjyqtarja kundërshtoi, duke shkruar në urdhrin e saj se ishte “jashtëzakonisht e vështirë të besohej” që AI nuk i kishte hartuar ato pjesë që përmbanin prozë të ekzagjeruar. Ajo e akuzoi Feldmanin se po i shmangej të vërtetës.

“Gjykata i sheh gjërat ndryshe: IA e gjeneroi këtë citim që nga fillimi, dhe vendimi i z. Feldman për të hequr shumicën e citimeve dhe për të shkruar ‘më shumë një letër personale’” nuk është “asgjë tjetër veçse një justifikim ex post që kërkon të errësojë keqpërdorimin e tij të IA-së dhe refuzimin e tij të palëkundur për të shqyrtuar parashtrimet e tij për saktësi”, shkroi Failla.

Në seancën dëgjimore, ajo shprehu zhgënjim dhe bezdi ndaj Feldman për shmangien e pyetjeve të saj dhe dhënien e përgjigjeve jokonsistente. Përfundimisht, ai dëshmoi se përdori inteligjencën artificiale për të korrigjuar informacionin kur hartoi një nga dosjet, të cilën Failla e konsideroi menjëherë “të pamatur”, por jo atë që citonte Bradbury-n.

Feldman është një nga qindra avokatë që janë mbështetur te Inteligjenca Artificiale për të hartuar dosje, të cilat kanë futur citime të rreme në çështje. Avokatët kanë ofruar një gamë të gjerë justifikimesh për t’u mbështetur shumë te Inteligjenca Artificiale. Disa janë përballur me gjoba të vogla, rreth 150 dollarë, ndërsa të tjerë janë goditur me mijëra gjoba, duke përfshirë një rast ku sanksionet arritën në 85,000 dollarë për sjellje të përsëritur abuzive . Të paktën një firmë avokatie ka kërcënuar të pushojë nga puna avokatët duke përmendur raste të rreme , dhe avokatë të tjerë kanë vendosur sanksione të tjera vullnetare, si marrja e një leje njëvjeçare.

Me sa duket, Feldman nuk mendonte se sanksionet ishin të përligjura në këtë rast. Në mbrojtjen e tij për tre dosje që përmbanin 14 gabime nga 60 citime gjithsej, Feldman diskutoi sfidat e tij në aksesin në bazat e të dhënave ligjore për shkak të kostove të larta të abonimit dhe orarit të shkurtër të bibliotekës. Me më shumë se një rast në pritje dhe diplomimet e fëmijëve të tij për të ndjekur, ai luftoi për të verifikuar citimet gjatë kohës kur nuk mund të shkonte në bibliotekë, dëshmoi ai. Si një zgjidhje alternative, ai u mbështet në disa programe të inteligjencës artificiale për të verifikuar citimet që gjeti duke kërkuar në mjete si Google Scholar.

Feldman me shumë gjasa nuk priste që gjyqtari ta mbyllte çështjen si rezultat i keqpërdorimeve të tij të inteligjencës artificiale. I pyetur se si mendonte se gjykata duhet t’i zgjidhte gjërat, Feldman sugjeroi që mund t’i korrigjonte dosjet duke u mbështetur te avokatë të tjerë për të shqyrtuar citimet, duke shmangur “çdo përdorim të çfarëdo metode, e dini, të inteligjencës artificiale ose të llojit të LLM-së”. Megjithatë, gjyqtari shkroi se keqpërdorimet e tij të përsëritura ishin “prova” se ai “nuk kishte mësuar asgjë” dhe nuk kishte zbatuar masa mbrojtëse vullnetare për të kapur gabimet.

I pyetur për koment, Feldman i tha Ars se nuk kishte kohë të diskutonte sanksionet, por shpresonte që përvoja e tij të ndihmonte në rritjen e ndërgjegjësimit se sa të paarritshme janë dokumentet gjyqësore për publikun. “Përdorimi i Inteligjencës Artificiale dhe aftësia për ta përmirësuar atë, ekspozon një luftë më të thellë ndërmjetësuese nëse ligji dhe studimet serioze mbeten të auditueshme publikisht, apo kalojnë në sisteme të mbyllura, të kontrolluara nga ndërmjetës që dëmtojnë verifikimin dhe procesin e rregullt ligjor”, sugjeroi Feldman.

“Mësimi i vërtetë ka të bëjë me transparencën dhe dizajnin e sistemit, jo thjesht me dështimin e mjeteve”, tha Feldman.

Por në seancën dëgjimore, Failla tha se mendon që Feldman kishte “qasje në kopshtin e rrethuar me mure” të bazave të të dhënave ligjore, nëse ai “do të shkonte në bibliotekën ligjore” për të bërë kërkimet e tij, në vend që të mbështetej në mjetet e inteligjencës artificiale.

Tingëllon sikur doni që unë të them se duhet të liroheni nga të gjitha këto gabime të tmerrshme në citime, këto citime të humbura, sepse nuk keni Westlaw, tha gjykatësi. Por tani e di që keni qasje në Westlaw. Atëherë, çfarë doni?

Siç e shpjegoi Failla në urdhrin e saj, ajo mendon se përfundimi kryesor është se Feldman dështoi rregullisht të kapte gabimet e tij. Ajo tha se nuk ka problem me avokatët që përdorin inteligjencën artificiale për të ndihmuar kërkimin e tyre, por Feldman pranoi se nuk i lexoi rastet që ai citoi dhe “me sa duket” nuk mund të “mësojë nga gabimet e tij”.

Verifikimi i citimeve të rasteve nuk duhet të jetë kurrë një punë që i lihet IA-së, tha Failla, duke i përshkruar metodat e kërkimit të Feldman si “të ngjashme me ato të Rube Goldberg”.

“Shumica e avokatëve e quajnë këtë thjesht ‘kryerje kërkimesh ligjore’,” shkroi Failla. “Të gjithë avokatët duhet të dinë si ta bëjnë këtë. Z. Feldman nuk lirohet nga ky detyrim profesional për shkak të përdorimit të teknologjisë së re.”

“Shpjegimet e tij ishin të gjata në fjalë, por të pakta në përmbajtje”, shkroi gjykatësja. Ajo arriti në përfundimin se ai shkeli “në mënyrë të përsëritur dhe të paturpshme” Rregullin 11, i cili kërkon që avokatët të verifikojnë rastet që citojnë, “pavarësisht paralajmërimeve të shumta”.

Duke vënë në dukje se Feldman “nuk arriti ta pranonte plotësisht përgjegjësinë”, ajo vendosi që sanksionet për mbylljen e çështjes ishin të nevojshme, duke futur në fuqi gjykimin në mungesë për paditësit. Feldman mund të jetë gjithashtu përgjegjëse për të paguar tarifat për humbjen e kohës së avokatëve të tjerë.

Transkripti i seancës dëgjimore ka qarkulluar në mediat sociale për shkak të qasjes së qartë të gjyqtares ndaj ngritjes së akuzave për Feldman, të cilën ajo e konsideroi qartësisht të paqëndrueshme dhe pa besueshmëri.

Dëgjo, nëse nuk do të jesh i sinqertë me mua, nëse nuk do t’u përgjigjesh pyetjeve me sinqeritet, në rregull, tha Failla. Do të marr vendimet e mia për atë që mendoj se bëre në këtë rast. Po të jap një mundësi të përpiqesh të shpjegosh diçka që mendoj se nuk mund të shpjegohet.

Në urdhrin e saj këtë javë, ajo vuri në dukje se Feldman “pati vështirësi të bënte kontakt me sy” dhe u largua nga gjykata pa “përgjigje të qarta”.

Gabimet e Feldman u bënë në një rast në të cilin një kompani lodrash paditi tregtarët të cilët dyshohet se nuk arritën të ndalonin shitjen e mallrave të vjedhura pasi morën një urdhër ndërprerjeje. Klienti i tij ishte midis tregtarëve të akuzuar për përfitim të paligjshëm nga vjedhjet e dyshuara. Ata u përballën me akuza federale për shkelje të markës tregtare, konkurrencë të padrejtë dhe reklamim të rremë, si dhe akuza të Nju Jorkut, duke përfshirë nxitjen e shitjes së mallrave të vjedhura.

Humbja shkakton masa juridike, duke përfshirë një urdhër ndalimi që parandalon shitjet shtesë të mallrave të vjedhura dhe rimbursimin e parave për çdo klient që i bleu ato. Klienti i Feldman duhet gjithashtu të dorëzojë çdo mall të vjedhur në inventarin e tij të mbetur dhe të shlyejë fitimet. Mund të ketë edhe dëme të tjera, së bashku me interesin. Ars nuk mundi të kontaktonte menjëherë një avokat të paditësve për të diskutuar urdhrin e sanksioneve ose mjetet juridike që rezultuan.

Failla theksoi në urdhrin e saj se Feldman dukej se nuk e vlerësonte “rëndësinë e situatës”, duke paraqitur vazhdimisht dokumente me citime të rreme edhe pasi ishte paralajmëruar se mund të urdhëroheshin sanksione.

Kjo ishte një zgjedhje, tha Failla, duke vënë në dukje se gabimet e Feldman u kapën herët nga një avokat që punonte për një të pandehur tjetër në këtë çështje, Joel MacMull, i cili i kërkoi Feldman të njoftonte menjëherë gjykatën. I gjithë debakli do të kishte mbaruar në qershor 2025, sugjeroi MacMull në seancën dëgjimore.

Megjithatë, në vend që të ndiqte këshillën e MacMull, Feldman vonoi njoftimin e gjykatës, duke e bezdisur gjyqtarin. Ai dëshmoi gjatë seancës së ashpër të sanksioneve se vonesa ishte për shkak të një përpjekjeje që ai ndërmori në heshtje, duke punuar për të korrigjuar dosjen. Me sa duket, ai planifikoi t’i paraqiste ato korrigjime kur ta njoftonte gjykatën për gabimet.

Por Failla vuri në dukje se ai nuk paraqiti kurrë korrigjime, duke këmbëngulur në vend të kësaj që Feldman e mbajti atë “në errësirë”.

Nuk ka asnjë arsye të vërtetë pse duhet ta kishe mbajtur të fshehur këtë nga unë, tha gjykatësi.

Gjykata mësoi për gjobën e rreme vetëm pasi MacMull njoftoi gjyqtarin duke ndarë email-e për përpjekjet e tij për ta bindur Feldman të vepronte urgjentisht. Këto email-e tregonin Feldman duke e qortuar MacMull për sjellje joprofesionale pasi MacMull refuzoi të kontrollonte gjobën e Feldman për të, gjë që Failla vuri në dukje në seancën dëgjimore se nuk ishte absolutisht përgjegjësi e MacMull.

Feldman i tha Failla-s se ai gjithashtu mendonte se ishte joprofesionale që MacMull të ndante korrespondencën e tyre, por Failla tha se emailet ishin “ndriçuese”.

Në seancën dëgjimore, MacMull pyeti nëse gjykata do ta lejonte atë të kërkonte pagesën e tarifave të tij, pasi ai beson se “ka pasur një shumëfishim të procedurave këtu që do të kishte qenë krejtësisht i panevojshëm nëse z. Feldman do të kishte bërë atë që i kërkova të bënte atë natë të dielën në qershor”.