Google thotë se ka rregulluar përmbledhjet e AI që të gjithë i kanë pjekur për javë të tëra

Në I/O 2024 disa javë më parë, Google njoftoi se Përmbledhjet e AI do të shfaqen në krye të rezultateve të Kërkimit të Google në SHBA, duke u thënë përdoruesve se dëshiron që AI të bëjë google për ta. Por AI Overviews doli të ishte një gabim i madh nga kompania që kaq shumë njerëz i besojnë për rezultatet e sakta të kërkimit në internet.

Përmbledhjet e AI u bënë virale në mediat sociale për shfaqjen e përgjigjeve të pakuptimta, të pasakta dhe ndonjëherë të rrezikshme në krye të Kërkimit. Google Search në fakt sugjeroi vendosjen e ngjitësit në picë për të bërë që djathi të ngjitet.

Ne ju treguam mënyra për të shmangur Përmbledhjet e AI në kërkim dhe kuptova se vendimi im për të hequr dorë nga Kërkimi në Google shumë kohë më parë ishte një vendim i zgjuar. Nuk do të më duhet të merrem kurrë me asnjë nga këto marrëzi. Unë thashë gjithashtu që Google duhet të tërhiqte funksionin e Përmbledhjeve të AI nga Google Search. Së paku, veçoria duhet të jetë opsionale dhe jo e paracaktuar.

Çuditërisht, Google nuk ka plane të tërhiqet nga AI. Në vend të kësaj, Google shpjegoi se çfarë ndodhi që nga I/O, pse Përmbledhjet e AI ofrojnë informacione të pasakta dhe çfarë është bërë për ta rregulluar atë. Google gjithashtu ju fajësoi ju, përdorues, që i keni dhënë një emër të keq AI Overviews.

Unë ju kam paralajmëruar herë pas here se AI si ChatGPT mund të shpikë informacion të rremë. Quhet halucinacion dhe është një problem që askush në industrinë e AI nuk di se si ta rregullojë. Google shpjegoi në një postim në blog se Përmbledhjet e AI nuk funksionojnë në modelet e zakonshme të gjuhëve të mëdha, kështu që ato nuk halucinojnë në të njëjtën mënyrë:

Përmbledhjet e AI funksionojnë shumë ndryshe nga chatbot-et dhe produktet e tjera LLM që njerëzit mund t’i kenë provuar. Ata nuk po gjenerojnë thjesht një rezultat të bazuar në të dhënat e trajnimit. Ndërsa Përmbledhjet e AI-së mundësohen nga një model gjuhësor i personalizuar, modeli është i integruar me sistemet tona kryesore të renditjes së uebit dhe i projektuar për të kryer detyrat tradicionale të “kërkimit”, si identifikimi i rezultateve përkatëse me cilësi të lartë nga indeksi ynë. Kjo është arsyeja pse Përmbledhjet e AI nuk ofrojnë vetëm dalje teksti, por përfshijnë lidhje përkatëse në mënyrë që njerëzit të mund të eksplorojnë më tej. Për shkak se saktësia është parësore në “Kërko”, “Përmbledhjet e AI” janë ndërtuar për të shfaqur vetëm informacione që mbështeten nga rezultatet kryesore të uebit.

Kjo do të thotë që Përmbledhjet e AI në përgjithësi nuk “halucinojnë” ose nuk i krijojnë gjërat në mënyrat që mund të mund të kenë produktet e tjera LLM. Kur Përmbledhjet e AI e kuptojnë gabim, zakonisht është për arsye të tjera: keqinterpretimi i pyetjeve, keqinterpretimi i një nuance të gjuhës në ueb ose mospasja e shumë informacioneve të shkëlqyera në dispozicion. (Këto janë sfida që ndodhin edhe me veçoritë e tjera të Kërkimit.)

Google tha se testoi Përmbledhjet e tij të AI dhe i optimizoi ato për saktësi. Por miliona njerëz që përdorin funksionin çuan në kërkime të reja kërkimi. Ashtu si “kërkimet e reja të pakuptimta, në dukje që synojnë të prodhojnë rezultate të gabuara”. Po, Google po ju fajëson për shkaktimin e këtyre gabimeve qesharake.

Google thotë gjithashtu se njerëzit kanë falsifikuar rezultatet e Përmbledhjeve të AI. Pra, përsëri, ju jeni fajtorë:

Më vete, ka pasur një numër të madh pamjesh të falsifikuara të ekranit të shpërndara gjerësisht. Disa nga këto rezultate të falsifikuara kanë qenë të dukshme dhe pa kuptim. Të tjerë kanë lënë të kuptohet se kemi kthyer rezultate të rrezikshme për tema si lënia e qenve në makina, pirja e duhanit gjatë shtatzënisë dhe depresioni. Këto Përmbledhje të AI nuk u shfaqën kurrë. Kështu që ne do të inkurajonim këdo që ndeshet me këto pamje të ekranit të bëjë vetë një kërkim për t’i kontrolluar.

Vetëm pas kësaj Google merr përgjegjësinë dhe thotë se “disa Përmbledhje të AI të çuditshme, të pasakta ose të padobishme sigurisht që u shfaqën”. Por këto u shfaqën për “pyetjet që njerëzit zakonisht nuk i bëjnë”.

Me sa duket, askush nuk është në depresion:

Google konfirmoi diçka që ne e dinim gjatë gjithë kohës nga Përmbledhjet e AI që u bënë virale: AI i saj nuk mund të interpretojë “pyetje të pakuptimta dhe përmbajtje satirike”. Për shembull, pyetja “Sa gurë duhet të ha?” prodhoi një përgjigje vetëm sepse e konsideronte përmbajtjen satirike si burimin e vetëm të informacionit.

Kompania gjithashtu iu drejtua Përmbledhjeve të AI-së për ngjitësin e picave në postimin në blog, duke fajësuar forumet si Reddit, pa e emërtuar në të vërtetë:

Në shembuj të tjerë, ne pamë Përmbledhje të AI që shfaqnin përmbajtje sarkastike ose troll-y nga forumet e diskutimit. Forumet janë shpesh një burim i shkëlqyeshëm i informacionit autentik, të dorës së parë, por në disa raste mund të çojnë në këshilla më pak se të dobishme, si përdorimi i ngjitësit për të ngjitur djathin tek pica.

Google është i vendosur të mbajë Përmbledhjet e AI në krye të Google Search, ndaj ka filluar t’i rregullojë ato. Këtu janë disa nga gjërat që Google po përmirëson, siç renditen në postimin në blog:

Ne ndërtuam mekanizma më të mirë zbulimi për pyetjet e pakuptimta që nuk duhet të shfaqin një Përmbledhje të AI dhe kufizuam përfshirjen e përmbajtjes satirë dhe humori.
Ne përditësuam sistemet tona për të kufizuar përdorimin e përmbajtjes së krijuar nga përdoruesit në përgjigjet që mund të ofrojnë këshilla mashtruese.
Ne shtuam kufizime nxitëse për pyetjet ku Përmbledhjet e AI nuk po rezultonin të ishin aq të dobishme.
Për tema si lajmet dhe shëndeti, ne tashmë kemi vendosur parmakë të fortë. Për shembull, ne synojmë të mos shfaqim Përmbledhje të AI për tema të vështira lajmesh, ku freskia dhe faktet janë të rëndësishme. Në rastin e shëndetit, ne filluam përmirësime të tjera nxitëse për të përmirësuar mbrojtjen tonë të cilësisë.
A janë pas saj problemet e Google me Përmbledhjet e AI? Nuk kemi si ta dimë. Përmbledhjet e AI përmirësohen më mirë për hir të Google. Pastaj përsëri, ne jemi ende në ditët e para të AI kur bëhet fjalë për saktësinë. Nuk do të habitesha nëse vazhdojmë të shohim përmbledhje të gabuara të AI, pasi Google vazhdon të luftojë për të përmirësuar funksionin që deri më tani ka qenë për të qeshur.