Studime të sajuara dhe referenca shkencore që në të vërtetë nuk ekzistojnë kanë përfunduar në komisionet e Parlamentit australian, pasi individë dhe institucione kanë përdorur mjete të inteligjencës artificiale për përgatitjen e parashtresave që supozohej t’i ndihmonin deputetët në hartimin e politikave dhe legjislacionit.
Një analizë e kryer nga “The Guardian Australia” zbuloi se të paktën 39 parashtresa të dorëzuara në kuadër të hetimeve parlamentare përmbanin referenca që dukeshin se ishin gjeneruar ose shtrembëruar nga inteligjenca artificiale.
Në disa raste, raportet e komisioneve parlamentare citonin parashtresa në të cilat shumica e burimeve të renditura nuk ekzistonin fare.
Ekspertët paralajmërojnë se, nëse fenomeni vazhdon, parlamentarët mund të marrin vendime duke u mbështetur në “prova që nuk kanë ekzistuar kurrë”.
Një studim i rremë në emër të një studiueseje të vërtetë
Një nga rastet më domethënëse lidhet me një parashtresë të paraqitur në kuadër të një hetimi mbi dhunën në familje dhe vetëvrasjen. Dokumenti përmbante një studim që i atribuohej Divna Haslam, profesoreshë e psikologjisë klinike në Universitetin e Queenslandit.
Referenca dukej akademike, e detajuar dhe plotësisht bindëse, por në fakt ishte e sajuar.
Parashtresa i atribuonte gjithashtu ekipit të Haslamit rezultate që nuk përputheshin me kërkimet e tyre reale.
Studiuesja tha se referenca ishte “frikësuese”, sepse ishte formuluar në një mënyrë aq bindëse sa mund të mashtronte këdo që do ta kontrollonte vetëm sipërfaqësisht.
Organizata që kishte përgatitur dokumentin, “Drill Down Reports”, pranoi se kishte përdorur inteligjencën artificiale gjatë procesit të kërkimit.
Sipas saj, gabimet ishin zbuluar dhe ishte përgatitur një version i korrigjuar, por afati për ndryshimin e dokumentit origjinal kishte kaluar. Organizata tha se versioni i gabuar mbeti në sistem për shkak të një gabimi njerëzor gjatë ngarkimit të dokumentit të duhur.
Në një rast tjetër, një parashtresë mbi pabarazinë në strehim përmbante referenca ndaj studimeve që pretendohej se ishin shkruar nga Nicole Gurran, profesoreshë e planifikimit urban në Universitetin e Sidneit.
Por ajo nuk i kishte shkruar ato.
Një tjetër dokument, i paraqitur në një hetim të Senatit mbi dezinformimin klimatik, përfshinte një artikull që i atribuohej gazetares dhe akademikes Margaret Simons.
Simons deklaroi se nuk e kishte shkruar atë artikull, ndonëse referenca ishte hartuar me aq saktësi dhe bindshmëri sa për një moment e kishte bërë të pyeste veten nëse ndoshta e kishte harruar.
Si u zbuluan referencat e rreme?
Hetimi i “The Guardian” nuk u mbështet në programe që pretendojnë se zbulojnë automatikisht tekstet e gjeneruara nga inteligjenca artificiale, për shkak të rrezikut të lartë të rezultateve të pasakta.
Në vend të kësaj, ekipi i gazetës ndërtoi një program që nxirrte automatikisht referencat nga parashtresat e dorëzuara në hetimet parlamentare në zhvillim.
Më pas, referencat u kërkuan në bazën e të dhënave “Crossref”, e cila përfshin kërkime shkencore dhe libra, si dhe në “Google Scholar”. U kontrolluan gjithashtu identifikuesit digjitalë të dokumenteve, të njohur si DOI.
Parashtresat për të cilat nuk mund të gjendeshin 20 për qind ose më shumë e burimeve të përmendura iu nënshtruan më pas një kontrolli njerëzor.
Gazetarët kontaktuan gjithashtu disa nga autorët ose organizatat që kishin dorëzuar dokumentet për të verifikuar rezultatet.
Në përfundim, ekipi identifikoi të paktën 39 parashtresa që përmbanin referenca të sajuara ose të pasakta.
Në disa prej këtyre dokumenteve, asnjë nga burimet e renditura nuk ekzistonte.
Më shumë se 100 dokumente përmbanin gjithashtu shenja teknike që u shtohen lidhjeve kur ato kopjohen nga ChatGPT.
Megjithatë, hetimi theksoi se këto shenja nuk përbëjnë provë të drejtpërdrejtë se platforma është përdorur në mënyrë të drejtpërdrejtë, pasi ato mund të ruhen edhe kur një lidhje kopjohet më pas nga një burim tjetër.
Kur gabimi fillon të riprodhojë vetveten
Problemi bëhet edhe më serioz kur një parashtresë parlamentare publikohet në internet dhe shndërrohet në një burim të hapur që mund të indeksohet nga motorët e kërkimit.
Në rastin e studimit të rremë që i atribuohej Haslamit, përmbledhja e Google e mbështetur nga inteligjenca artificiale e përshkroi studimin sikur të ishte real.
Për ta bërë këtë, sistemi ishte mbështetur pikërisht te dokumenti parlamentar që përmbante referencën e sajuar.
Në këtë mënyrë krijohet një rreth vicioz i dezinformimit: inteligjenca artificiale shpik një studim; studimi i sajuar futet në një dokument parlamentar; dokumenti publikohet në internet; më pas motorët e kërkimit dhe sistemet e tjera të IA-së e përdorin atë dokument si “provë” se studimi ekziston vërtet.
Kështu, një informacion fillimisht i rremë mund të fitojë gradualisht pamjen e një fakti të konfirmuar.
Rreziku për vendimmarrjen politike
Fakti që një parashtresë pranohet nga parlamenti ose citohet në një raport nuk do të thotë domosdoshmërisht se institucioni ka miratuar të gjitha pretendimet që përmban ajo.
Megjithatë, kalimi i referencave të pasakta pa verifikim mund të ketë pasoja serioze.
Informacionet e tilla mund të ndikojnë në rekomandimet e qeverisë, në shpërndarjen e fondeve publike apo edhe në formulimin e ligjeve të reja.
Udhëzimet e Senatit australian përcaktojnë se përgjegjësia për saktësinë e informacionit bie mbi personin ose organizatën që dorëzon parashtresën.
Në këto udhëzime paralajmërohet gjithashtu posaçërisht për rreziqet që lidhen me përdorimin e inteligjencës artificiale.
OpenAI i tha gazetës se përdoruesit duhet ta trajtojnë ChatGPT-në si një “draft të parë dhe jo si burim përfundimtar” dhe se citimet, shifrat dhe referencat duhet të verifikohen në mënyrë të pavarur.
Problemi, pra, nuk fillon thjesht kur inteligjenca artificiale përdoret për të ndihmuar në hartimin e një dokumenti.
Problemi fillon kur dokumenti mbërrin në parlament pa e hapur askush studimin ose burimin mbi të cilin pretendohet se mbështeten argumentet e tij.
Burimi: Sky News Arabia, bazuar në hetimin e “The Guardian Australia”.
