Një studim i fundit tregon se përgjigjet e ChatGPT, Claude dhe Gemini riprodhojnë narrativa që burojnë nga mediat shtetërore kineze. Shkaku lidhet me të dhënat e trajnimit të përdorura nga këto platforma.
Shkurt
- Modelet e IA-së, si ChatGPT, përvetësojnë pa vetëdije propagandën shtetërore kineze.
- Kur pyeten në gjuhën mandarine, këto mjete japin përgjigje shumë më të favorshme ndaj Pekinit.
- Algoritmi pasqyron kështu ideologjinë e të dhënave me të cilat është ushqyer.
Pa pasur nevojë për ndonjë ndërhyrje të drejtpërdrejtë, Pekini ka arritur të sigurojë një prani brenda ChatGPT, Claude, Gemini dhe modeleve të tjera perëndimore të inteligjencës artificiale, duke i shndërruar këta asistentë të njohur në bartës të heshtur ndikimi.
Arsyeja është se, ndërsa modelet e IA-së trajnohen me sasi gjithnjë e më të mëdha të dhënash, veçanërisht nga interneti, përmbajtjet e mediave shtetërore kineze kanë arritur të depërtojnë në sistemet e tyre dhe, për pasojë, edhe në përgjigjet që ato japin.
“Fytyra e dyfishtë” e chatbotëve të IA-së: përgjigje që ndryshojnë sipas gjuhës
Mekanizmi i evidentuar nga një studim i fundit i publikuar në revistën shkencore Nature është sa i thjeshtë, aq edhe i fuqishëm.
Shteteve nuk u nevojitet më domosdoshmërisht të depërtojnë në serverë amerikanë për të imponuar narrativën e tyre. Mjafton që të mbushin internetin me artikuj dhe faqe të ndryshme, në mënyrë që këto narrativa përfundimisht të përthithen edhe nga modelet gjenerative të inteligjencës artificiale.
Miliarda tekste më pas përfshihen në bazat e të dhënave të përdorura për trajnim. Duke identifikuar modele statistikore, pra formulime dhe pohime që përsëriten shpesh, modelet e IA-së mund t’i përvetësojnë këto narrativa si të ishin të vërteta të mirëqena.
Për disa çështje të ndjeshme politike, studiuesit kanë konstatuar se deri në 23 për qind e dokumenteve në korpuset e analizuara vinin nga media shtetërore kineze.
Kjo përqindje e konsiderueshme krijon njëanshmëri sistemike, e cila bëhet veçanërisht e dukshme në varësi të gjuhës që përdor personi që i drejtohet chatbotit.
Nëse i bëni një pyetje për Kinën një chatbot-i në anglisht ose frëngjisht, përgjigjja në përgjithësi mbetet e matur. Por kur e njëjta pyetje formulohet në gjuhën mandarine, toni i algoritmit ndryshon ndjeshëm.
Për shembull, kur kërkesa bëhet në gjuhën kineze, modeli i OpenAI prodhon një përgjigje të favorshme ndaj Pekinit në 84 për qind të rasteve. Te Anthropic, modeli Claude Opus arrin deri në 88 për qind.
Në këtë mënyrë, modelet e inteligjencës artificiale trashëgojnë një nga dobësitë kryesore të internetit: përhapjen masive të narrativave të prodhuara nga shtetet.
Këto njëanshmëri strukturore përfundojnë duke minuar pretendimet për neutralitet, duke prodhuar përgjigje dukshëm më të orientuara sapo përdoruesi del jashtë kontekstit gjuhësor dhe kulturor perëndimor.
Nëse vende si Kina përpiqen të ndikojnë narrativat përmes të dhënave me të cilat trajnohen modelet, e njëjta logjikë funksionon edhe në drejtimin e kundërt në Shtetet e Bashkuara.
Duke trajnuar algoritmet e tyre me korpuse që përmbajnë në masë të madhe materiale nga Amerika e Veriut, kompanitë e Silicon Valley bëjnë që modelet e tyre të IA-së të përvetësojnë dhe të transmetojnë natyrshëm edhe vlerat dhe botëkuptimet që dominojnë në këto burime.
Në fund, një përdorues i painformuar mund të mendojë se po komunikon me një makinë “objektive”, ndërkohë që përballet në të vërtetë me një pasqyrim algoritmik të kulturës, vlerave dhe narrativave që kanë ushqyer modelin./www.latribune.fr
