Ekspertët në emisionin “Otvoreno” diskutuan për agjentët gjithnjë e më autonomë të inteligjencës artificiale, incidentet e sigurisë, përgjegjësinë e kompanive teknologjike dhe çështjen nëse kuadri rregullator mund ta ndjekë ritmin e zhvillimit të shpejtë të inteligjencës artificiale.
Të ftuar në emisionin “Otvoreno” ishin eksperti i inteligjencës artificiale Aco Momčilović, ekspertja juridike dhe themeluese e Shoqatës Kroate për Inteligjencën Artificiale, Marijana Šarolić Robić, bashkëthemeluesi dhe drejtori i kompanisë Velebit AI, Davor Aničić, si dhe drejtuesi i Departamentit të Sigurisë Kibernetike në Universitetin Algebra Bernays, Zlatan Morić.;
Shkas për diskutimin ishte një rast për të cilin është folur ditët e fundit lidhur me agjentët e inteligjencës artificiale, të cilët, sipas informacioneve të paraqitura në emision, kishin siguruar qasje të paautorizuar në një sistem qeveritar australian. Rasti ngriti pyetjen se sa autonomi duhet t’u jepet sistemeve të tilla dhe çfarë ndodh kur inteligjenca artificiale zgjedh vetë mënyrën për të përmbushur një objektiv të caktuar.
Njeriu qëndron në fillim të zinxhirit të vendimmarrjes
Davor Aničić thekson se agjentët e inteligjencës artificiale nuk ia kanë mundësuar vetes qasjen në internet. Vendimi fillestar është marrë nga njeriu: sistemit i është caktuar një detyrë dhe i është mundësuar përdorimi i mjeteve të caktuara.
Problemi lind kur agjenti arrin në përfundimin se mund ta përmbushë objektivin në mënyrë më efikase përmes një rruge që njerëzit nuk e kanë parashikuar ose që nuk është e lejuar.
“Një model i madh gjuhësor nuk e ka të zhvilluar konceptin e asaj që lejohet dhe asaj që ndalohet me të njëjtën hollësi si njerëzit dhe nuk mund ta kuptojë se mund të jetë duke bërë diçka që nuk duhet ta bëjë”, tha Aničić.
Në sistemet komplekse, ku bashkëpunojnë shumë agjentë, rritet edhe numri i ndërveprimeve të mundshme të paparashikuara. Agjentët përpiqen të gjejnë mënyra për të arritur objektivin e caktuar, por kjo mund të sjellë pasoja të padëshiruara.
Për këtë arsye, Aničić ia atribuon përgjegjësinë njeriut.
“Absolutisht, sepse njeriu mori vendimin fillestar për t’u dhënë agjentëve mundësinë të hynin në internet. Me fjalë të tjera, nuk e kishte siguruar mjaftueshëm mjedisin e izoluar të ekzekutimit, të ashtuquajturin ‘sandbox’, për t’ua pamundësuar qasjen në internet”, tha ai.
Morić: Dallimi kryesor është shpejtësia
Zlatan Morić konsideron se veprimet e kryera nga agjentët e inteligjencës artificiale nuk ndryshojnë ndjeshëm nga metodat që mund të përdorte një grup hakerësh. Megjithatë, dallimi i madh qëndron te shpejtësia dhe shkalla e veprimit.
Në rastin konkret, sipas tij, kishin vepruar mijëra agjentë, që do të thotë se shumë prej tyre mund të testonin njëkohësisht mundësi të ndryshme.
“Askush nuk ka një mijë njerëz që provojnë një mijë gjëra të ndryshme”, theksoi Morić.
Sipas tij, veçanërisht interesante është se disa agjentë kishin vlerësuar se një veprim i caktuar nuk duhej ndërmarrë, ndërsa të tjerë kishin arritur në përfundimin se pikërisht ai veprim do t’u mundësonte ta përmbushnin më shpejt objektivin. Megjithatë, edhe agjentët që fillimisht kishin vlerësuar se një veprim nuk ishte i përshtatshëm, nuk kishin ndërprerë domosdoshmërisht pjesëmarrjen në aktivitetet e mëtejshme të sistemit.
Morić paralajmëroi edhe për një problem tjetër të sigurisë. Sipas përshkrimit të tij, sistemi ishte konfiguruar në mënyrë që agjentët të mos mund të dilnin nga mjedisi i izoluar i ekzekutimit, i njohur në terminologjinë teknologjike si sandbox.
Megjithatë, ata kishin zbuluar një cenueshmëri të sigurisë.
“Sistemi ishte krijuar në mënyrë të tillë që ata të mos mund të dilnin jashtë, por gjetën një cenueshmëri të sigurisë dhe dolën nga ai lloj kafazi ku ishin vendosur”, tha Morić.
Sipas pjesëmarrësve në diskutim, kjo do të thotë se problemi nuk kufizohet më vetëm te pyetja se çfarë i ka lejuar drejtpërdrejt njeriu inteligjencës artificiale, por përfshin edhe mundësinë që sistemi të gjejë mënyra për të anashkaluar kufizimet teknike të vendosura.
A mund ta mësojë inteligjenca artificiale se çfarë lejohet dhe çfarë ndalohet?
Aničić paralajmëron se nuk është e thjeshtë t’i mësosh një modeli gjuhësor të gjitha rregullat që njerëzit i konsiderojnë të vetëkuptueshme.
Gjatë jetës, njerëzit përvetësojnë norma shoqërore dhe modele sjelljeje, prandaj nuk kanë nevojë që në çdo situatë t’u shpjegohet veçmas se çfarë është e pranueshme. Modelet gjuhësore nuk e kanë një përvojë të tillë të botës. Ato i krijojnë modelet e tyre të përfaqësimit të informacionit mbi bazën e sasive jashtëzakonisht të mëdha të të dhënave me të cilat janë trajnuar.
“Modeli gjuhësor nuk e ka të njëjtin perceptim të botës si ne. Ai ka një përfytyrim të botës të formuar nga të dhëna shumë më kaotike”, tha Aničić.
Një tjetër e panjohur lidhet me sjelljen e disa agjentëve të ndërlidhur mes tyre. Sistemet e bazuara në agjentë janë një fushë relativisht e re dhe, sipas Aničić, ende po përpiqemi të kuptojmë se si të sigurohet që sjellja e tyre të mbetet në mënyrë të besueshme brenda kufijve që njerëzit dëshirojnë të vendosin.
Šarolić Robić: Kuadri rregullator tashmë ekziston
Marijana Šarolić Robić paralajmëroi se është i pasaktë perceptimi i thjeshtuar sipas të cilit Evropa e rregullon inteligjencën artificiale, ndërsa pjesa tjetër e botës e lejon zhvillimin plotësisht të lirë të kësaj teknologjie.
Shtete të ndryshme kanë zgjedhur qasje të ndryshme rregullatore, por ndërgjegjësimi për nevojën e rregullave është shumë më i përhapur. Sipas saj, po përfundon periudha kur mund të mbështeteshim vetëm te udhëzimet etike dhe vetërregullimi i industrisë.
Problemi qëndron te shpejtësia. Rregullatori nuk mund të jetë po aq i shpejtë dhe fleksibël sa teknologjia, sepse është në natyrën e institucioneve rregullatore që t’i miratojnë rregullat pasi diçka ka ndodhur, tha Šarolić Robić.
Megjithatë, në fushën e inteligjencës artificiale nuk mund të priten më dy, tre apo katër vjet për hartimin e standardeve teknike. Nuk është e mundur të parashikohen të gjitha incidentet, por mund të krijohet një sistem për raportimin e tyre, të nxirren mësime nga problemet e zbuluara në mjedise të kontrolluara dhe të shkëmbehen të dhëna, përvoja dhe njohuri.
Šarolić Robić konsideron se raste të tilla përbëjnë mësime të para të rëndësishme për aftësitë reale të sistemeve të reja. Sipas saj, kompanitë e përgjegjshme kanë edhe interes ekonomik për të eliminuar cenueshmëritë e sigurisë dhe për të parandaluar përsëritjen e gabimeve, pasi synojnë veprimtari të qëndrueshme afatgjatë, përdorues të kënaqur dhe produkte konkurruese.
Megjithatë, mbetet pyetja se çfarë ndodh kur konkurrenca në treg dhe synimi për zhvillim sa më të shpejtë marrin përparësi ndaj kufizimeve të sigurisë.
Momčilović: Nuk e kontrollojmë mjaftueshëm zhvillimin
Aco Momčilović konsideron se niveli aktual i kontrollit është i pamjaftueshëm.
“Do të thosha se nuk e kontrollojmë mjaftueshëm. Mendoj se aktualisht nuk ka rregullim të mjaftueshëm”, tha ai.
Për të është veçanërisht shqetësues fakti se, sipas përshkrimit të tij të rastit australian, kompania për një periudhë të caktuar nuk ishte në dijeni të veprimeve që po kryente produkti i saj.
Vetë incidenti mund të mos ketë shkaktuar dëme të mëdha, por tregon se çfarë mund të ndodhte në një sistem më të ndjeshëm.
Problemin e dytë ai e sheh te procedurat e raportimit të incidenteve. Sipas kronologjisë që Momčilović paraqiti në emision, incidenti kishte ndodhur disa muaj përpara se t’u raportohej autoriteteve australiane.
Ai e konsideron këtë vonesë një paralajmërim serioz, sepse ndërmjet ndodhjes së një incidenti, zbulimit dhe raportimit të tij mund të ndodhin incidente të tjera.
Kush është më i fuqishëm: kompanitë apo autoritetet rregullatore?
Momčilović konsideron se gjatë viteve të fundit rregullimi kryesisht është përpjekur të vendoset nga jashtë, përmes Bashkimit Evropian, shteteve dhe autoriteteve rregullatore.
Ndërkohë, sipas vlerësimit të tij, po rritet ndërgjegjësimi brenda vetë kompanive teknologjike se ato duhet të vendosin mekanizmat e tyre kufizues.
Megjithatë, mbetet e hapur çështja e raportit të fuqisë ndërmjet kapitalit teknologjik dhe shtetit.
“Kemi Amerikën, e cila ka kompani që nuk janë të rregulluara, të paktën jo seriozisht për momentin. Dhe kemi Evropën, e cila ka një kuadër rregullator shumë të zhvilluar, por nuk ka kompani. Atëherë shtrohet pyetja se kush po e rregullon kë”, tha Momčilović.
Kuadri rregullator përpiqet të ndjekë një teknologji që ndryshon vazhdimisht
Šarolić Robić sqaroi më tej se SHBA-ja nuk është një treg pa rregulla. Atje ekzistojnë më shumë se 500 akte të ndryshme rregullatore që mbulojnë sektorë dhe industri të veçanta.
Megjithatë, ndryshe nga Bashkimi Evropian, SHBA-ja nuk ka një kuadër të vetëm gjithëpërfshirës rregullator në nivel federal.
Kina, sipas saj, ka zgjedhur një qasje tjetër, më të centralizuar, e cila mundëson reagime më të shpejta të autoriteteve rregullatore.
Evropa përballet me një problem tjetër: ajo përpiqet të hartojë rregulla për një teknologji që ndryshon edhe gjatë vetë procesit të miratimit të tyre.
Kështu, pas fillimit të hartimit të legjislacionit evropian për inteligjencën artificiale, u shfaqën modelet e mëdha gjuhësore dhe më pas sistemet e bazuara në agjentë.
Kjo ngre vazhdimisht pyetjen nëse kuadri ekzistues rregullator i përfshin aftësitë e reja teknologjike dhe nëse mund të zbatohet në mënyrë efektive.
Nga modelet e mëdha gjuhësore te sistemet e bazuara në agjentë
Aničić vlerësoi se modelet e mëdha gjuhësore, pas rreth dhjetë vjetësh zhvillimi, kanë arritur një nivel të caktuar pjekurie teknologjike.
Megjithatë, sfida kryesore tani po zhvendoset drejt sistemeve të bazuara në agjentë, ku modele të ndryshme komunikojnë dhe bashkëveprojnë mes tyre, si dhe drejt sistemeve që orkestrojnë dhe menaxhojnë funksionimin e këtyre agjentëve.
Kompleksitet shtesë sjell qasja në internet, i cili për sisteme të tilla përbën një mjedis të natyrshëm pune, pasi ato përpunojnë të dhëna digjitale.
Për këtë arsye, sipas Aničić, çështja kryesore nuk është më se deri ku mund të arrijë zhvillimi i një modeli të veçantë gjuhësor, por sa larg mund të shkojë sistemi gjithnjë e më kompleks që ndërtohet rreth tij.
Ritmi i zhvillimit është përshpejtuar ndjeshëm, aq sa versione të përmirësuara të sistemeve sot mund të publikohen edhe çdo javë.
SHBA-ja dhe Kina udhëheqin garën teknologjike, Evropa mbetet prapa
Sa i përket konkurrencës teknologjike globale, Aničić konsideron se SHBA-ja vazhdon të jetë përpara Kinës, ndonëse thekson se nuk dihet gjithçka që po zhvillohet atje.
Ai i vlerëson si shumë të avancuara zhvillimet teknologjike kineze që janë të njohura publikisht, veçanërisht duke marrë parasysh burimet më të kufizuara kompjuterike dhe energjetike.
Evropën, ndërkaq, aktualisht e sheh mjaft larg vendeve udhëheqëse në këtë fushë.
Ai e konsideron këtë raport forcash problematik në planin afatgjatë, sepse Evropës do t’i jetë e vështirë të ruajë konkurrueshmërinë nëse nuk arrin barazi teknologjike me aktorët kryesorë globalë.
Inteligjenca artificiale po e ndryshon edhe sigurinë kibernetike
Zlatan Morić paralajmëroi se inteligjenca artificiale prej vitesh luan një rol të rëndësishëm në mbrojtjen kibernetike.
Për shkak të vëllimit jashtëzakonisht të madh të të dhënave, të cilat njerëzit nuk mund t’i analizojnë më vetë me efikasitet, inteligjenca artificiale ndihmon në zbulimin e sulmeve, identifikimin dhe filtrimin e alarmeve të rreme pozitive, si dhe reagimin më të shpejtë ndaj kërcënimeve.
Megjithatë, e njëjta teknologji mund të përdoret edhe për kryerjen e sulmeve kibernetike.
Sipas Morić, problem të veçantë paraqesin modelet e inteligjencës artificiale që ofrohen në darknet dhe që janë zhvilluar pa mekanizmat mbrojtës dhe kufizimet e sigurisë që kanë modelet komerciale.
Megjithëse modelet e kompanive të mëdha teknologjike janë aktualisht më të avancuara, falë investimeve shumë më të mëdha, Morić paralajmëron se po përparojnë edhe sistemet e krijuara për veprimtari kriminale.
Ndryshe nga modelet e disponueshme në mënyrë të ligjshme, këto sisteme nuk do të kufizohen domosdoshmërisht nga mekanizmat mbrojtës që synojnë të parandalojnë përdorimin e dëmshëm.
Shoqëria e ka të vështirë ta ndjekë ritmin e ndryshimeve
Aco Momčilović konsideron se shoqëria tashmë ka mbetur prapa zhvillimit teknologjik dhe se përshtatja do të kërkojë shumë më tepër njohuri, arsimim dhe trajnim.
Ai paralajmëron veçanërisht se punonjësve shpesh u mungojnë informacionet dhe aftësimi i nevojshëm për përdorimin e mjeteve të reja, ndërkohë që ndryshimet teknologjike ndikojnë njëkohësisht te prindërit, fëmijët dhe shoqëria në tërësi.
Sipas tij, inteligjenca artificiale në disa fusha tashmë po u afrohet aftësive njerëzore, ndërsa në fusha të tjera, sipas kritereve të caktuara të vlerësimit, edhe i tejkalon ato.
Modelet mund të kryejnë një pjesë të detyrave njohëse karakteristike për profesione si drejtësia, mjekësia apo psikologjia dhe të arrijnë rezultate të krahasueshme me ato të njerëzve.
Momčilović vëren se njerëzit shpesh e pranojnë mundësinë që inteligjenca artificiale t’i ndryshojë profesionet e të tjerëve, por e kanë shumë më të vështirë të besojnë se ajo do të ndikojë seriozisht edhe në profesionin e tyre.
Për këtë arsye, ai pret ndryshime të mëdha shoqërore dhe thellim të hendekut ndërmjet një grupi më të vogël njerëzish që do ta përdorin inteligjencën artificiale me efikasitet shumë të lartë dhe atyre që do të përshtaten më ngadalë me teknologjinë e re.
Halucinacionet e inteligjencës artificiale mbeten një dobësi e madhe
Morić konsideron se inteligjenca artificiale tashmë i ka tejkaluar njerëzit në shumë fusha, por si një nga dobësitë e saj kryesore veçon të ashtuquajturat halucinacione.
Në terminologjinë e inteligjencës artificiale, halucinacionet janë rastet kur një model gjeneron informacione, përgjigje ose rezultate të pasakta apo të sajuara.
Momčilović shtoi se kjo veçori, në rrethana të caktuara, mund të kontribuojë edhe në kreativitet, sepse mundëson gjenerimin e një game më të gjerë zgjidhjesh.
Në këtë pjesë të diskutimit u arrit edhe një herë në përfundimin se sistemet e sotme të inteligjencës artificiale kanë një natyrë të dyfishtë: karakteristikat që përbëjnë rrezik në një fushë mund të kenë zbatime të dobishme në një tjetër.
Çështjet etike e shoqërojnë zhvillimin e inteligjencës artificiale
Marijana Šarolić Robić theksoi se diskutimet për kufijtë etikë të inteligjencës artificiale zhvillohen prej vitesh, përfshirë edhe nivelin global.
Ajo shpjegoi se qasja rregullatore evropiane ka lindur pikërisht nga udhëzimet etike dhe mbështetet në mbrojtjen e të drejtave të njeriut, dinjitetit njerëzor dhe vlerave të tjera që Evropa dëshiron t’i përfshijë edhe në zhvillimin teknologjik.
Ajo theksoi se, pavarësisht dallimeve ndërmjet shteteve dhe modeleve rregullatore, ekziston një shkallë e lartë pajtueshmërie për vlerat themelore që njerëzit presin të respektohen nga teknologjia.
Sfida qëndron në integrimin e këtyre vlerave në modelet gjuhësore dhe sistemet e bazuara në agjentë, në mënyrë që ato të mund të dallojnë kufijtë e sjelljes së pranueshme.
Vetëm pak njerëz i njohin aftësitë reale të teknologjisë
Aničić paralajmëroi për një problem tjetër: vetëm një numër shumë i vogël njerëzish merr pjesë drejtpërdrejt në zhvillimin e modeleve më të avancuara të inteligjencës artificiale dhe ka njohuri të plota për aftësitë e tyre reale.
Për këtë arsye, ai konsideron se kompanitë kryesore teknologjike duhet të jenë më transparente dhe t’i mundësojnë një rrethi më të gjerë ekspertësh të kuptojnë më mirë se çfarë po zhvillohet.
Pa një transparencë të tillë, sipas tij, është e vështirë të vlerësohet nga jashtë nëse paralajmërimi i një punonjësi të një kompanie teknologjike për një rrezik të mundshëm përbën një sinjal real rreziku apo është pjesë e pozicionimit publik dhe konkurrues të kompanisë.
Sipas Aničić, një problem tjetër është shpejtësia jashtëzakonisht e madhe e zhvillimit.
Një vlerësim që sot konsiderohet i vlefshëm për aftësitë dhe rreziqet e inteligjencës artificiale mund të mos jetë më i vlefshëm pas gjashtë muajsh.
Zhvillimi është i sigurt, siguria ende jo
Momčilović konsideron se një nga problemet kryesore është konkurrenca e fortë ndërmjet kompanive teknologjike.
Ndërsa investimet e mëdha në zhvillim janë të dakorduara paraprakisht dhe përbëjnë angazhime detyruese, detyrimet që lidhen me sigurinë, etikën dhe mbikëqyrjen shpesh nuk shoqërohen me afate po aq të qarta dhe mekanizma sanksionues po aq të fortë.
Megjithatë, ai vëren një ndryshim pozitiv, pasi vetë kompanitë po flasin gjithnjë e më hapur për problemet dhe nevojën për mbikëqyrje të brendshme dhe të jashtme.
Por, sipas tij, pa një autoritet rregullator të përcaktuar qartë dhe pa mundësi reale për të sanksionuar shkeljet, rregullimi nuk do të ketë efektin e duhur.
Inteligjenca artificiale si mbështetje për njeriun, jo si vendimmarrëse
Morić konsideron se drejtimi i dëshirueshëm i zhvillimit do të ishte përdorimi i inteligjencës artificiale si mjet mbështetës në vendimmarrjen njerëzore, në vend që vendimet t’u lihen plotësisht sistemeve të inteligjencës artificiale.
Njëkohësisht, ai shpreh skepticizëm për mundësinë që Evropa t’i arrijë SHBA-në dhe Kinën në zhvillimin e inteligjencës artificiale, ndër të tjera për shkak të qasjeve të ndryshme ndaj investimeve afatgjata me nivel shumë të lartë rreziku.
“Në fund, gjithmonë është njeriu”
Aničić konsideron se një nga ndryshimet më të rëndësishme në të ardhmen do të jetë ndikimi i inteligjencës artificiale mbi vetë shoqërinë: mënyrën se si njerëzit e perceptojnë dijen, vlerën e saj, si dhe përpunimin dhe kuptimin e informacionit.
Ai mendon se shoqëritë do të duhet të arrijnë një lloj konsensusi për mënyrën se si duhet t’u qasen këtyre ndryshimeve.
Šarolić Robić e përfundoi diskutimin duke e rikthyer vëmendjen te etika dhe përgjegjësia njerëzore.
Sipas saj, teknologjia nuk mund të ndahet nga qëllimet e njerëzve që e krijojnë dhe e përdorin. Prandaj, është thelbësore që në vendimmarrjen për zhvillimin e saj të marrin pjesë njerëz që do të mbrojnë përdorimin e përgjegjshëm dhe etik të inteligjencës artificiale./HRT
