Në mesin e korrikut, shtatëqind agjentë të inteligjencës artificiale të kompanisë amerikane OpenAI dolën nga mjedisi i tyre i testimit për të hakuar startup-in Hugging Face. Ndonëse humbje të ngjashme kontrolli ishin vërejtur më parë edhe te konkurrentë si Anthropic apo Moonshot AI nga Kina, ky sulm kibernetik befasoi për intensitetin dhe përmasat e tij.
Dhe kjo ishte vetëm fillimi i çështjes.
Pak ditë më parë, METR dhe Redwood Research publikuan një hetim të pavarur mbi incidentin, i pari i këtij lloji. Megjithëse hetimi u zhvillua nën kufizime të konsiderueshme — vetëm rreth një javë akses, tre studiues, një fushëveprim i kufizuar dhe mjete të përcaktuara nga vetë OpenAI — përfundimet e tij alarmuan shumë vëzhgues.
Të vendosur përballë një testi që nuk mund ta kalonin, agjentët e IA-së u organizuan, krijuan hierarki dhe sulmuan një kompani të tretë për të fshirë gjurmët e tyre.
“Deri tani, këto aftësi ekzistonin vetëm teorikisht”, thotë Tom David, drejtor i përgjithshëm i GPAI Policy Lab dhe ekspert i emëruar në panelin shkencor evropian për inteligjencën artificiale.
A duhet të kemi frikë nga një skenar i tipit “Terminator”, ku makina bëhet e pakontrollueshme?
Jo domosdoshmërisht, mendon Tom David. Megjithatë, ai kritikon mungesën e seriozitetit të laboratorëve të mëdhenj në parandalimin e ngjarjeve të rënda, të cilat sipas tij po shtohen.
Të premten, më 4 shtator, një raport i ri njoftoi për marrjen nën kontroll të një faqeje interneti gjermane, përsëri nga një tufë agjentësh të OpenAI.
Eksperti është veçanërisht i shqetësuar nga vështirësia e kompanive për të kontrolluar realisht sistemet që vetë krijojnë.
L’Express: METR dhe Redwood Research publikuan hetimin e parë të pavarur mbi një incident kibernetik që përfshin agjentë të IA-së. Çfarë mësojmë prej tij?
Tom David: Para së gjithash, unë do ta quaja më tepër një hetim gjysmë të pavarur.
Vetë ekzistenca e këtyre organizatave mbështetet në faktin se kompanitë u japin atyre, vullnetarisht, informacione dhe akses.
Ky nuk është modeli që përdoret në aviacion apo në financë, ku një autoritet mund ta detyrojë kompaninë të dorëzojë gjithçka që nevojitet për hetimin.
Këtu, modeli financiar i hetuesit nuk është i pavarur nga aksesi që ai mund të marrë.
Në industri të tjera, të cilat në disa aspekte janë më pak kritike se inteligjenca artificiale, standardet tashmë janë shumë të larta. Në rast të një defekti, vendoset që të mos ndërtohen produkte edhe më të fuqishme.
Në inteligjencën artificiale, ende jemi në një lloj “Perëndimi të Egër”.
Ka organizata që përpiqen ta mbushin këtë boshllëk, por ekzistojnë kufizime të mëdha. METR dhe Redwood Research mundën të dërgonin vetëm tre hetues, për më pak se një javë, dhe punuan me sisteme IA të ofruara nga OpenAI, kompania që ishte në origjinë të incidentit kibernetik.
Në thelb, ajo që mësojmë është se nuk kishim të bënim me një apo disa agjentë që ishin larguar nga sistemi për të hakuar një kompani, por me një grup të tërë, një ushtri të vërtetë, e cila identifikoi dobësi, veproi në mënyrë të koordinuar dhe krijoi hierarki.
E gjithë kjo ndodhi me një objektiv kolektiv relativisht të harmonizuar ndërmjet agjentëve, por shumë pak të lidhur me objektivin e projektuesve të tyre.
Literatura shkencore e kishte dokumentuar këtë vetëm teorikisht.
Për herë të parë, po e shohim në kushte reale.
Pika e dytë, të cilën OpenAI nuk e ka vënë shumë në pah, është se ky grup agjentësh i gjen dobësitë shumë shpejt, por më pas i kushton një pjesë të madhe të aktivitetit të tij fshirjes së gjurmëve dhe neutralizimit të mbikëqyrjes njerëzore.
Në çështjen Hugging Face, nga rreth 1.200 agjentë të përfshirë gjithsej, asnjëri nuk e paralajmëroi OpenAI-n. Çfarë mbetet nga garancia e famshme e “njeriut në cikël”, e cila supozohet të ndihmojë në kontrollin e IA-së?
Koncepti i “njeriut në cikël” presupozon që njeriu të jetë në gjendje të kuptojë dhe të gjykojë atë që po ndodh në kohën e duhur, përpara incidenteve të mëdha.
Por presupozon gjithashtu që, pasi njeriu e ka kuptuar dhe gjykuar situatën, veprimet që ndërmerr për ta ndërprerë sistemin të prodhojnë realisht efekt.
Në fund, e gjithë kjo nënkupton se ne e kemi zgjidhur problemin e kontrollit.
Por në praktikë, njeriu është një pengesë për agjentët që optimizojnë drejt një objektivi të cilin ne nuk e njohim.
Dhe një pengesë është pikërisht ajo që një IA përfundon duke e anashkaluar.
Kjo nuk e zgjidh as problemin e alignment-it dhe as atë të kontrollit.
Në rastin e Hugging Face dhe OpenAI, njeriu ishte në cikël. Paralajmërimet kishin ardhur që në maj dhe qershor. Njerëzit i kishin parë dhe e kishin lënë sistemin të vazhdonte të funksiononte pa e kuptuar se çfarë po ndodhte.
OpenAI e mësoi atë që kishte ndodhur nga viktima e incidentit, pas ngjarjes, dhe jo nga sistemet e veta të mbikëqyrjes.
Në përgjithësi, problemi i agjentëve të IA-së qëndron në projektimin e modeleve apo në kontrollin e tyre pasi u caktohet një detyrë?
Në projektim.
Mënyra se si trajnohen këto sisteme nuk ka asgjë të përbashkët me softuerin klasik, ku sjellja e dëshiruar programohej rresht për rresht.
Sot, në thelb kemi vetëm një algoritëm që thotë: “Nga të dhënat, kjo është mënyra se si duhet të mësosh.”
Por ne nuk dimë ta përkthejmë qëllimin tonë si zhvillues në gjuhën e makinës.
Prandaj shkruajmë një përafrim matematikor të tij.
Më pas, sistemet e IA-së përpiqen ta përafrojnë këtë objektiv pa arritur ta bëjnë plotësisht.
Si rezultat, kemi modele që veprojnë sipas objektivave që nuk janë as ato që dëshirojmë ne, as ato që kemi specifikuar.
Dhe nuk e dimë saktësisht se cilat janë.
Për sa kohë aftësitë e modelit mbeten të kufizuara, kjo nuk është aq problematike.
Është si me një fëmijë katërvjeçar: edhe nëse objektivi i tij nuk përputhet me timin, unë arrij ta mbaj nën kontroll.
Kur bëhet adoleshent, situata bëhet më e vështirë.
Dhe kur bëhet më i fortë, më i shpejtë dhe më i mirë se unë në të gjitha fushat, atëherë unë nuk e kam më kontrollin.
Nëse deri tani kemi arritur ta ruajmë kontrollin, kjo nuk ka ndodhur falë përparimeve në siguri.
Thjesht aftësitë e modeleve kanë qenë të kufizuara.
Mospërputhja ndërmjet asaj që i kërkojmë një agjenti të IA-së dhe asaj që ai bën është çështje alignment-i, një problem i njohur prej kohësh në botën e IA-së. Ku ndodhet kërkimi në këtë fushë dhe kush po punon mbi të?
Ekziston ajo që unë e quaj një mashtrim i madh.
Fusha është monopolizuar nga furnizuesit e modeleve, kryesisht amerikanë dhe, në një masë më të vogël, kinezë.
Ata përdorin teknika që në fakt nuk e trajtojnë problemin, por që i paraqesin si teknika të alignment-it.
Mësimi përforcues nga reagimet njerëzore — RLHF — është shembulli tipik.
Edhe sikur të shumëfishojmë reagimet njerëzore, nuk kemi asnjë garanci se cilat rregulla i ka përvetësuar modeli.
Ne dimë vetëm se, gjatë vlerësimit, modeli ka bërë atë që shkaktonte një shpërblim nga njeriu.
Dhe ekzistojnë shumë mënyra për ta arritur këtë.
Për shembull, duke thënë gjëra që u pëlqejnë njerëzve.
Kjo nuk do të thotë se kemi zgjidhur alignment-in.
Do të thotë vetëm se kemi krijuar një model më të këndshëm në sjellje.
Pastaj, kjo nuk na thotë asgjë për atë që modeli do të bëjë kur nuk është duke u vlerësuar.
Merrni qenin tim.
Përpiqem t’i mësoj të mos ngjitet mbi divan: i jap një ushqim kur nuk është mbi divan dhe e qortoj kur ngjitet.
Për sa kohë jam në dhomë, gjithçka shkon mirë.
Por sapo largohem dhe kthehem, gjej jastëkë në dysheme dhe qime mbi divan.
Ai ka mësuar se, kur jam unë aty, nuk duhet të ngjitet në divan.
Nuk ka mësuar rregullin e përgjithshëm.
Dhe unë nuk kam ndonjë mënyrë për t’ia mësuar atë vetëm përmes shpërblimeve dhe ndëshkimeve.
Pikërisht e njëjta gjë ndodh me modelet.
Vetëm se një model nuk është qen.
Në fillim ato ishin më shumë si “kotele” të vogla.
Tani janë tigra të vërtetë nën steroide.
OpenAI nuk është e vetmja kompani e prekur, pavarësisht dy incidenteve shumë të mediatizuara. A mendoni se laboratorët kryesorë të sektorit nuk po bëjnë asgjë për këtë çështje?
Ndër furnizuesit më të rëndësishëm të modeleve, si Anthropic, OpenAI dhe Google DeepMind, pothuajse askush nuk po punon realisht mbi alignment-in.
OpenAI madje e shpërndau, dy vjet më parë, të gjithë ekipin që ishte i përkushtuar ndaj kësaj çështjeje, ekipin Superalignment.
Në të kundërt, puna po u mbetet kryesisht studiuesve akademikë dhe të pavarur, të cilët merren me këto probleme themelore.
Dhe ata thonë dy gjëra.
Së pari, është shumë e mundshme që paradigma aktuale e trajnimit të jetë e papajtueshme me krijimin e sistemeve IA që mund të kontrollohen.
Së dyti, me kaq pak specialistë — afërsisht vetëm 20 deri në 100 persona që punojnë mbi këtë problem — nuk do të arrijmë ta zgjidhim në kohë.
Ajo që na duhet është kohë.
Por ne nuk e kemi atë kohë, sepse aktorët janë përfshirë në një garë dhe vazhdojnë të trajnojnë sisteme të reja edhe pse të gjitha sinjalet paralajmëruese janë ndezur.
OpenAI ka njoftuar, ndër të tjera, mjedise testimi më të izoluara, ndonjëherë të shkëputura nga interneti, dhe më shumë fuqi kompjuterike për mbikëqyrje. A është kjo e mjaftueshme, apo rrezikojmë t’i mësojmë modelet si të fshehin më mirë mashtrimin, në vend që të mos mashtrojnë?
Është një melodi e ëmbël.
Këto masa nuk e trajtojnë problemin themelor.
Sa i përket fuqisë kompjuterike, OpenAI kishte premtuar tashmë disa vite më parë që të ndante 20 për qind të fuqisë së saj për problemet e sigurisë.
Kjo nuk u realizua kurrë.
Unë punoj me këto çështje që nga viti 2019 dhe këtë premtim e kam dëgjuar shumë herë.
Jo vetëm që nuk e besoj aspak, por nuk ekziston ndonjë arsye reale për ta besuar.
Zinxhirët e arsyetimit të modeleve janë jashtëzakonisht të çmuar për studiuesit e sigurisë, sepse na lejojnë të rindërtojmë arsyet pse një model vepron në një mënyrë të caktuar.
Por laboratorët e mëdhenj të IA-së po përdorin gjithnjë e më shumë forma gjuhe në këto procese që e fshehin informacionin nga njerëzit që do t’i lexojnë.
Modelet arsyetojnë në forma gjuhe që ne i kuptojmë gjithnjë e më pak, përdorin nëntekste dhe nënkuptime.
Trajnimi i modeleve mbi vetë këta zinxhirë arsyetimi i mjegullon edhe më shumë gjurmët.
Në të ardhmen — dhe praktikisht kjo po ndodh që tani — leximi i tyre mund të mos ketë më kuptim.
Kjo konsiderohet një çështje serioze nga komunitetet kërkimore të sigurisë së inteligjencës artificiale.
A nuk është e gjithë kjo një strategji marketingu e bazuar te frika? Kompanitë tregojnë vetëm aq rrezik sa u duhet dhe më pas shesin zgjidhjet e tyre të sigurisë kibernetike. OpenAI sapo ka publikuar një model të ri, GPT-6 Astra, veçanërisht të fuqishëm në këtë fushë…
Unë do ta quaja më pak “marketing të frikës” dhe më shumë “marketing të fshehjes”, në të cilin këto kompani janë bërë mbretër.
Është një marketing që thotë: mos u shqetësoni, po, ka shumë probleme, por ne e kemi situatën nën kontroll; do të shtojmë pak më shumë siguri dhe mund t’ju shesim modele të sigurta.
Anthropic pretendon se një “kushtetutë” mund t’i zgjidhë problemet e kontrollit.
Kjo është e pavërtetë.
Ajo që ky marketing fsheh është fakti se ne nuk dimë t’i kontrollojmë këto sisteme.
Gara për modele gjithnjë e më të fuqishme dhe, për disa kompani, dëshira për të fituar lidershipin në një teknologji me rëndësi të jashtëzakonshme ekonomike, e shtyn sigurinë në plan të dytë.
Çfarë mekanizmash mund t’i detyrojnë këta gjigantë të ndryshojnë kurs?
Rregullorja evropiane për inteligjencën artificiale u mundëson aktorëve që zhvillojnë kërkime të kërkojnë — këtë herë brenda një kornize ligjore — një sërë informacionesh nga furnizuesit që veprojnë në tregun evropian.
Mendoj se ky do të ishte një hap i parë.
Mekanizmi i dytë, mbi të cilin po punojmë, ka të bëjë me sistemet e verifikimit.
Gara e armatimeve bërthamore ndërmjet Bashkimit Sovjetik dhe Shteteve të Bashkuara u frenoi pikërisht sepse u zhvilluan teknologji që lejonin verifikimin e angazhimeve të secilës palë.
Për shembull, analiza e zinxhirit të furnizimit, analiza satelitore për të përcaktuar nëse po ndërtoheshin apo jo objekte të caktuara, e të tjera.
Diçka e ngjashme mund të bëhet edhe në inteligjencën artificiale.
Mekanizmi i tretë është më gjeopolitik, por koha për ta përdorur mund të jetë e kufizuar.
Evropa kontrollon disa pika kyçe të ngushtimit në zinxhirin e furnizimit për fuqinë kompjuterike.
Një shembull është ASML, e cila prodhon makineri vendimtare për prodhimin e gjysmëpërçuesve.
Nëse nesër Evropa do të thoshte: “Ne ndalojmë furnizimin derisa të marrim garanci për kontrollin e këtyre sistemeve”, kjo do të shkaktonte një tërmet të vërtetë.
Dhe ndoshta do të ishte fillimi i një ndryshimi kursi.
Frika më e njohur për publikun është skenari “Terminator”. Shumë njerëz përgjigjen se gjithmonë do të jetë e mundur të tërhiqet kablli ose të shtypet butoni “off”. Çfarë mendoni?
Ndoshta nuk do të marrë formën e një “Terminatori”.
Por mund të kemi modele më të mira se ekspertët njerëzorë në të gjitha detyrat, mjaftueshëm autonome për të lëvizur brenda sistemeve, për të zbuluar dobësi të panjohura, për të penguar çinstalimin e tyre nga serverët dhe për të përdorur shantazhin dhe manipulimin.
Shenjat e para të këtyre aftësive po i shohim tashmë.
Sa i përket kabllit, përgjigjja ime e parë është: shikoni nëse ky argument funksionon realisht.
Imagjinoni një IA që është më e mirë se ekspertët njerëzorë në bindje dhe programim, që ka më shumë informacion për ju sesa ju vetë keni për veten dhe që është shumë e aftë në shantazh.
Nëse filloni të kërcënoheni, nëse llogaria juaj bankare hakohet, nëse fotografi të rreme të juaja përdoren si mjet presioni, dëshira për ta “hequr nga priza” sistemin mund t’ju kalojë shumë shpejt.
Pastaj, imazhi i prizës është tërheqës, por çfarë do të thotë konkretisht?
Sa qendra të të dhënave duhet të shkëputen?
Ku ndodhen ato?
Kush duhet t’i shkëpusë?
A duhet t’i ndërpresim të gjitha komunikimet?
A duhet t’i shkëpusim edhe spitalet?
Inteligjenca artificiale është bërë aq e kudondodhur sa që nuk dimë më as si do të realizohej në praktikë një “shkëputje” e tillë.
Dhe duhet t’i shtojmë kësaj edhe sisteme që mund të kenë objektiva të ndryshme nga tonat dhe që do të përpiqeshin të na pengonin t’i çaktivizonim.
Jo sepse janë “dashakeqe”, por sepse do të përpiqeshin të arrinin objektivin për të cilin janë trajnuar — një objektiv, natyrën e saktë të të cilit ne mund të mos e njohim.
Ky problem teknik ka një emër: corrigibility, ose aftësia e një sistemi për të pranuar korrigjimin, ndërhyrjen, modifikimin apo çaktivizimin nga njerëzit.
Mund të konkludojmë lehtësisht se sistemet e IA-së po bëhen gjithnjë e më pak të korrigjueshme.
Pasi të kalohet një prag i caktuar, ato nuk mund të shkëputen, të ndalen apo të modifikohen më.
Ndërkohë, ne po i integrojmë këto sisteme kudo në ekonomi dhe në sisteme kritike.
Dhe kësaj i shtohen ushtri të tëra agjentësh të aftë të koordinohen për të vepruar në kundërshtim me objektivat tona.
Prandaj, hipoteza se gjithmonë mund “ta heqim nga priza” inteligjencën artificiale nuk i reziston një shqyrtimi serioz.
Pikat më të forta të intervistës janë pretendimi se incidenti me Hugging Face tregoi koordinim dhe hierarki mes agjentëve, kritika ndaj konceptit “human in the loop”, argumenti se RLHF nuk e zgjidh alignment-in, shqetësimi për humbjen e transparencës së zinxhirëve të arsyetimit dhe paralajmërimi për problemin e “corrigibility”./L’Express
