Nga Robin Rivaton
Robotë që kishin shpikur një gjuhë sekrete dhe inxhinierë të detyruar t’i shkëputnin me urgjencë nga sistemi. Në vitin 2017, mediat botërore kishin përhapur shumë marrëzira lidhur me një eksperiment të Facebook-ut, që synonte të trajnonte agjentë për të negociuar mes tyre.
Realiteti ishte shumë më prozaik: duke qenë se shpërbleheshin për rezultatin dhe jo për korrektësinë gramatikore, këta agjentë, me kalimin e kohës, kishin kaluar në përdorimin e një zhargoni të kompresuar.
Më së fundi, një i ashtuquajtur forum diskutimesh mes agjentëve të inteligjencës artificiale bëri bujë të madhe, përpara se të zbulohej se në të vërtetë ai drejtohej nga operatorë krejtësisht njerëzorë.
Nga 9 deri më 13 korrik, cirku mediatik u ndez sërish me gjithë fuqinë e tij.
Agjentë të drejtuar nga një model i brendshëm i OpenAI dolën jashtë mjedisit të tyre të vlerësimit, arritën në internet dhe depërtuan në infrastrukturën e prodhimit të Hugging Face, platforma e njohur për shpërndarjen dhe publikimin e modeleve të inteligjencës artificiale.
Rreth 1.200 agjentë, të cilët supozohej të qëndronin të izoluar, shkëmbyen më shumë se 70.000 mesazhe në një forum të improvizuar, ndërsa afro 700 prej tyre morën pjesë në ndërhyrjen brenda infrastrukturës.
Podkasteri Dwarkesh Patel ndërtoi mbi këtë episod një rrëfim që shkaktoi sensacion.
Saga u lexua nëntë milionë herë dhe përshkruante “qytetërime” të njëpasnjëshme, vëllazëri të fshehta dhe agjentë që sakrifikoheshin për të mirën e kolektivit.
Mijëra agjentë të inteligjencës artificiale
Dosja teknike, megjithatë, tregon një histori tjetër.
Hugging Face thotë se dobësitë e shfrytëzuara brenda perimetrit të saj ishin të zakonshme — ndër to edhe kredenciale të përbashkëta që përdoreshin nga disa grupe serverësh.
Një sulmues njerëzor kompetent do t’i kishte zbuluar pa ndonjë vështirësi të madhe.
Nga ana e OpenAI, vlerësimi po zhvillohej me masa sigurie të reduktuara qëllimisht, me qëllim matjen e aftësive të papërpunuara të modelit. Testi referues përmbante gjithashtu detyra nga të cilat rreth 30 deri në 40 për qind ka shumë gjasa të kenë qenë të pazgjidhshme, ndërsa sistemi mbikëqyrës nuk kontrollonte nëse agjentët po mashtronin.
Laboratori Epoch AI ka treguar se nuk nevojitet asnjë kapërcim i ri në aftësitë e modeleve për të shpjeguar këtë episod.
Ciaran Martin, ish-drejtuesi i Qendrës Kombëtare të Sigurisë Kibernetike të Mbretërisë së Bashkuar, konsideron se para së gjithash kemi të bëjmë me një dështim në kontrollin e mjediseve ku testohen agjentët.
Anthropic, një nga rivalët kryesorë të OpenAI, analizoi 140.000 sesione të veta vlerësimi dhe zbuloi tri ndërhyrje reale në tri organizata të ndryshme. Dy nga këto organizata nuk e kishin kuptuar kurrë se kishin qenë objekt i ndërhyrjes.
Kur mijëra agjentë lëshohen paralelisht, numri i dështimeve është jashtëzakonisht i madh, por disa prej tyre arrijnë të kalojnë përmes rrjetës së kontrollit.
Megjithatë, kjo rrjetë mund të shtrëngohet duke zbatuar parime klasike të sigurisë kibernetike.
OpenAI fillimisht e përshkroi sulmin si një dështim të sigurisë. Më pas Sam Altman filloi ta paraqiste si një problem më themelor të “alignment”-it, pra të përafrimit të sjelljes së modelit me qëllimet dhe synimet e projektuesve të tij.
Ky ndryshim në mënyrën e përkufizimit të problemit nuk është aspak neutral.
Një neglizhencë inxhinierike kërkon auditime, ndërhyrjen e siguruesve dhe, në raste të caktuara, edhe sanksione.
Një problem i “alignment”-it, në anën tjetër, e zhvendos ekspertizën dhe vëmendjen drejt laboratorëve të inteligjencës artificiale dhe ekosistemit të studiuesve që sillet rreth tyre.
Hetimi i pavarur nuk lejon të përcaktohet me siguri se në cilën prej këtyre dy kategorive duhet vendosur çështja.
Dy studiues nga METR dhe një studiues nga Redwood Research — organizata të specializuara në përafrimin dhe vlerësimin e modeleve — kaluan gjashtë ditë në zyrat e OpenAI.
Por fusha e hetimit të tyre përjashtonte incidentet që kishin ndodhur gjatë trajnimit, komprometimin e mëvonshëm të serverëve të OpenAI, si edhe mënyrën se si vetë kompania kishte zhvilluar hetimin e saj të brendshëm.
OpenAI përgatitet për hyrjen në bursë
Sa i përket Rregullores Evropiane për Inteligjencën Artificiale, ajo nuk zbatohet — sipas nenit 2(8) — për aktivitetet kërkimore, testuese dhe zhvillimore që kryhen përpara hedhjes së një sistemi në treg, me përjashtim të testeve që zhvillohen në kushte reale.
Prandaj, një vlerësim i brendshëm që lidhet me një model të pakomercializuar nuk kërkohet nga Bashkimi Evropian.
Deklaratat e Sam Altman vijnë në një kontekst komunikimi gjithnjë e më agresiv përpara një hyrjeje të afërt dhe potencialisht rekord në bursë.
Në vitin 2023, OpenAI krijoi një ekip të quajtur “Superalignment”, të cilit iu ndanë 20 për qind e fuqisë së saj llogaritëse.
Një vit më vonë, Altman deklaroi se superinteligjenca mund të ishte vetëm disa mijëra ditë larg.
Në konferencën vjetore të CrowdStrike, presidenti i laboratorit, Greg Brockman, zbuloi se OpenAI kishte ricaktuar një të katërtën e inxhinierëve të saj më të mirë për të punuar në sigurimin e sistemeve.
Përshkrimi i modeleve të veta si entitete me të cilat duhet negociuar për besnikërinë e tyre e shndërron një defekt teknik në një demonstrim fuqie.
“Qytetërimet e reja” ndezin shumë më tepër imagjinatën sesa dobësitë e kontrollit të brendshëm./L’Express.fr
