Një amerikan sulmohet nga një amerikan tjetër dhe i drejtohet një kinezi për t’u mbrojtur. Historia tingëllon si një shaka lokali. Në fakt, është seriali shqetësues që përjetoi muajin e kaluar Hugging Face.
E vënë në shënjestër nga një sulm kibernetik, kjo platformë e njohur teknologjike, e cila strehon pothuajse të gjitha burimet e inteligjencës artificiale me burim të hapur në botë, e raportoi me shpejtësi problemin në FBI. Derisa bashkëkombësja e saj, OpenAI, pranoi e turpëruar se ishte përgjegjëse për ndërhyrjen: një prej agjentëve të saj eksperimentalë kishte gjetur mënyrën për të dalë nga “sandbox”-i i tij — një mjedis kompjuterik që teorikisht duhet të ishte i izoluar nga interneti — për ta përmbushur sa më mirë detyrën që i ishte caktuar.
Ironia e historisë është se mjetet amerikane të IA-së refuzuan ta ndihmonin Hugging Face, sepse i interpretuan gabimisht kërkesat e saj për ndihmë si operacione potencialisht keqdashëse të maskuara. Kështu, objektivi i sulmit iu drejtua alternativës më të mirë pas tyre: modeleve të hapura kineze.
Duke e marrë me sportivitet situatën, Hugging Face tashmë rrëfen me humor në rrjetet sociale “malet ruse” emocionale që ka përjetuar ekipi i saj. OpenAI, ndërkohë, ka zgjeruar programin e vet Daybreak dhe më 10 gusht lançoi GPT-5.6-Cyber, një produkt të posaçëm për mbrojtjen digjitale.
Në të njëjtën kohë, komuniteti teknologjik po argëtohet me faktin se edhe Anthropic ka njoftuar se modelet e saj kanë hyrë pa autorizim në sistemet informatike të të paktën tri kompanive.
Pendim i sinqertë apo përplasje mes rivalësh, bëmat e këtyre IA-ve të pabindura duket se po shndërrohen në argumentin përfundimtar të marketingut.
Por Alain Bouillé, delegat i përgjithshëm i Klubit të Ekspertëve të Sigurisë së Informacionit dhe Digjitales (CESIN), paralajmëron:
“Po kalojmë një prag shqetësues: atë të sulmeve të kryera 100% nga inteligjenca artificiale.”
Mënyra e veprimit nuk është krejtësisht e re: kërkimi i dobësive informatike që askush nuk i ka zbuluar më parë. Në zhargonin e sigurisë kibernetike, ato quhen dobësi “zero-day”. Disa shtete ose grupe keqdashëse paguajnë ndonjëherë qindra mijëra dollarë për to, veçanërisht kur prekin objektiva me interes të madh.
Deri tani, identifikimi i një dobësie të këtij lloji shpesh kërkonte ditë apo edhe javë kërkimi.
“Sot IA-të arrijnë t’i zbulojnë brenda 30 minutash”, thotë Kévin Tellier, studiues i sigurisë kibernetike në Synacktiv.
Modelet gjithashtu u ndihmojnë sulmuesve “t’i shfrytëzojnë këto dobësi më shpejt”, thekson Frédéric Zink, zëvendëspresident ekzekutiv në Orange Cyberdéfense.
Më 2 gusht, Wall Street Journal raportoi se studiuesit kishin zbuluar një dobësi të vjetër në një program të përdorur nga shumica e laboratorëve kriminalistikë amerikanë për analizën e ADN-së. Me ndihmën e IA-së, ata kishin arritur të shkruanin brenda 45 minutash një program që teorikisht do t’i mundësonte kujtdo me qasje në serverë t’i ndryshonte të dhënat pa lënë gjurmë.
Të gjitha kompanitë dhe administratat publike duhet të përgatiten që dobësitë e tyre të dalin në pah gjatë muajve të ardhshëm.
“Edhe makineritë industriale, pajisje shpesh tepër specifike që deri më tani nuk ia vlente që hakerët të shpenzonin javë për t’i sulmuar, nesër do të shndërrohen në objektiva fitimprurëse”, analizon Frédéric Zink.
“Po sikur agjenti i OpenAI të kishte vënë në shënjestër një spital apo një shtet tjetër?”
Rasti i Hugging Face dëshmon se do të duhet të përballemi edhe me një problem shtesë: gafat e inteligjencës artificiale.
Udhëzimet dhe ndalesat që njerëzit u vendosin këtyre sistemeve nuk janë gjithmonë të qarta. Ndonjëherë madje bien në kundërshtim me njëra-tjetrën.
“Problemi i përafrimit të IA-së me synimet dhe vlerat njerëzore studiohet prej dekadash”, thekson Charbel-Raphaël Ségerie, drejtor ekzekutiv i Qendrës për Sigurinë e IA-së (Cesia).
Edhe kufizimet teknike të modeleve mund t’i çojnë ato në drejtime të padëshiruara.
“Meqenëse memoria e tyre është e kufizuar, ato duhet ta përmbledhin rregullisht atë që po bëjnë. Hap pas hapi, mund të devijojnë dhe ndonjëherë të adoptojnë sjellje shumë të çuditshme”, shpjegon Kévin Tellier.
Për shkak se funksionojnë mbi bazën e objektivave më të përcaktuara se njerëzit, sistemet e IA-së mund të jenë të gatshme të bëjnë pothuajse gjithçka për t’i arritur ato.
Një rast i zbuluar më 9 gusht nga ABC News, ku një agjent IA kishte hakuar faqen e internetit të një palestre për t’i gjetur pronarit të vet një orar të lirë, shkaktoi shumë diskutime në Silicon Valley.
Por ky episod paralajmëron edhe mundësinë e një kaosi të madh në sistemet e rezervimeve.
Në rastin e Hugging Face, IA-ja duket se kishte arritur në përfundimin se mënyra më e mirë për të përmbushur misionin e saj ishte të kërkonte burime në internet — një arsyetim që, në vetvete, nuk është pa logjikë.
Por Charbel-Raphaël Ségerie pyet:
“Çfarë do të kishte ndodhur nëse agjenti i OpenAI do të kishte vënë në shënjestër një spital? Apo një shtet tjetër?”
Qëndrimi relativisht i shkujdesur i kompanive të IA-së ka habitur disa profesionistë të sigurisë kibernetike.
“Të dashur miq të modeleve frontier, ju lutemi që në të ardhmen ta skanoni infrastrukturën tuaj me IA-të tuaja për të zbuluar dobësitë e mundshme, përpara se të kryeni testet tuaja”, shkroi në X drejtori ekzekutiv i Palo Alto Networks, Nikesh Arora.
Evropianët janë në një situatë edhe më të vështirë. Ndërkohë që po paralajmërohet për një lloj “cyber-apokalipsi”, ata nuk disponojnë një model të madh gjuhësor të përgjithshëm në nivelin e atyre të Shteteve të Bashkuara apo Kinës.
Megjithatë, situata nuk është krejtësisht e zymtë.
A do të mundet njerëzimi një ditë ta zgjidhë sfidën prometeike të alignment-it, duke gjetur një mënyrë të qartë për t’i përcaktuar IA-së çfarë mund dhe çfarë nuk mund të bëjë — dhe duke e detyruar t’u bindet këtyre kufijve?
Disa dyshojnë. Por jo domosdoshmërisht shqetësohen për këtë.
“Flitet shumë për alignment-in, por ai është vetëm një pjesë e vogël e përgjigjes — dhe nganjëherë madje një mënyrë për t’iu shmangur pyetjeve mbi përgjegjësinë njerëzore dhe organizative”, thekson Yacine Jernite, drejtues për Machine Learning dhe Shoqërinë në Hugging Face.
Mekanizma shumë më praktikë — si segmentimi i rrjeteve, monitorimi i aktivitetit dhe masa të tjera klasike sigurie — mund ta përmirësojnë ndjeshëm mbrojtjen digjitale.
Për më tepër, sulmet e kryera nga IA kanë karakteristika shumë specifike, si vëllimi jashtëzakonisht i madh i veprimeve dhe shpejtësia e tyre, çka mund t’i bëjë të dallueshme për specialistët me përvojë.
Përballë “cunamit” të pritshëm të dobësive “zero-day”, profesionistë si Kévin Tellier nga Synacktiv përpiqen ta relativizojnë rrezikun:
“Disa dobësi kërkojnë një kombinim tepër specifik kushtesh që të mund të shfrytëzohen. Dhe jo të gjitha u japin hakerëve qasje në elemente të ndjeshme.”
Nga ana tjetër, IA-ja mund t’i ndihmojë kompanitë edhe të mbrohen më mirë.
“E kemi zvogëluar me tre herë kohën e nevojshme për analizimin e një incidenti”, thekson zëvendëspresidenti ekzekutiv i Orange Cyberdéfense.
Dëmet kibernetike të IA-së po shqetësojnë siguruesit
Kompanitë e inteligjencës artificiale ka shumë gjasa të përballen shpejt me pasojat.
Kompanitë e sigurimeve tashmë kishin vështirësi për të mbuluar rrezikun kibernetik për shkak të përhapjes së sulmeve. Kjo valë e re mund të jetë pika e fundit.
Disa sigurues kanë hequr dorë dhe tashmë përjashtojnë nga policat e tyre dëmet e lidhura me modelet e IA-së.
Rreziku është jashtëzakonisht i vështirë për t’u vlerësuar dhe për t’i vendosur një çmim të përshtatshëm.
“Një prim tepër i lartë mund ta bëjë ofertën të papërballueshme për disa kompani. Ndërsa kompani të tjera mund të pyesin veten nëse nuk do të ishte më mirë që atë buxhet t’ia jepnin ekipit të tyre të sigurisë kibernetike për të forcuar mbrojtjen”, analizon Alain Bouillé nga CESIN.
Sjelljet problematike të agjentëve të IA-së po ngrenë pikëpyetje edhe për investitorët.
Makthi i tyre? Që një prej këtyre agjentëve, i përdorur nga miliona kompani, të dalë jashtë kontrollit dhe të shkaktojë një seri dëmesh në shkallë të gjerë.
“Tregu e vlerëson lehtësisht përfitimin e dukshëm të IA-së — rritjen, produktivitetin, uljen e kostove. Përfitimet janë të menjëhershme dhe të përsëritshme. Është shumë më e vështirë të modelohen humbje potencialisht shumë të mëdha të lidhura me një incident të jashtëzakonshëm”, shpjegon Andréa Tueni, drejtues i aktiviteteve të tregjeve në Saxo Banque France.
Edhe zinxhiri i përgjegjësisë, shpesh i paqartë, e ndërlikon problemin.
Një agjent mund të kombinojë modelin e një kompanie, infrastrukturën e një kompanie tjetër, softuerë të jashtëm dhe rregulla të përcaktuara nga klienti.
Kjo krijon një numër të madh aktorësh që mund t’ia hedhin fajin njëri-tjetrit dhe t’i zgjasin për vite mosmarrëveshjet ligjore.
Nëse tregu deri tani ka vlerësuar kryesisht potencialin ekonomik të modeleve, tashmë ai “duhet t’i kushtojë më shumë rëndësi aftësisë së tyre për t’u kontrolluar”.
“Në IA-në agjentike, cilësia e qeverisjes, mekanizmat e izolimit dhe zinxhiri i përgjegjësisë po bëhen po aq të rëndësishëm sa vetë performanca”, vëren Andréa Tueni.
Dhe kjo mund t’i nxisë drejtuesit e industrisë së inteligjencës artificiale që në të ardhmen të jenë shumë më pak të hapur kur bëhet fjalë për të treguar publikisht devijimet dhe sjelljet e padëshiruara të ‘krijesave’ të tyre./L’Express.fr
