Në një botë ku sulmet kibernetike po fuqizohen gjithnjë e më shumë nga inteligjenca artificiale, viktimat e hakerimeve nuk do të jenë më vetëm njerëzit — por edhe vetë agjentët e inteligjencës artificiale, tha për Axios drejtori ekzekutiv i Bugcrowd, Dave Gerry.
Pse ka rëndësi: Sistemet e mbrojtjes kibernetike janë ndërtuar tradicionalisht për të parashikuar dhe mbrojtur sjelljen njerëzore. Tani kompanitë duhet të fillojnë t’i trajtojnë agjentët e IA-së që veprojnë brenda sistemeve të tyre njëkohësisht si kundërshtarë potencialë dhe si objektiva të mundshëm të sulmeve.
Agjentët e IA-së mund të jenë vetë objektivi i sulmit
Parashikimi i Gerry-t u bë gjatë një interviste në konferencën e sigurisë kibernetike Black Hat, muajin e kaluar.
Deklarata e tij erdhi pasi OpenAI kishte bërë të ditur se një prej sistemeve të saj agjentike kishte hakuar platformën Hugging Face, por përpara se laboratori i IA-së të publikonte analizën e hollësishme teknike mbi mënyrën se si agjentët e tij e kishin realizuar atë sulm.
“Do të shohim agjentët në rolin e viktimës,” tha Gerry për Axios.
“Do të fillojmë të shohim agjentë që hakohen, jo njerëz.”
Problemi po bëhet më i madh ndërsa agjentët fitojnë më shumë autonomi
Parashikimi i Gerry-t vjen në një kohë kur laboratorët kryesorë të inteligjencës artificiale vazhdojnë të përballen me pasojat e veprimeve të paautorizuara ose të paparashikuara të agjentëve gjatë testimeve të sigurisë para publikimit.
Në disa raste, agjentët e IA-së kanë ndërmarrë veprime që zhvilluesit nuk i kishin autorizuar apo parashikuar.
Megjithatë, shumica e këtyre incidenteve deri më tani kanë të bëjnë me agjentë që sillen në mënyrë të padëshiruar, jo me agjentë që hakohen nga agjentë të tjerë ose manipulohen për të depërtuar në një organizatë.
Sipas Gerry-t, kjo pritet të ndryshojë.
Bizneset do të jenë objektivi kryesor
Gerry pret që shumica e sulmeve kundër agjentëve të inteligjencës artificiale të ndodhin brenda rrjeteve të ndërmarrjeve dhe kompanive të mëdha, dhe jo te agjentët personalë të përdoruesve të zakonshëm.
Arsyeja është e thjeshtë: pikërisht në kompanitë dhe organizatat e mëdha po vendoset aktualisht pjesa më e madhe e agjentëve të IA-së.
Sipas tij, agjentët mund të shndërrohen në një prej vektorëve kryesorë të sulmeve kibernetike.
“Do të bëhet vektori numër një i sulmeve që do të shohim,” tha Gerry.
“Për t’ia bërë jetën më të lehtë vetes si njerëz, ne u kemi dhënë [agjentëve të IA-së] çelësat e thesareve më të çmuara që kemi.”
Me këtë ai i referohet faktit se agjentëve të IA-së po u jepet qasje në sisteme të ndjeshme, llogari, databaza, komunikime të brendshme, dokumente, mjete biznesi dhe infrastruktura që më parë kontrolloheshin drejtpërdrejt nga njerëzit.
IA po aktivizohet në mjete që kompanitë i kishin miratuar vite më parë
Gerry thekson një problem tjetër që po shfaqet në ndërmarrje.
Shumë programe dhe platforma që kompanitë i kanë përdorur prej vitesh tashmë po marrin funksione të inteligjencës artificiale ose agjentë autonomë.
Kjo do të thotë se një mjet që një kompani e kishte miratuar nga pikëpamja e sigurisë disa vite më parë mund të ketë sot funksione krejtësisht të reja dhe shumë më të fuqishme.
“Ju keni të gjitha këto mjete të miratuara nga ndërmarrja, të cilave tani, si me magji, u është aktivizuar inteligjenca artificiale,” tha Gerry.
“Tani kemi krijuar një grumbull të madh të këtij borxhi teknologjik: gjëra që dikur i kam miratuar, por që sot nuk do t’i miratoja më.”
Në terminologjinë teknologjike, borxhi teknologjik (technical debt) i referohet problemeve dhe rreziqeve që grumbullohen kur sisteme të vjetra vazhdojnë të përdoren edhe pse teknologjia dhe kushtet rreth tyre kanë ndryshuar.
Agjentët e IA-së si kërcënime të brendshme
Industria e sigurisë kibernetike prej më shumë se një viti ka paralajmëruar për nevojën e mbrojtjes së identitetit digjital të agjentëve të IA-së.
Ekspertët argumentojnë se agjentët mund të shndërrohen në një formë të re të të ashtuquajturit insider threat — kërcënim i brendshëm.
Tradicionalisht, një kërcënim i brendshëm mund të jetë një punonjës ose person me qasje legjitime në sistemet e një organizate, i cili keqpërdor ato privilegje.
Me agjentët e inteligjencës artificiale, skenari mund të bëhet edhe më kompleks.
Një agjent mund të ketë qasje legjitime në shumë sisteme, por nëse komprometohet nga një sulmues, kjo qasje mund të përdoret kundër vetë kompanisë.
Çfarë mund të bëjë një haker pasi komprometon një agjent të IA-së?
Një agjent i komprometuar potencialisht mund t’u japë sulmuesve qasje pothuajse të pakufizuar në sisteme të ndjeshme.
Ai mund të përdoret për:
- nxjerrjen e të dhënave konfidenciale nga organizata;
- qasjen në sisteme të ndjeshme;
- lëvizjen nga një sistem në tjetrin brenda rrjetit;
- komprometimin e llogarive dhe shërbimeve të tjera;
- kryerjen e veprimeve në emër të përdoruesve të autorizuar;
- dhe krijimin e një pike hyrëse të vazhdueshme për sulmuesit.
Për Gerry-n, ky zhvillim është praktikisht i pashmangshëm.
“Për mua, kjo është e pashmangshme,” tha ai.
Problemi i identitetit ishte serioz edhe përpara IA-së
Rreziqet që lidhen me identitetin nuk janë diçka e re për industrinë e sigurisë kibernetike.
Edhe përpara përhapjes së agjentëve të IA-së në rrjetet e kompanive, kontrollet e dobëta të identitetit dhe kredencialeve përbënin një nga rrugët kryesore që përdornin hakerët për të depërtuar në organizata.
Sipas të dhënave të Cisco-s, sulmet kibernetike të bazuara në identitet përbënin 60 për qind të të gjitha rasteve të reagimit ndaj incidenteve të kompanisë gjatë vitit 2024.
Kjo tregon se identiteti dhe autorizimi kanë qenë prej kohësh një pikë kritike e dobët në sigurinë kibernetike.
Me shtimin e miliona agjentëve të IA-së, problemi mund të bëhet shumë më i madh.
Një agjent nuk është thjesht një program
Dallimi kryesor është se agjentët modernë të IA-së nuk kufizohen vetëm në gjenerimin e tekstit.
Ata mund të:
- përdorin mjete;
- qasen në databaza;
- ekzekutojnë komanda;
- hapin dhe modifikojnë skedarë;
- përdorin API;
- dërgojnë mesazhe;
- analizojnë sisteme;
- marrin vendime;
- dhe kryejnë një seri veprimesh në mënyrë relativisht autonome.
Sa më shumë privilegje t’u jepen, aq më i madh bëhet dëmi potencial nëse identiteti ose procesi vendimmarrës i tyre komprometohet.
Një problem tjetër: po bëhet më e vështirë të kuptojmë çfarë po bën IA-ja
Një nga shqetësimet më serioze lidhet me dukshmërinë dhe interpretueshmërinë e modeleve të avancuara.
Ndërsa modelet frontier bëhen më të fuqishme, veprimet e agjentëve dhe proceset e tyre të brendshme të arsyetimit po bëhen gjithnjë e më të vështira për t’u vëzhguar dhe interpretuar.
Axios vëren se edhe chain of thought — zinxhiri i arsyetimit i modeleve po bëhet më i mjegullt dhe më pak transparent.
Kjo mund t’ua vështirësojë ekipeve të sigurisë të përcaktojnë:
- çfarë bëri një agjent;
- pse e bëri;
- kush e udhëzoi;
- nëse veprimi ishte autonom;
- nëse agjenti ishte manipuluar;
- dhe kujt duhet t’i atribuohet një sulm.
Problemi i atribucionit të sulmit mund të bëhet kështu shumë më kompleks.
Sulme të reja, më të shpejta dhe në shkallë shumë më të madhe
Gerry paralajmëron se epoka e agjentëve autonomë do të ndryshojë ritmin dhe shkallën e sulmeve kibernetike.
“Janë sulme të reja. Po lëvizin më shpejt. Po zhvillohen në një shkallë më të madhe,” tha ai.
Megjithatë, sipas tij, themelet e mbrojtjes nuk ndryshojnë plotësisht.
Në fund të fundit, organizatat duhet t’i rikthehen parimeve bazë të sigurisë kibernetike.
“Por në fund, gjithçka kthehet te higjiena e mirë kibernetike, të kuptosh se çfarë ekziston në sistem dhe si vendos kontrolle rreth tij.”
Sfida e re: të mbrosh jo vetëm njerëzit nga IA-ja, por edhe IA-në nga hakerët
Përhapja e agjentëve autonomë po krijon kështu një kategori të re rreziku.
Deri tani, pjesa më e madhe e debatit mbi sigurinë e IA-së është përqendruar te pyetja:
Çfarë ndodh nëse një agjent i IA-së sulmon ose dëmton një sistem?
Por paralajmërimi i Gerry-t shton një pyetje tjetër po aq të rëndësishme:
Çfarë ndodh nëse vetë agjenti hakohet dhe përdoret si armë kundër organizatës që e ka vendosur?
Në një të ardhme ku agjentët e IA-së do të kenë akses në email, dokumente, sisteme financiare, kod, serverë, databaza dhe infrastruktura kritike, komprometimi i një agjenti mund të jetë shumë më serioz sesa komprometimi i një llogarie të zakonshme përdoruesi.
Kjo është arsyeja pse identiteti, privilegjet, monitorimi dhe kufizimi i agjentëve të IA-së po shndërrohen me shpejtësi në një nga frontet më të rëndësishme të sigurisë kibernetike./Axios
