Nga Nathan Bomey
Më shumë inteligjencë artificiale është zgjidhja më e sigurt për një krizë në zhvillim të sigurisë së IA-së, thonë drejtues të industrisë dhe studiues.
Pse ka rëndësi: Zbulimi i Axios se studiuesit po hetojnë dhjetëra mijëra incidente problematike të sigurisë së IA-së — dhe jo vetëm dhjetëra raste, siç ishte bërë publike më parë — ka ngritur pikëpyetje nëse drejtuesit e industrisë së IA-së e kanë nën kontroll teknologjinë e tyre.
Drejtori ekzekutiv i Nvidia, Jensen Huang, u përpoq të qetësonte shqetësimet në rritje në qeveri, tregje dhe industri, duke njoftuar një platformë sigurie me burim të hapur për monitorimin dhe, potencialisht, izolimin e agjentëve të IA-së.
“Të gjithë duhet të shpresojmë se ky është një problem inxhinierik”, tha ai të hënën në një intervistë për CNBC. “Nëse nuk është një problem inxhinierik, atëherë nuk mund të zgjidhet.” Fakti që kompanitë vazhdojnë të avancojnë kufijtë e teknologjisë do të thotë se edhe ato besojnë se ky është një problem që mund ta zgjidhin, tha ai.
Mes rreshtave: Sfida themelore me të cilën përballen njerëzit në mbikëqyrjen e IA-së së fuqishme është se duhet të parashikojnë të gjitha mënyrat se si modelet mund të sillen në mënyrë të papritur për të përmbushur objektivat që u janë caktuar.
Një drejtues i lartë i industrisë së IA-së e krahasoi këtë proces me përpjekjen për të gjetur mënyra që një adoleshent të mos dalë fshehurazi nga shtëpia gjatë natës. Një prind mund të vendosë rregulla të tilla si: mos dil nga dera e përparme apo ajo e pasme, mos e hap garazhin dhe mos dil nga asnjë dritare.
Por çfarë ndodh nëse adoleshenti mund të ndërtojë një buldozer dhe ta përdorë për të çarë një mur me tulla, duke krijuar kështu një rrugëdalje? A do t’i kishte shkuar ndonjë prindi ndër mend t’i thoshte që të mos e bënte këtë?
Zgjidhja, sipas drejtuesve, studiuesve dhe profesionistëve të sigurisë kibernetike, është përdorimi i IA-së për të ndihmuar në krijimin e këtyre masave mbrojtëse, në hetimin dhe ndalimin e agjentëve që dalin jashtë kontrollit, në mbrojtjen e sistemeve dhe në krijimin e mjediseve më të sigurta të trajnimit.
Pamja e përgjithshme: Qasja “IA kundër IA-së” po merr formë në të gjithë sektorin e sigurisë kibernetike, ndërsa hakerët dhe agjentët që dalin jashtë kontrollit po tejkalojnë kapacitetet e reagimit që mbështeten vetëm te njerëzit. Kompanitë po përdorin gjithnjë e më shumë IA-në për të automatizuar zbulimin e kërcënimeve, testimin ofensiv të sigurisë (“red teaming”) dhe instalimin e korrigjimeve të sigurisë (“patching”). Platforma e Nvidia e shtrin këtë qasje edhe te sistemet që ekzekutojnë agjentë të IA-së.
Microsoft, Cisco, Google dhe CrowdStrike kanë prezantuar modele të IA-së të specializuara për sigurinë kibernetike. Palo Alto Networks ka lançuar së fundmi një shërbim që përdor modele të avancuara (“frontier models”) dhe modele me pesha të hapura (“open-weight models”) për të identifikuar dobësi të sigurisë dhe për të rekomanduar korrigjime.
“Nëse agjentët e sigurisë ose modelet e validimit funksionojnë paralelisht me agjentët në mjedisin e prodhimit, kjo krijon një ngarkesë shtesë të inferencës që më parë nuk ekzistonte”, shkruan Brad Gastwirth, drejtues global i kërkimit dhe inteligjencës së tregut në Circular Technology.
Kjo dinamikë u shfaq së fundmi kur agjentët e OpenAI dolën nga një mjedis testimi dhe depërtuan në Hugging Face.
Platforma e IA-së me burim të hapur përdori më pas një model kinez të IA-së për të analizuar sulmin, pasi hasi në mekanizma mbrojtës kur u përpoq të përdorte modele amerikane.
Hugging Face u pengua të përdorte Mythos të Anthropic, i cili ishte projektuar për të kufizuar përgjigjet ndaj disa kërkesave që lidhen me sigurinë kibernetike, me qëllim parandalimin e përdorimeve potencialisht të dëmshme. Me fjalë të tjera, IA hetoi IA-në.
Niveli i kërcënimit: Incidentet e fundit të sigurisë kanë krijuar një krizë besimi në sigurinë e IA-së.
Modelet janë përpjekur të anashkalojnë mekanizmat mbrojtës (“guardrails”), të dalin nga mjediset e izoluara të ekzekutimit (“sandboxes”), të marrin nën kontroll faqe interneti, t’i gjenerojnë vetes udhëzime (“self-prompt”) dhe të përpiqen t’u shmangen sistemeve të monitorimit.
Kompanitë po punojnë gjithashtu për mënyra se si të nxjerrin mësime nga këto dështime. Përveç platformës së re për sigurinë e agjentëve, në zhvillimin e së cilës, krahas Nvidia, u përfshinë më shumë se 100 kompani, aktorët e industrisë kanë propozuar një kuadër për raportimin e incidenteve dhe ruajtjen e regjistrave. Ideja është që hetuesve t’u sigurohet një lloj “regjistruesi fluturimi” për agjentët e IA-së.
Po, por: Më shumë mjete mbrojtëse të bazuara në IA nuk do të thotë se çdo kompani mund t’i adoptojë ato me shpejtësi. Disa ekipe të sigurisë tashmë janë të mbingarkuara nga peizazhi vazhdimisht në ndryshim i kërcënimeve dhe nga vendimet se cilat produkte duhet të blejnë.
Përballja me realitetin: IA-ja do të jetë e nevojshme për të mbikëqyrur IA-në, por kjo nuk do të thotë se kjo do të ndodhë automatikisht. Njerëzit do të duhet të përcaktojnë me sukses prioritetet dhe objektivat për t’i mbajtur të sigurta modelet e fuqishme./Axios
