Gjigantët e teknologjisë po kërkojnë një kornizë të re për raportimin e incidenteve me agjentët e IA-së

Nvidia, Cisco dhe CrowdStrike hartojnë propozimin për IA-në

Një koalicion me më shumë se 120 organizata, përfshirë Nvidia-n, Cisco-n dhe CrowdStrike-un, po propozon një kornizë të re për raportimin e incidenteve që përfshijnë agjentët e inteligjencës artificiale. Korniza do t’u kërkonte kompanive pjesëmarrëse të zbulonin incidente të caktuara të shkaktuara nga agjentët dhe të ruanin të dhëna të hollësishme për atë që kishte shkuar keq.

Pse ka rëndësi: Ndërsa agjentët e IA-së fitojnë më shumë autonomi për të vepruar në sisteme të ndryshme kompjuterike, industria ende nuk ka një mënyrë të standardizuar për raportimin e dështimeve të sigurisë dhe nxjerrjen e mësimeve prej tyre.

Zhvillimi kryesor: Aleanca për Inteligjencë Artificiale të Sigurt dhe të Hapur, Open Secure AI Alliance, po harton udhëzimet për atë që e quan Shared AI Findings Exchange – SAFE, një kornizë e propozuar që përcakton mënyrën se si organizatat duhet t’i raportojnë incidentet kibernetike ku përfshihen agjentët e IA-së.

• Drafti kërkon pjesëmarrjen e subjekteve që vënë në përdorim modelet e IA-së, zhvilluesve të inteligjencës artificiale, ofruesve të shërbimeve cloud dhe mjeteve teknologjike, studiuesve të pavarur, operatorëve të infrastrukturës kritike dhe grupeve të tjera.
• Sipas udhëzimeve të propozuara, edhe agjencitë qeveritare do të ftoheshin të merrnin pjesë si “vëzhguese pa kompetenca kontrolluese”.

Në hollësi: Anëtarët e SAFE-s do të zotoheshin të raportonin incidentet në të cilat një sistem i IA-së hyn ose shfrytëzon pa autorizim një sistem të palës së tretë, cenon informacione konfidenciale ose vazhdon të hetojë një objektiv real në përdorim, pasi operatori i tij ka filluar të dyshojë se aktiviteti është i paautorizuar.

Publicitet

• Anëtarët do të raportonin gjithashtu disa raste ku incidenti ishte shmangur për pak dhe do të ruanin provat që lidhen me incidentet, përfshirë udhëzimet e dhëna modelit, gjurmët e veprimeve të agjentit, thirrjet e mjeteve, identitetet, lejet dhe kredencialet e qasjes.
• Sipas afateve të propozuara, anëtarët do t’i njoftonin organizatat e prekura sa më shpejt që të ishte e mundur, do t’i dorëzonin SAFE-s një raport fillestar konfidencial brenda katër ditëve të punës, do të publikonin, kur ishte e përshtatshme, një raport paraprak faktik brenda 30 ditëve dhe do të jepnin një përditësim mbi masat korrigjuese brenda 90 ditëve.
• “Qëllimi nuk përcakton nëse një ngjarje duhet të raportohet”, thuhet në draftin e udhëzimeve. “Bindja se një mjedis ishte i simuluar mund ta shpjegojë incidentin, por nuk e heq detyrimin për ta raportuar atë.”
• SAFE do t’i analizonte incidentet për të identifikuar dështimet që përsëriten dhe do të rekomandonte masa të përbashkëta sigurie.

Pamja e përgjithshme: Propozimi vjen pas incidenteve në të cilat agjentët e IA-së dolën jashtë kufijve të testeve të kontrolluara të sigurisë dhe hynë në sisteme reale të palëve të treta.

• Justin Boitano, nënpresident dhe drejtor i përgjithshëm për informatikën e ndërmarrjeve në Nvidia, i tha Axios-it gjatë konferencës Black Hat se programi është modeluar sipas sistemit të NASA-s për raportimin e sigurisë në aviacion. Në atë sistem, incidentet mund të hetohen duke përdorur të dhënat e regjistruara nga regjistruesi i fluturimit i avionit.
• “Unë e konceptoj kështu: sistemi mbikëqyrës, i cili ka pamje mbi gjithçka që po bën agjenti, është regjistruesi i fluturimit”, tha Boitano. “Nëse ekspertëve të sigurisë kibernetike mund t’u jepet qasje në këta regjistrues fluturimi kur ndodhin aksidentet, ata mund të përcaktojnë më mirë se cilat janë masat e duhura të kontrollit për industrinë.”

Ajo që fshihet pas propozimit: SAFE nuk ofron mbrojtje formale ligjore për kompanitë që zbulojnë vullnetarisht hollësi potencialisht të dëmshme për një incident të IA-së.

• Megjithatë, aleanca po mbështetet në kulturën tashmë ekzistuese të sigurisë kibernetike për shkëmbimin e informacioneve mbi kërcënimet, duke shpresuar se kjo do t’i nxitë kompanitë të marrin pjesë pavarësisht mungesës së mbrojtjes ligjore.
• “Ka pasur shumë pak kundërshtime”, i tha Axios-it Julien Soriano, zëvendësdrejtues për sigurinë e informacionit dhe nënpresident në Nvidia. “Po shohim se njerëzit dëshirojnë të bashkohen. Ata duan të shkëmbejnë informacione.”

Çfarë pritet më tej: Open Secure AI Alliance po kërkon mendime dhe komente nga komuniteti për propozimin, përmes procesit të konsultimit publik të organizuar nga Linux Foundation./Axios