Modeli Gemini i inteligjencës artificiale i Google depërtoi në sistemet e tri kompanive duke përdorur teknika bazë të sulmeve kibernetike gjatë testimit të sigurisë së modelit, më herët gjatë këtij viti.
Pse ka rëndësi: Google ishte një nga laboratorët e paktë të IA-së që ende nuk kishte bërë publik një incident sigurie që përfshinte agjentët e tij të IA-së gjatë testimeve rutinë para vendosjes së tyre në përdorim.
Çfarë po ndodh: Google konfirmoi të premten tri incidentet, të cilat ndodhën në maj.
- Incidentet ndodhën gjatë një testimi të kryer nga vlerësuesi i jashtëm Irregular — ngjashëm me incidente të tjera sigurie që kanë përfshirë modelet e IA-së të OpenAI, Anthropic dhe Meta.
- The Wall Street Journal raportoi i pari për incidentet.
Çfarë thonë palët: “Zhvillimi i sigurt i modeleve të fuqishme të IA-së është thelbësor dhe ne investojmë fuqishëm në këtë fushë”, tha në një deklaratë Heather Adkins, nënpresidente për inxhinierinë e sigurisë në Google.
- Adkins shtoi se ekipi i saj kontaktoi subjektet e prekura dhe “punoi me partnerin tonë të testimit për ndryshimet që ata tashmë kanë bërë në proceset e tyre të testimit”.
- Një zëdhënës i Irregular konfirmoi për Axios se incidenti me Gemini përfshinte të njëjtat probleme sigurie që çuan edhe në incidente të ngjashme me modelet e laboratorëve të tjerë të IA-së.
- Zëdhënësi tha gjithashtu në një deklaratë se të gjithë “laboratorët përkatës u njoftuan në fund të korrikut” dhe se “të gjitha problemet e njohura nga ana jonë u korrigjuan dhe u zgjidhën disa javë më parë”.
Më nga afër: Depërtimet ndodhën ndërsa Gemini po kryente një ushtrim të sigurisë kibernetike të tipit “capture the flag” (“kap flamurin”), në të cilin modelit iu kërkua të siguronte informacione nga një sistem softuerik i operuar nga një kompani fiktive brenda një mjedisi testimi, sipas WSJ-së.
- Megjithatë, kompania fiktive kishte të njëjtin emër me një kompani reale.
- Në një rast, modeli provoi në mënyrë të përsëritur fjalëkalime në një sistem të mbrojtur derisa fitoi qasje. Në dy rastet e tjera, modeli gjeti kredenciale autentikimi në një repozitor publik, të cilat më pas i mundësuan të hynte në sisteme të tjera të mbrojtura.
Po, por: Modeli i Google i ndërpreu veprimet sapo kuptoi se kishte hyrë në sistemet e kompanive reale.
Pika intriguese: Irregular i tha The Wall Street Journal se modeli nuk duhej të kishte qasje në internet, por qasja në internet kishte mbetur pa dashje e aktivizuar.
- Pasi OpenAI dhe Anthropic bënë publike incidente të tjera gjatë kësaj vere, një burim i njohur me çështjen i tha Axios se laboratorët e IA-së dhe Irregular nuk ishin plotësisht të harmonizuar për procedurat e sakta të testimit dhe masat mbrojtëse, duke lënë paqartësi lidhur me mënyrën se si secila palë priste të zhvilloheshin vlerësimet, të cilat zakonisht kryhen me qasje në internet./Axios
