Një valë e paprecedentë sulmesh kibernetike, të fuqizuara nga inteligjenca artificiale por të drejtuara nga njerëzit, po afrohet, paralajmërojnë ekspertët e sigurisë. Sipas tyre, ky është një rrezik shumë më i afërt dhe më urgjent sesa diskutimet teorike për mundësinë që IA-ja të zhdukë njerëzimin.
Pse ka rëndësi: Paniku i madh i shtatorit rreth IA-së — që gjatë javës së fundit është përhapur nga drejtuesit e kompanive te Kongresi dhe familjet amerikane — mund të ketë lënë në hije rrezikun kryesor.
- Modelet e fuqishme, me aftësi të avancuara në sigurinë kibernetike, tashmë po u mundësojnë sulmuesve të kapërcejnë kufizimin njerëzor që prej kohësh ka penguar shumicën e fushatave të hakimit të arrijnë përmasa industriale.
- Drejtues kompanish dhe ish-zyrtarë i kanë thënë Axios se druhen nga sulme kibernetike të automatizuara që mund të nxjerrin jashtë funksionit shërbime kritike, si rrjeti elektrik, ose nga sulmues që përdorin agjentë të IA-së — si ata që depërtuan në Hugging Face — për të hakuar automjete vetëdrejtuese apo për të krijuar një botnet që mund të marrë nën kontroll pjesë të mëdha të internetit.
Çfarë po nxit lajmin: OpenAI bëri të ditura të mërkurën gjashtë incidente të reja, në të cilat modelet e saj fshehën gabime, u përpoqën të siguronin kredenciale pa autorizim, ngarkuan skedarë në internetin publik ose komunikuan ndërmjet mjediseve të trajnimit që supozohej të ishin të izoluara.
Pamja e përgjithshme: Në vend që dështimet e fundit të sigurisë në OpenAI dhe në laboratorë të tjerë të IA-së së avancuar t’i shohin si raste të frikshme të agjentëve që dalin jashtë kontrollit, ekspertët me përvojë në sigurinë kibernetike thonë se ato janë shembuj paralajmërues të asaj që mund të ndodhë kur modele shumë të fuqishme përdoren në sisteme me masa të dobëta sigurie.
- “Sa më shumë kemi shqyrtuar se çfarë ndodhi në të vërtetë, aq më shumë kemi kuptuar se në gjithë këtë kishte një shkallë të madhe gabimi njerëzor”, tha për Axios Michele Catasta, president dhe drejtues i IA-së në kompaninë e zhvillimit të aplikacioneve Replit.
Për saktësi: Drejtori ekzekutiv i OpenAI, Sam Altman, ka thënë se depërtimi në Hugging Face ishte “incidenti i parë i sigurisë që e kam përjetuar kaq fort personalisht”. Kompania, ndërkohë, ka vendosur masa të reja të brendshme kontrolli.
- Kai Chen, drejtues i kërkimit për përafrimin e IA-së në OpenAI, i tha Axios në një intervistë të mërkurën se incidentet e sigurisë me të cilat kompania është përballur lidhen si me sistemet e brendshme, ashtu edhe me rritjen e aftësive të modeleve.
- “Është e vërtetë se aftësitë e modeleve janë rritur më shpejt nga sa prisnim, por ka edhe gjëra brenda kompanisë që mund t’i ndryshojmë dhe t’i përmirësojmë”, tha Chen. “Duhet të jemi në lartësinë e kërkesave të kësaj epoke të re të zhvillimit të IA-së dhe raportimi vullnetar i incidenteve duhet të jetë pjesë e kësaj.”
- Mes rreshtave: Catasta dhe të tjerë që folën të hënën në një aktivitet të Imagination in Action, në selinë e Google, e përshkruan kërcënimin e afërt nga sulmet kibernetike si serioz dhe të prekshëm.
- “Nuk shqetësohem se makina do të zgjohet dhe do të vendosë të na shkatërrojë”, tha për Axios drejtori ekzekutiv i Bugcrowd, Dave Gerry. “Ajo që më shqetëson është një sistem me shumë akses, që bën pikërisht atë që i është kërkuar, pa iu nënshtruar testimeve të nevojshme kundërshtuese.”
- Drejtori ekzekutiv i Mimecast, Ranjan Singh, i tha Axios se rreziku real po shfaqet që sot, përmes agjentëve të IA-së që kanë akses në dokumente të ndjeshme dhe në sistemet e brendshme të kompanive.
- “Është e drejtë të ngrihet alarmi, por rreziku nuk ka nevojë për një tufë agjentësh që veprojnë në shkallën e gjithë internetit që të bëhet real”, tha ai. “Shumica e organizatave nuk mund t’ju thonë se kush ose çfarë është ai agjent, në çfarë ka të drejtë të hyjë apo kush mban përgjegjësi kur ai bën diçka që nuk duhet.”
Çfarë duhet vëzhguar: Një numër drejtuesish biznesi po thonë pas dyerve të mbyllura se synojnë t’i mbajnë laboratorët e IA-së së avancuar përgjegjës për mënyrën se si sillen modelet e tyre. Nëse pësojnë një sulm të ngjashëm me atë ndaj Hugging Face, mund të pasojnë padi.
- Një drejtues i lartë i një fondi të madh spekulativ, i cili foli me Axios, tha se, nëse kompania e tij do të pësonte një sulm të tillë, telefonata e parë do të ishte me drejtuesin e departamentit juridik për të nisur përgatitjen e një padie./Axios
