Gazetarët amerikanë kanë përshkruar rastin e parë të njohur në të cilin inteligjenca artificiale (IA) e instaluar në një dron u ka marrë jetën njerëzve. Viktimat ishin tre civilë ukrainas, të cilët u goditën në Zaporizhzhia nga një armë ruse e pajisur me një algoritëm të avancuar.
Tre civilët ukrainas – Tetjana Bubynecová, Oleksij Svirin dhe Roman Karpij – humbën jetën më 6 korrik gjatë një sulmi me dron rus në Zaporizhzhia. Arma kishte si objektiv rezervuarë karburanti, por në vend të tyre goditi një ndërtesë aty pranë.
Kur ukrainasit analizuan dronin, i cili ishte ruajtur në një gjendje çuditërisht të mirë, zbuluan se ai nuk kishte pajisje radio-komunikimi. Nga kjo dhe nga hollësi të tjera, ekspertët arritën në përfundimin se droni ishte drejtuar plotësisht nga inteligjenca artificiale dhe se ishte pikërisht ky sistem që kishte shkaktuar vdekjen e civilëve.
Për rastin raportoi gazeta New York Times, duke u mbështetur në informacionet e ekspertëve dhe në burime ukrainase.
Pushtimi rus i Ukrainës ka shkaktuar gjatë katër viteve të fundit vdekjen e mijëra civilëve ukrainas, por vdekja e këtyre tre personave duket se përbën rastin e parë të dokumentuar në luftën ruso-ukrainase kur civilë janë vrarë nga një sistem i kontrolluar plotësisht vetëm nga inteligjenca artificiale.
Si Ukraina, ashtu edhe Rusia, përdorin teknologjinë e inteligjencës artificiale në sulmet ajrore në një shkallë të tillë saqë fusha e betejës përshkruhet gjithnjë e më shpesh si një poligon testimi në kohë reale për luftën e mbështetur nga IA.
Sipas disa ekspertëve të cituar nga New York Times, droni rus që kreu sulmin muajin e kaluar ishte një sistem eksperimental i inteligjencës artificiale. Ai ndryshonte nga sistemet e mëparshme në një pikë thelbësore: vendimin përfundimtar për sulmin nuk e mori një komandant njerëzor, por vetë sistemi i inteligjencës artificiale.
Deri më tani, sipas informacioneve të disponueshme, sistemet e IA-së të përdorura në dronë kërkonin konfirmimin e objektivit nga një operator njerëzor. Në këtë mënyrë ushtritë përpiqeshin të parandalonin gabimet e mundshme dhe, njëkohësisht, të përcaktonin qartë përgjegjësinë në rast të një incidenti.
Por analiza e këtij droni sugjeron se Rusia mund ta ketë braktisur tashmë këtë parim.
“Ky është një rrezik për të gjithë botën”, i tha New York Times komandanti i mbrojtjes ajrore në Zaporizhzhia, Serhij Minajev.
“Pas disa vitesh do të jetojmë si në filmin Terminator. Kjo nuk është shaka. Makinat tashmë po marrin vetë vendime për sulmet.”
Provat nga laboratori
Analiza e mbetjeve të dronit të përdorur në këtë sulm tregoi se në bord ndodhej një modul kompjuterik në miniaturë, i llojit që kompania Nvidia e shet komercialisht.
Pavarësisht përmasave të vogla, module të tilla janë të afta të ekzekutojnë modele të specializuara të inteligjencës artificiale, të trajnuara për identifikimin dhe goditjen e objektivave.
Pikërisht këto module të avancuara – në këtë rast Nvidia Jetson Orin – të cilat përdoren shpesh në kombinim me inteligjencën artificiale, së bashku me mungesën e antenave dhe pajisjeve transmetuese, i shtynë ekspertët ukrainas të dyshonin se armët mund të vepronin plotësisht pa kontroll njerëzor.
Hetimet e mëtejshme, sipas raportimit, e konfirmuan këtë dyshim.
“Përdorimi i inteligjencës artificiale autonome në sulmin ndaj pikës së karburantit më 6 korrik do të përbënte rastin e parë të dokumentuar kur viktima civile janë shkaktuar nga një dron rus i pajisur me një sistem të tillë”, tha për New York Times Kateryna Bondar, studiuese e lartë në Wadhwani AI Center, pranë Center for Strategic and International Studies në Uashington.
Rusët nuk e kishin enkriptuar çipin e Nvidia-s, ndaj hetuesit ukrainas arritën të rindërtonin me hollësi se çfarë kishte bërë sistemi.
Ata zbuluan se ai ishte trajnuar për të njohur lloje të ndryshme objektivash civile, të cilat duhej të ishte në gjendje t’i identifikonte vetë, përfshirë rezervuarë karburanti dhe pika karburanti.
Që nga ai moment, ekspertët ukrainas kanë gjetur edhe disa dronë të tjerë të ngjashëm, të cilët me sa duket kanë vepruar gjithashtu në kombinim me një komandant njerëzor, por pa shkaktuar viktima.
Sipas Nvidia-s, çipi në fjalë nuk është projektuar për përdorim ushtarak dhe as nuk duhet të shitet në Rusi. Në këtë rast, ai mund të ketë hyrë në vend përmes një ndërmjetësi.
Sipas New York Times, në pajisjen konkrete ndodhej mbishkrimi “Made in China”, pra “Prodhuar në Kinë”.
Inteligjenca artificiale dhe luftërat
Organizatat Amnesty International dhe Access Now, në një deklaratë të përbashkët të publikuar së fundmi, u bënë thirrje qeverive dhe kompanive teknologjike që të ndalojnë përhapjen e sistemeve ushtarake që përdorin inteligjencën artificiale.
“Shqetësimet tona nuk kufizohen vetëm te gabimet që mund të shkaktohen nga mosfunksionimi i këtyre sistemeve, por përfshijnë edhe mënyrën se si këto sisteme po ndryshojnë në mënyrë rrënjësore natyrën e operacioneve ushtarake”, thuhej në deklaratë.
“Jemi thellësisht të shqetësuar se përdorimi i modeleve të mëdha gjuhësore, LLM, për gjenerimin dhe përcaktimin e përparësive të objektivave po i shtyn aktorët ushtarakë drejt një forme lufte në të cilën parimet themelore të së drejtës ndërkombëtare humanitare – përfshirë parimin e dallimit, proporcionalitetit dhe kujdesit – nuk respektohen dhe ndoshta as nuk mund të respektohen në mënyrë të mjaftueshme, për shkak të shpejtësisë dhe shkallës së jashtëzakonshme të këtyre teknologjive, si dhe për shkak të të dhënave hyrëse të pasigurta, të njëanshme dhe shpesh të siguruara në mënyrë të paligjshme.”
Armët e kontrolluara nga inteligjenca artificiale janë shumë tërheqëse për ushtritë: ato zvogëlojnë mundësinë e ndërprerjes ose bllokimit të komunikimit me dronin, piloti nuk ka nevojë të jetë pranë vijës së frontit dhe vendimmarrja mund të jetë shumë më e shpejtë.
Rusia nuk është aspak vendi i vetëm që eksperimenton me sisteme të tilla. Megjithatë, sipas artikullit, është shteti i parë për të cilin është arritur të dokumentohet përdorimi i një sistemi të tillë në një sulm që ka vrarë civilë.
Ish-ministri ukrainas i Mbrojtjes, Mychajlo Fedorov, deklaroi se Ukraina kohët e fundit ka testuar sisteme të ngjashme edhe në Krime, por pa viktima civile.
Sulmet izraelite ndaj palestinezëve në Gaza janë përshkruar shpesh si një “laborator njerëzor për inteligjencën artificiale”, ku armët e së ardhmes të mbështetura nga IA testohen mbi njerëz të vërtetë.
Në fillim të këtij viti pati gjithashtu një përplasje publike mes Departamentit amerikan të Mbrojtjes, nën administratën e Donald Trumpit, dhe kompanisë Anthropic.
Sipas raportimeve, mosmarrëveshja shpërtheu pasi Anthropic refuzoi përdorimin e sistemeve të saj të inteligjencës artificiale në armë plotësisht autonome, në të cilat njeriu përjashtohet nga vendimi përfundimtar për përzgjedhjen e objektivit.
Kjo çështje dyshohet se lidhej me sulmet e fundit të Shteteve të Bashkuara kundër Iranit.
Tomáš Karlík, ct24.ceskatelevize.cz
Burimi: ČT24, New York Times, Gizmodo, Reuters, Amnesty International
