Nga Adriel Bettelheim | Axios
Paralajmërimet e forta të kësaj jave për rrezikun që inteligjenca artificiale e pakontrolluar mund të shkatërrojë njerëzimin po e rikthejnë vëmendjen te mënyra se si modelet e IA-së tashmë po përdoren në eksperimente të rrezikshme biologjike — si dhe te mungesa e masave mbrojtëse.
Pse ka rëndësi: Po rritet shqetësimi për rreziqet e reja që lidhen me zhvillime të tilla si viruset e projektuara nga inteligjenca artificiale. Por vendosja e barrierave mbrojtëse është e vështirë kur nuk ekziston një mënyrë plotësisht e sigurt për të ditur se si do të sillen disa sisteme të IA-së.
Armët biologjike të mundësuara nga inteligjenca artificiale janë ndër skenarët më të këqij që studiuesit kanë përmendur si një rrezik katastrofik të aftë, në rastin ekstrem, të kërcënojë ekzistencën e njerëzimit.
Zhvillimi kryesor: Të enjten, Anthropic bëri të ditur se kishte ndërprerë pesë raste të mundshme ku aktorë të ndryshëm po përdornin modelet e saj në mënyra që mund të ndihmonin zhvillimin e armëve biologjike.
Njoftimi u bë në kuadër të një vlerësimi të kërcënimeve, ku përshkruheshin raste reale të zbuluara dhe të ndërprera nga kompania gjatë periudhës nga dhjetori deri në gusht.
Në dy prej rasteve, studiuesit po përpiqeshin ta përdornin Claude për të marrë ndihmë në kërkime të tipit “gain-of-function” mbi viruse të rrezikshme — kërkime që u shtojnë patogjenëve karakteristika të caktuara në laborator, me qëllim që të kuptohet më mirë sjellja e tyre dhe potenciali për të shkaktuar pandemi.
Vlerësimi thekson se aftësitë biologjike mund të përdoren si për qëllime të dobishme, ashtu edhe për qëllime të dëmshme, ndërsa është jashtëzakonisht e vështirë të përcaktohet qëllimi real i përdoruesit, veçanërisht kur aktorët e sofistikuar mund t’i fshehin motivet e tyre.
“Ne i konsiderojmë këto raste jo si dëshmi se kërcënimet biologjike të përforcuara nga Claude janë të afërta, por si dëshmi se përpjekje të rëndësishme kërkimore me përdorim të dyfishtë lidhen me aktorë shtetërorë shqetësues, të cilët në mënyrë të përsëritur shmangin kontrollet tona të qasjes”, thuhet në raport.
Raporti shton:
“Garantimi i qasjes së sigurt në përmbajtje të tilla do të kërkojë domosdoshmërisht sinjale që lidhen me llogaritë dhe institucionet, për të verifikuar legjitimitetin e përdoruesve, si dhe nivelin bazë të mbikëqyrjes që mundëson ruajtja e të dhënave për identifikimin e keqpërdorimeve.”
Modelet më të fundit të Anthropic janë nxjerrë me masa mbrojtëse që kufizojnë qasjen në pyetje të caktuara mbi kërkimin biologjik që mund të keqpërdoren.
Pamja e përgjithshme
Vlerësimi publikohet në një kohë kur inteligjenca artificiale po e transformon me shpejtësi shkencën e jetës dhe njëkohësisht po vë në provë një sistem të fragmentuar ligjesh dhe institucionesh qeveritare që mbikëqyrin kërkimet me rrezik të lartë.
Muajin e kaluar, një ekip kërkimor i Stanfordit raportoi se kishte përdorur një lloj tjetër të inteligjencës artificiale gjenerative për të projektuar një virus sintetik — rasti i parë kur kjo teknologji u përdor për të krijuar një organizëm që nuk ekziston në natyrë.
Një anketë me më shumë se 100 ekspertë të sigurisë kombëtare, e realizuar këtë muaj nga Institute for Security and Technology, zbuloi se 70% e tyre besojnë se inteligjenca artificiale tashmë e rrit ndjeshëm rrezikun e zhvillimit të një arme biologjike, ose se do ta bëjë këtë brenda dy deri në tre vjetësh.
Sipas ekspertëve, rreziku kryesor që sjell IA-ja është se ul pengesat për aktorët më pak të aftë teknikisht dhe për shtetet që më parë nuk do të kishin kapacitete të tilla. Shqetësimi më i madh lidhet me biologjinë që mund të shkaktojë pandemi, dhe jo me sulmet kimike.
Si funksionon
Studiues nga Fordham, Johns Hopkins, Oxford, Stanford, Columbia dhe New York University paralajmëruan më herët këtë vit se modelet aktuale të inteligjencës artificiale tashmë posedojnë aftësi që mund të keqpërdoren.
Sipas tyre, këto sisteme mund:
- të projektojnë struktura të reja mbështjellëse që përmbajnë ADN-në e një virusi;
- të parashikojnë mënyrën se si mund të evoluojnë patogjenët;
- të krijojnë sekuenca të acideve nukleike në ADN ose ARN të afta për t’iu shmangur programeve të kontrollit të sigurisë;
- të projektojnë gjenome virale me aftësi të shtuara pasi sintetizohen në laborator.
Studiuesit paralajmëruan gjithashtu se zhvilluesit e IA-së po publikojnë modele të reja dhe më efikase biologjike, shpesh pa kryer as vlerësimet bazë të sigurisë — një praktikë që, sipas tyre, nuk do të tolerohej në fusha të tjera të kërkimit të shkencave të jetës.
Niveli i kërcënimit
Shqetësimi kryesor është se IA-ja e avancuar mund t’i ndihmojë aktorët keqdashës të kryejnë procese komplekse teknike shumë më lehtë, pa pasur asnjë kufizim etik ose ndërgjegje njerëzore.
Trajnimi i modeleve me të dhëna që lidhin gjenetikën e një virusi me karakteristikat e tij në botën reale — si aftësia për t’u transmetuar ose për t’iu shmangur sistemit imunitar — mund të ulë ndjeshëm pragun teknik për krijimin e patogjenëve të rrezikshëm, paralajmërojnë ekspertët.
Po shtohen gjithashtu thirrjet që qeveria amerikane të shqyrtojë modelet e reja të inteligjencës artificiale dhe të vendosë standarde sigurie në të njëjtën mënyrë siç vlerëson teknologjitë e tjera të ndjeshme.
Kjo do të zëvendësonte sistemin aktual, i cili mbështetet kryesisht në konsultime vullnetare mbi rreziqet ndërmjet laboratorëve të IA-së dhe zyrtarëve federalë.
Një institucion qendror për një qasje të tillë mund të jetë Center for AI Standards and Innovation (CAISI) i Departamentit amerikan të Tregtisë, i krijuar vitin e kaluar për të ndihmuar në përcaktimin e standardeve kombëtare.
“Ne kemi këtë moment për të bërë një hap prapa dhe për të pyetur: Çfarë të ardhmeje të inteligjencës artificiale duam dhe çfarë duhet të jetë pjesë e këtij ekosistemi?”, tha për Axios Tom Inglesby, drejtor i Johns Hopkins Center for Health Security.
“Publiku duhet ta dijë se modelet më të fuqishme që po zhvillohen në këtë vend po shqyrtohen për rreziqe të nivelit më të lartë ndaj sigurisë kombëtare.”
A janë modelet e specializuara më të sigurta?
Disa ekspertë argumentojnë se e ardhmja mund të qëndrojë te sistemet e krijuara për qëllime specifike kërkimore, si AlphaFold i Google DeepMind, të cilat nuk veprojnë si agjentë autonomë.
Agjentët e IA-së janë programe që mund të planifikojnë dhe të kryejnë detyra në mënyrë të pavarur, ndërsa potencialisht mund t’i shmangen edhe mbikëqyrjes njerëzore.
“Sapo i shtoni autonominë sistemit, krijoni pasiguri që mund të jetë mjaft e rrezikshme, sepse mund të mos jeni në gjendje të parashikoni se çfarë do të bëjë ai në të ardhmen”, tha Hamza Chaudhry, përgjegjës për inteligjencën artificiale dhe sigurinë kombëtare në Future of Life Institute, një organizatë jofitimprurëse që synon reduktimin e rreziqeve nga IA-ja.
“Arsyeja pse njerëzit shqetësohen për sistemet superinteligjente është se autonomia e tyre mund të rritet po aq shpejt sa inteligjenca e tyre.”
Çfarë pritet më tej
Vëmendja tani është përqendruar te pyetja nëse politikëbërësit do të reagojnë ndaj paralajmërimeve të fundit.
Një projektligj në Kongres, i njohur si ligji për një “kill switch”, do t’i jepte qeverisë autoritetin për të çaktivizuar modele të inteligjencës artificiale që mund të shkaktojnë dëme katastrofike.
Një masë tjetër do të krijonte një kornizë ligjore që do t’u mundësonte zhvilluesve të IA-së të bashkëpunonin dhe të koordinonin veprimet e tyre kundër rreziqeve të reja të sigurisë që lidhen posaçërisht me inteligjencën artificiale.
