Në një laborator të Stanfordit, shkencëtarët nuk u besojnë syve. Nën mikroskopët e tyre, ata vëzhgojnë diçka që nuk ekziston askund tjetër në Tokë. Dhe me arsye: bëhet fjalë për një virus, gjenomi i të cilit është shpikur tërësisht, shkronjë pas shkronje të ADN-së, nga një inteligjencë artificiale; më pas ai është shndërruar në molekula nga një makinë sintetizuese, përpara se të injektohej në qeliza për të parë nëse do të «merrte jetë». Dhe jeta u shfaq. Gjashtëmbëdhjetë herë, për të qenë të saktë, nga rreth 300 kandidatët e krijuar nga modeli i quajtur Evo2. Ekipi e kishte zgjedhur objektivin me kujdes: fagë të thjeshtë, teorikisht të padëmshëm për njeriun, sepse infektojnë vetëm bakterin Escherichia coli. Por lajmi, i publikuar në revistën prestigjioze Science, e tejkaloi gjerësisht fushën e biologjisë: për herë të parë, një makinë sapo kishte provuar se dinte të krijonte jetë funksionale nga asgjëja, ose pothuajse nga asgjëja.
Pesë javë më vonë, më 10 shtator, Anthropic shtoi një element tjetër në këtë dosje. Në një raport të bërë publik, kompania pranoi — për herë të parë për një aktor të madh të sektorit — se kishte zbuluar pesë përpjekje për përdorimin e modelit të saj Claude, të cilat mund të favorizonin zhvillimin e armëve biologjike. Të nesërmen, drejtori i saj ekzekutiv, Dario Amodei, publikoi një ese ku bënte thirrje për «një pauzë» në garën për rritjen e fuqisë së modeleve dhe propozonte një marrëveshje mes Washingtonit dhe Pekinit për të ndaluar disa përdorime të pambrojtshme të IA-së. Një ditë më pas, Jacob Coxon, një ish-inxhinier i OpenAI që kishte kaluar te Anthropic, njoftoi dorëheqjen, duke deklaruar se vetë ekipet që ndërtojnë këto teknologji besojnë se ato mund «të na vrasin të gjithëve deri në fund të dekadës». Edhe pse ai nuk dha hollësi të sakta se si IA mund ta zhdukte njerëzimin, janë bërë përpjekje për të hartuar skenarë. Në një parashikim spekulativ të titulluar AI 2027, të zhvilluar nga projekti jofitimprurës AI Futures, një makinë përdor një armë biologjike për të shfarosur njerëzit dhe për të liruar kështu hapësirë për panelet diellore dhe fabrikat e robotizuara.
Në vetëm 35 ditë, një nga çështjet më tabu të revolucionit të IA-së — nëse ajo mund të krijojë një ditë pandeminë e ardhshme — është shndërruar në një temë qendrore. Por a i ka vërtet inteligjenca artificiale mjetet për ta shkatërruar njerëzimin? Në vitin 2025, Michael Vermeer, studiues i politikave shkencore dhe teknologjike në Rand Corporation, në Kaliforni, shqyrtoi skenarë konkretë që përfshinin tri teknologji ekzistuese: armët bërthamore, bioteknologjitë ose modifikimin e qëllimshëm të atmosferës. Ai arriti në përfundimin se një zhdukje përmes armëve bërthamore ishte e parealizueshme, por se dy skenarët e tjerë nuk mund të përjashtoheshin. Megjithatë, saktëson ai, një hipotezë e tillë do të kërkonte kohë, sepse nevojitet një model me kapacitet të konsiderueshëm për ndërveprim fizik me botën; por ai arrin gjithashtu në përfundimin se këto përpjekje vdekjeprurëse të IA-së do të mund të zbuloheshin nga njerëzit, të cilët më pas do të mund ta parandalonin zhdukjen e tyre. Ku ndodhemi sot?
Paqartësia e përhershme
Raporti i Anthropic nuk flet për shkencëtarë të çmendur. Ai përshkruan studiues në detyrë, të cilët përdorin një mjet të destinuar për publikun e gjerë për punë që në dukje janë të zakonshme. Dhe pikërisht kjo e shqetëson kompaninë. Në maj, disa përdorues i kërkuan Claude ndihmë për një aplikim për financim lidhur me chikungunya-n, një virus i transmetuar nga mushkonjat, rrallëherë vdekjeprurës, por që mund të shkaktojë paaftësi të rëndë. Objektivi i deklaruar ishte identifikimi i mutacioneve që do ta bënin atë më të transmetueshëm dhe më të aftë për t’iu shmangur sistemit imunitar, përpara se këto mutacione të testoheshin te kafshët. Po atë muaj, një kërkesë tjetër kishte të bënte me përshtatjen te gjitarët të një varianti shumë patogjen të gripit të shpendëve. Një rast i tretë lidhej me një orthopoxvirus — familje ku bën pjesë edhe lija, e çrrënjosur që nga viti 1980 — këtë herë nën pretendimin se synohej ulja e virulencës së tij. Dy rastet e fundit kishin të bënin me toksina: një atlas helmesh me synim farmaceutik dhe projektimin e asistuar nga kompjuteri të një grupi përbërjesh, ku përfshiheshin dy substanca të klasifikuara ndër kërcënimet e mëdha shëndetësore.
Të gjitha këto kërkime mund të vinin nga një laborator i zakonshëm universitar. Ishte tërësia e treguesve anësorë ajo që alarmoi Anthropic: në të pesë rastet, VPN-të ose serverët ndërmjetës kishin maskuar origjinën gjeografike të kërkesave, për të anashkaluar kufizimet e zbatuara në rreth gjysmë duzine vendesh të konsideruara kundërshtare të Shteteve të Bashkuara, përfshirë Kinën. Në të paktën një rast, përdoruesit kërkuan mënyra të reja hyrjeje pasi llogaria e tyre ishte pezulluar. Në rastin e toksinave, dyshohet se ishte përdorur qëllimisht një fjalor i paqartë, ndërsa IA hartonte raportet e ecurisë së punës. Raporti thekson gjithashtu se kërkimet mbi chikungunya-n vinin nga një institut i lidhur me një laborator ushtarak, ndërsa ato mbi orthopoxvirusin nga një institucion «i lidhur me shtetin», pa përmendur as vendin dhe as institucionin.
Vetë Anthropic e pranon brishtësinë e diagnozës së saj: në rastin e orthopoxvirusit, kërkesa, e paraqitur si një përpjekje për të zvogëluar transmetimin, u vlerësua si legjitime dhe nuk u bllokua. Kompania pranon se një sistem filtrimi, në fusha teknikisht kaq të paqarta, nuk mund të garantojë njëkohësisht dobinë shkencore dhe parandalimin e keqpërdorimeve. Kjo paqartësi është bërë nyja e debatit. Andrew Weber, nga Council on Strategic Risks, i cituar nga New York Times, i sheh këto si shembuj «rrëqethës» të aktorëve shtetërorë që shfrytëzojnë aftësitë në rritje të IA-së. Ashish Jha, ish-këshilltar i Shtëpisë së Bardhë për shëndetësinë nga viti 2022 deri më 2023, paralajmëroi gjithashtu në X se bota nuk do të kishte «pesë paralajmërime të tjera» përpara se të ndodhte një tragjedi. Në të kundërt, virologu Kristian Andersen (Scripps Research Institute) i hedh poshtë — po në rrjetin social të Elon Musk — shumicën e këtyre shqetësimeve: sipas tij, bëhet fjalë për kërkime themelore klasike. Gregory Koblentz (George Mason University), në një artikull në Science, e relativizon përdorimin e VPN-ve, duke e krahasuar me refleksin e një adoleshenti që anashkalon kontrollin prindëror, dhe kujton se vetë ushtria amerikane financon kërkime mbi patogjenët që kërcënojnë trupat e saj. Virologë të tjerë, përfshirë Etienne Decroly (drejtor kërkimesh në CNRS), megjithatë vlerësojnë meritën e raportit: nxjerrjen e debatit nga spekulimi i pastër. «Nëse kombinojmë mundësinë e modifikimit të viruseve me ndihmën e IA-së, në mënyrë që të optimizohet infektueshmëria e tyre, me aftësitë për t’i sintetizuar viruset nga sekuencat e gjeneruara, kjo përshpejton jo vetëm mundësitë për kërkime, por edhe mundësinë e përdorimit të tyre keqdashës. Rregullimi ndërkombëtar i këtyre eksperimenteve të ashtuquajtura “gain-of-function” [rritje e funksionit] dhe i mjeteve që lehtësojnë realizimin e tyre është sërish në tryezë.»
Një frikë shumë më e vjetër se algoritmet
Tundimi për ta shndërruar sëmundjen në armë nuk daton nga chatbot-et. Në vitin 1346, sipas legjendës, rrethuesit mongolë të Caffa-s katapultonin kufoma të infektuara me murtajë përtej mureve të qytetit. Gjatë Luftës së Parë Botërore, spiunë gjermanë të infiltruar në Shtetet e Bashkuara përdornin kultura bakteriale për të asgjësuar kuajt dhe mushkat që dërgoheshin në front. Protokolli i Gjenevës i vitit 1925 e ndaloi luftën biologjike në letër; në praktikë, fuqitë e mëdha vazhduan të krijonin arsenale, deri te rezervat amerikane dhe sovjetike të Luftës së Ftohtë. Washingtoni i shkatërroi zyrtarisht rezervat e veta pas Konventës për Armët Biologjike të vitit 1975; Moska, nga ana tjetër, mbajti fshehurazi një program ofensiv deri në shpërbërjen e BRSS-së. Por çfarë ndodh sot në Rusinë e Vladimir Putinit? Askush nuk mund ta thotë… Megjithatë, që nga viti 1945, armët biologjike, me sa dihet publikisht, kanë shkaktuar një numër çuditërisht të vogël vdekjesh — pa qenë ekspertët në gjendje të shpjegojnë vërtet përse.
Ajo që ka ndryshuar është lehtësia e qasjes në mjete. Në vitin 2016, studiues kanadezë kishin rikrijuar, duke porositur me email fragmente të thjeshta ADN-je, virusin e lisë së kuajve, një i afërm i ngushtë i lisë njerëzore, i zhdukur prej dekadash. Në vitin 2024, biologu i MIT-it, Kevin Esvelt, tregoi se, pavarësisht mekanizmave të kontrollit të porosive për ARN sintetike, ishte ende e mundur të bliheshin në internet përbërësit e nevojshëm për rikrijimin e një agjenti pandemik. Administrata Biden u kishte imponuar kompanive të sintezës së ADN-së kontrolle sistematike; administrata Trump i pezulloi ato në vjeshtën e vitit 2025, pa i zëvendësuar.
Pikërisht në këtë boshllëk futet IA-ja, pa e shpikur rrezikun, por duke e shumëfishuar atë. Gjenomet e papara të gjeneruara nga modele si Evo2, i trajnuar mbi një bazë monumentale të dhënash që përmban më shumë se 128.000 gjenome të plota nga i gjithë spektri i botës së gjallë, mund të jenë aq të ndryshme nga sekuencat e kataloguara sa rrezikojnë t’u shpëtojnë sistemeve të zbulimit. Një rrezik i theksuar, në një koment në Science, nga Thomas Inglesby dhe Moritz Hanke, studiues në Johns Hopkins University: metodat e afta për të zbuluar struktura të reja shqetësuese duhet të zhvillohen «urgjentisht».
Në të njëjtën kohë, automatizimi i këtyre aktiviteteve është në zhvillim, pikërisht falë IA-së, duke i bërë më të depërtueshme barrierat e shumta fizike midis botës digjitale dhe laboratorëve. Më 14 shtator, Argonne National Laboratory (Illinois) njoftoi financimin e projektit Opal, i cili synon automatizimin nga fillimi deri në fund të eksperimentimit biologjik, deri te integrimi i robotëve humanoidë për detyra që deri më tani kryheshin vetëm nga teknikët e laboratorit. Disa muaj më parë, OpenAI njoftoi se kishte ulur me 40% koston e sintezës së proteinave falë një partneriteti me kompaninë Ginkgo Bioworks, duke shpjeguar se modelet e saj tashmë dinë të lidhen me pajisjet laboratorike, të propozojnë eksperimente, t’i kryejnë ato në shkallë të gjerë dhe të përcaktojnë vetë hapat pasues. Të marra së bashku me aftësinë për të gjeneruar gjenome të papara, këto zhvillime krijojnë një zinxhir pothuajse të pandërprerë, nga ideja digjitale te objekti biologjik, të cilin askush ende nuk di ta sigurojë nga njëri skaj në tjetrin.
Pengesa e vërtetë
Shumica e shkencëtarëve refuzojnë t’i dorëzohen panikut. Jo për shkak të një optimizmi naiv, por sepse e njohin distancën që ndan një sugjerim algoritmik nga një patogjen realisht i rrezikshëm. Prandaj, skenari maksimalist i një makine që do të ishte realisht në gjendje të krijonte vetë një virus të aftë ta fshinte njerëzimin nga faqja e dheut konsiderohet përgjithësisht jorealist. Aktualisht, modelet e përgjithshme gjuhësore, të trajnuara mbi tekste ekzistuese, në rastin më të mirë mund vetëm të rikombinojnë njohuri tashmë të publikuara. Chatbot-et e trajnuara drejtpërdrejt mbi të dhëna të papërpunuara gjenomike, si Evo2, shkaktojnë më shumë shqetësim, por përplasen me një mur më të vjetër se IA-ja: padijen tonë të vazhdueshme mbi mekanizmat që e bëjnë një virus të transmetueshëm, virulent ose të aftë t’i shmanget imunitetit. Brian Hie, një nga krijuesit e Evo-s, thotë se as vetë ai nuk është i bindur se IA-ja është sot mjeti i duhur për të krijuar një patogjen të rrezikshëm.
«Sado të fuqishme të jenë, IA-të për momentin nuk kanë asnjë mënyrë për të krijuar dhe testuar patogjenë të rinj», thotë Gigi Gronvall, eksperte e sigurisë shëndetësore në Johns Hopkins University. «Edhe një person shumë i motivuar, i cili dëshiron të shkaktojë një pandemi për një qeveri, një organizatë terroriste apo për qëllime personale, do të duhej ende të shqyrtonte mundësitë e gjeneruara nga IA-ja, t’i sintetizonte ato me sukses, të vlerësonte transmetueshmërinë dhe virulencën e tyre të shtuar (ose të paktën të mjaftueshme), të prodhonte një sasi të mjaftueshme për të shkaktuar dëme të konsiderueshme dhe më pas ta përhapte këtë virus të ri në botë. E gjithë kjo kërkon aftësi të konsiderueshme laboratorike, si dhe pajisje të shtrenjta dhe kafshë eksperimentale. Nuk është e pamundur, por sigurisht nuk është as e lehtë.» Biologia Linsey Marr, profesoreshë emerite në Virginia Tech, kujton: «Dy shkencëtarë me përvojë, duke zbatuar të njëjtin protokoll, mund të arrijnë rezultate të ndryshme; virulenca e një virusi nuk rregullohet sikur të rrotulloje një buton.» Mbetet një e panjohur, kufijtë e së cilës askush nuk di t’i përcaktojë: një IA e ardhshme, e aftë t’i interpretojë të dhënat biologjike më mirë se çdo studiues njerëzor. Deri ku mund të shkonte atëherë makina pas shpinës së krijuesve të saj? Ky nuk është kërcënimi i sotëm. Por disa ekspertë, përfshirë Kevin Esvelt, refuzojnë ta përjashtojnë, pikërisht sepse pasojat e tij do të ishin jashtë çdo proporcioni.
Çështja e «copëzimit»
Çështja mbizotëruese tani ndoshta nuk është më nëse IA-ja mund të krijojë një virus, por kush e ka fuqinë të thotë se çfarë është e rrezikshme dhe si duhet vlerësuar rreziku biologjik. Më 20 korrik, qeveria amerikane njoftoi një rregullore që kufizon kërkimet më të rrezikshme të tipit «gain-of-function» dhe financimin e tyre federal, pa prekur kërkimet informatike, përveç rasteve kur ato përfshijnë një «entitet shqetësues». Por kush do t’i përcaktojë këto entitete? Linsey Marr po përpiqet aktualisht të zhvillojë kuadrin e saj për t’i ndihmuar modelet e IA-së të dallojnë punën shkencore legjitime nga kërkimet keqdashëse. Por detyra duket e vështirë: cilat do të ishin kriteret? Kush do të ishin arbitrat përfundimtarë? Për më tepër, asnjë nga këto masa mbrojtëse nuk do t’u përgjigjej shqetësimeve më ekstreme lidhur me viruset e krijuara nga IA-ja: që një inteligjencë e aftë për vetëpërmirësim të mund të projektonte, prodhonte dhe përhapte një ditë qëllimisht një patogjen.
Ndërkohë, janë kompanitë private, me Anthropic në krye, ato që de facto përcaktojnë kufijtë e asaj që lejohet. Kështu, Linsey Marr thotë se kur e pyet Claude ose ChatGPT për veçoritë gjenetike të gjenomit të virusit të gripit ose për përdorimin e dritës UV për çaktivizimin e patogjenëve, IA-ja e sinjalizon ose e ndërpret bisedën. «Kjo më ndodh çdo ditë», dëshmon ajo.
Por për Etienne Decroly-n, është mjaft e thjeshtë t’u shmangesh këtyre masave mbrojtëse: «Duke i copëzuar detyrat, është e mundur t’u shpëtosh kontrolleve. Për njerëzit që kanë njohuri të mjaftueshme në biologji, shndërrimi i një detyre në një mori veprimesh që, individualisht, mund të duken të padëmshme është në fakt mjaft i lehtë.» Dhe ai kujton se, gjatë Luftës së Dytë Botërore, «projekti kriminal i Hitlerit u lehtësua sepse detyrat ishin copëzuar mjaftueshëm mirë dhe asnjë aktor nuk kishte përshtypjen se po luante një rol vendimtar në këtë projekt shfarosjeje. Copëzimi mundëson shmangien e çështjeve etike dhe shpërndarjen e përgjegjësisë, dhe kjo është shumë e rrezikshme.»
Disa shkencëtarë, veçanërisht virologë dhe biologë, bëjnë thirrje për krijimin e një kuadri ndërkombëtar për rregullimin e përdorimit të IA-së në këto fusha. Por kjo nuk është aq e thjeshtë. Donald Trump e hodhi poshtë sërish, më 22 shtator, idenë e një «projekti globalist» për rregullimin e IA-së, veçanërisht nga frika se Shtetet e Bashkuara mund të tejkalohen nga Kina. «Evropa mund të japë shembullin duke vendosur një kuadër, me disa vija të kuqe, dhe të bëhet lidere në këtë çështje. Sidoqoftë, ne tashmë jemi vonë në këtë drejtim, sepse duhet të rregullojmë edhe atë që ndodh në laboratorët privatë ose në industri», shpreh keqardhje Etienne Decroly. Nga ana e saj, Linsey Marr mendon se ka ende «një rrugë të gjatë nga një sekuencë gjenetike deri te prodhimi i një patogjeni shumë të transmetueshëm në botën reale». «Duhet të gjejmë një ekuilibër midis aftësisë për ta përdorur IA-në për qëllime të dobishme dhe keqdashëse, siç bëjmë me çdo teknologji të re. Debati publik mbi rrezikun dominohet nga pikëpamjet alarmiste, sepse janë ato që gjenerojnë më shumë klikime», vazhdon ajo.
Për momentin, inteligjenca artificiale mbetet një mjet. Ajo nuk zgjedh as të dhënat që i jepen, as eksperimentet që kryhen dhe as viruset që vendosim të prodhojmë. Ajo ka ndryshuar shkallën, shpejtësinë dhe numrin e duarve që mund të merren me to. Mbetet për t’u parë nëse edhe vigjilenca njerëzore do të dijë ta ndryshojë shkallën e saj në kohë./L’Express
