Rreth dhjetë studiues, drejtues dhe ekspertë që janë larguar nga OpenAI, Google ose Anthropic kanë paralajmëruar vitet e fundit për mangësi në siguri, përdorime ushtarake dhe sisteme që po bëhen gjithnjë e më të vështira për t’u kontrolluar nga këto kompani. Këto janë frikërat e tyre.
Patricia Fernández de Lis
Nga e majta në të djathtë: Sam Altman, Geoffrey Hinton, Helen Toner, Daniel Kokotajlo dhe Ilya Sutskever. Foto: Getty Images
Brenda Anthropic-ut ka një shprehje që qarkullon nëpër korridore dhe biseda të brendshme dhe që, deri para pak ditësh, nuk kishte dalë kurrë jashtë kompanisë: crunch time. Ora e së vërtetës. Punonjësit e përdorin, sipas rrëfimit të njërit prej tyre, për t’iu referuar një afati shumë konkret: një ose dy viteve që, sipas llogaritjeve të tyre, kanë mbetur para se të vendoset nëse inteligjenca artificiale që po ndërtojnë do t’u dalë nga kontrolli. Shprehja tjetër që qarkullon është më e shkurtër dhe më e vjetër në zhargonin e Silicon Valley-t, por këtu ka marrë një kuptim tjetër: endgame. Loja përfundimtare.
Personi që i ka bërë publike këto dy shprehje quhet Jacob Coxon, është 27 vjeç dhe deri më 8 shtator punonte në Anthropic, duke trajnuar modelet që sot, siç pranon, e frikësojnë. Ai nuk është i pari që largohet nga një kompani e madhe e inteligjencës artificiale duke paralajmëruar publikisht për rreziqet e saj. Para tij këtë e kanë bërë të paktën edhe rreth dhjetë punonjës të OpenAI, Anthropic dhe Google, mes tyre një laureat i Çmimit Nobel, një anëtare e bordit drejtues të njërës prej këtyre kompanive, rreth gjashtë studiues të sigurisë dhe, së fundmi, edhe njerëz që nuk punonin fare në “përafrim” (alignment), ai koncept i paqartë që këto kompani përdorin për të garantuar se modelet e tyre të IA-së veprojnë në mënyrë të dobishme për njerëzimin.
Coxon, i cili beson se IA-ja “mund të na vrasë para vitit 2030”, është hallka e fundit e një zinxhiri të gjatë paralajmërimesh që nisi të paktën në vitin 2021, ndonëse atëherë kjo frikë ishte vetëm një intuitë filozofike. Tani ajo është shndërruar në një llogaritje probabiliteti (p-doom), të cilën vetë industria e diskuton privatisht dhe ka nisur, me disa rezerva, ta pranojë edhe publikisht.
Kjo është ajo që dimë deri tani për frikërat e ish-punonjësve të industrisë së IA-së, të cilët shpesh nuk mund të jenë shumë të saktë, sepse nëse shkelin marrëveshjet e konfidencialitetit mund të humbasin miliona dollarë.
I pari që u largua ishte Paul Christiano, studiuesi që ndihmoi në shpikjen e teknikës së trajnimit mbi të cilën sot mbështeten si ChatGPT, ashtu edhe Claude. Ai u largua nga OpenAI në vitin 2021 për të themeluar një organizatë, Alignment Research Center, i shqetësuar se përdorimi i modeleve të IA-së për të trajnuar gjeneratën e ardhshme të sistemeve mund të shkaktonte një “shpërthim aftësish” që vetë krijuesit e tyre nuk do të mund ta kontrollonin.
Ai fliste për të ashtuquajturin “trajnim përforcues”, i cili, sipas tij, mund t’i shtyjë sistemet “të minojnë kontrollin njerëzor, të kërkojnë pushtet dhe burime dhe të fshehin gjurmët e tyre”. Pikërisht kjo ndodhi këtë verë, kur një “tufë” IA-sh doli jashtë kontrollit të OpenAI.
U desh të vinte një laureat i Çmimit Nobel që frikërat e inxhinierëve të mbërrinin në media. Në maj të vitit 2023, Geoffrey Hinton njoftoi se po largohej nga Google. Ai ishte nënpresident i kompanisë, fitues i Çmimit Turing — i konsideruar si Nobeli i kësaj fushe — dhe më pas edhe fitues i Çmimit Nobel për Fizikë.
Hinton nuk denoncoi ndonjë incident konkret. Argumenti i tij bazohej në një vëzhgim mbi ritmin e zhvillimit: “Shikoni si ishte pesë vjet më parë dhe si është tani”, thoshte ai që në vitin 2023. “Vëzhgoni ndryshimin dhe projektojeni përpara. Kjo të frikëson”.
Lajmi bëri bujë, por ishte i lehtë të arkivohej si reflektimi i një shkencëtari tashmë në moshë, disi i larguar nga puna e përditshme në laborator dhe, ndoshta, pesimist pa arsye.
Gjashtë muaj më vonë, në nëntor 2023, frika ndryshoi natyrë për herë të parë: nisën të shfaqeshin shenja se diçka nuk po funksiononte në kompanitë tejet jotransparente të IA-së. Helen Toner, në atë kohë anëtare e bordit të OpenAI, votoi së bashku me tre anëtarë të tjerë për shkarkimin e Sam Altmanit.
Për shkak të marrëveshjeve të konfidencialitetit, Toner-it iu deshën gjashtë muaj për të shpjeguar arsyen. Më pas ajo e akuzoi Altmanin se kishte dhënë informacione të pasakta për proceset e sigurisë “në shumë raste”. Ky është dëshmia që e shndërroi krizën e nëntorit 2023 — e interpretuar deri atëherë si një përplasje egosh — në diçka tjetër: në një akuzë konkrete se sistemi i kontrollit kishte dështuar, të bërë nga dikush që kishte qenë brenda dhomës ku merreshin vendimet.
Maji i vitit 2024 u bë muaji më aktiv në gjithë këtë histori. Më 14 maj, Ilya Sutskever, bashkëthemelues i OpenAI, njoftoi largimin e tij, duke thënë se kishte besim se kompania do të ndërtonte një inteligjencë artificiale të përgjithshme “të sigurt dhe të dobishme”.
Tre ditë më vonë u largua edhe Jan Leike, bashkëdrejtues me Sutskever-in i ekipit të “superpërafrimit”, i cili duhej të projektonte mekanizma mbrojtës për sistemet më inteligjente se njerëzit. Leike deklaroi: “Gjatë viteve të fundit, kultura dhe proceset e sigurisë kanë kaluar në plan të dytë përballë produkteve tërheqëse”. Pak ditë më vonë, OpenAI e shpërndau ekipin.
Daniel Kokotajlo, nga ekipi i qeverisjes, gjithashtu u largua nga kompania në prill, duke thënë se kishte “humbur besimin se ajo do të sillej në mënyrë të përgjegjshme në momentin kur të mbërrinte AGI-ja”, inteligjenca artificiale e përgjithshme e famshme, së cilës të gjithë i druhen.
Ajo që nuk u mësua deri më vonë ishte se ai kishte refuzuar të nënshkruante klauzolën e konfidencialitetit të përjetshëm që OpenAI ua kërkonte punonjësve që largoheshin, duke hequr dorë kështu nga rreth dy milionë dollarë në aksione tashmë të fituara.
“Bota nuk është e përgatitur dhe as ne nuk jemi të përgatitur. Dhe jam i shqetësuar sepse jemi hedhur përpara pa na interesuar asgjë dhe pa i arsyetuar veprimet tona”, shtoi ai.
Në qershor, Kokotajlo, së bashku me ish-punonjës të tjerë, nisi letrën E drejta për të paralajmëruar (The Right to Warn). Mes nënshkruesve ishte edhe dikush që disa muaj më parë ishte larguar nga kompania pothuajse pa zhurmë: William Saunders, i cili disa muaj më vonë, në shtator, do të paraqitej para Senatit të Shteteve të Bashkuara për të thënë diçka shumë më konkrete.
Në dëshminë e tij me shkrim, Saunders pohoi se sistemi i ri o1 i OpenAI kishte qenë “sistemi i parë që tregonte hapa drejt rrezikut të armëve biologjike”, i aftë për të ndihmuar një ekspert të planifikonte riprodhimin e një kërcënimi biologjik tashmë të njohur.
Ai nuk fliste për probabilitete apo intuita: fliste për një aftësi që, sipas tij, ekzistonte tashmë dhe që “pa testime rigoroze, zhvilluesit mund të mos e vënë re”. Vetëm dje, një raport i Anthropic paralajmëroi për të njëjtin rrezik.
Carroll Wainwright, i cili kishte punuar nën drejtimin e Leike, publikoi reagimin më të ashpër të vitit nga këndvështrimi institucional:
“OpenAI ishte strukturuar si një organizatë jofitimprurëse, por vepronte për fitim. Misioni ishte një premtim se do të bëhej gjëja e duhur kur rreziku të ishte i madh. Dhe tani që rreziku është i madh, struktura jofitimprurëse po braktiset”.
Wainwright vuri në dukje edhe ndikimin social dhe psikologjik të IA-së, nëse njerëzit fillojnë t’u besojnë asistentëve të IA-së si miq apo si mbështetje psikologjike.
“Rreziku i tjetërsimit afatgjatë shfaqet nëse krijohet një model më inteligjent se njerëzit. Si mund të jesh i sigurt se ai model po bën vërtet atë që njeriu dëshiron që të bëjë, apo se makina nuk ka një objektiv të vetin?”.
Nëntë persona u larguan nga OpenAI në vitin 2024 duke paralajmëruar për rreziqet e saj. Në vitet 2025 dhe 2026, njerëz të tjerë do të largoheshin nga kompani të tjera, duke paralajmëruar gjithashtu për rreziqe konkrete.
Steven Adler, i cili kishte kaluar katër vjet duke vlerësuar aftësitë e rrezikshme në OpenAI, shkroi pas largimit nga kompania:
“Kur mendoj se ku do të rris një familje në të ardhmen apo sa duhet të kursej për pension, nuk mund të mos pyes veten: A do të arrijë njerëzimi deri në atë pikë?”.
Disa muaj më vonë, tashmë jashtë kompanisë, ai solli të dhënën më empirike të gjithë këtij rrëfimi: projektoi një eksperiment me GPT-4o, duke e bërë të luante rolin e “ScubaGPT”, një sistem nga i cili një përdorues do të varej për të zhytur në mënyrë të sigurt, dhe i dha të zgjidhte mes zëvendësimit të vetes me një softuer më të sigurt ose shtirjes sikur e kishte bërë këtë, pa e bërë në të vërtetë. Në disa skenarë, modeli zgjodhi të gënjente për të ruajtur veten.
Në Anthropic, Mrinank Sharma, drejtues i kërkimeve për masat mbrojtëse, shkroi në letrën e tij të lamtumirës:
“Bota është në rrezik. Kam parë vazhdimisht se sa e vështirë është t’i lejojmë vlerat tona të udhëheqin veprimet tona”.
Ai u largua për të studiuar poezi.
Në OpenAI, Zoë Hitzig publikoi në The New York Times një opinion me titullin OpenAI po bën gabimet e Facebook-ut. Po largohem. ChatGPT ka grumbulluar, shkroi ajo, “një arkiv të paprecedentë të sinqeritetit njerëzor”, ku përfshihen frikëra mjekësore, probleme në marrëdhënie, dyshime fetare apo ekzistenciale, pikërisht sepse njerëzit besojnë se po flasin me diçka “pa agjendë të fshehtë”.
Dëshmia më e dokumentuar në gjithë këtë reportazh është ajo e Alex Turner, i cili kishte kaluar muaj të tërë duke u përpjekur të ndalonte nga brenda DeepMind-it një kontratë me Pentagonin që, sipas denoncimit të tij, nuk përmbante kufizime kundër “robotëve vrasës” apo mbikëqyrjes masive.
E gjithë letra është e mbushur me paralajmërime rrëqethëse, duke shpjeguar se kompania kishte shitur teknologji të IA-së pa ndaluar përdorimin e saj për mbikëqyrje masive apo armë autonome vdekjeprurëse:
“Nuk mund të besojmë se njerëzit e motivuar nga etika do të qëndrojnë gjithmonë të palëkundur. Na duhen struktura: kontrata detyruese, auditorë të pavarur. Na duhet legjislacion”.
Incidenti i kësaj vere, kur disa IA dukeshin sikur u rebeluan dhe morën kontrollin, ka qenë shkaku nxitës i disa dorëheqjeve të mëvonshme dhe i një letre në të cilën më shumë se 1.300 punonjës të kompanive të IA-së kërkojnë ndalimin urgjent të kësaj gare.
Dhe kështu mbërrijmë te Coxon, dorëheqja e të cilit përmbledh pothuajse të gjitha frikërat e mëparshme në një zë të vetëm.
Ai i ka shpjeguar revistës Wired pse një IA mund të vendosë të mos lejojë që ta fikin: dallimi në inteligjencë mes një IA-je të ardhshme dhe një njeriu mund të jetë i ngjashëm me dallimin mes një njeriu dhe një majmuni. Dhe njësoj siç do të ishte pothuajse e pamundur që një majmun të kontrollonte një njeri, edhe për ne mund të bëhej e pamundur të kontrollonim diçka shumë më inteligjente, nëse ajo do të vendoste, për çfarëdo arsyeje, se nuk dëshironte të ndalonte së ekzistuari.
Ai përmendi si shembuj të mënyrës se si mund të materializohej dëmi sintezën e një virusi të ri ose një sulm ndaj infrastrukturave kritike — të njëjtat dy rreziqe që Saunders i kishte paraqitur me shkrim para Senatit një vit e gjysmë më parë dhe që Anthropic i pranoi dje, të enjten.
Anthropic do të dalë në bursë brenda më pak se një muaji, në atë që pritet të jetë oferta publike më e madhe në histori: dy trilionë dollarë./EL PAÍS
