Nga Niccolò De Rosa
Pas skenarëve apokaliptikë të paraqitur nga disa studiues dhe ish-punonjës të sektorit, Dario Amodei i Anthropic publikon tri propozime për të ngadalësuar zhvillimin e inteligjencës artificiale dhe për të shtuar kontrollet mbi makinat përpara se ato të mund të dalin jashtë kontrollit tonë. Edhe Musk dhe Altman pajtohen me të, por shndërrimi i teorisë në praktikë do të jetë një sfidë jashtëzakonisht komplekse.
Një ditë pas Sam Altmanit, edhe Dario Amodei, bashkëthemelues dhe drejtor ekzekutiv i Anthropic, kërkon ngadalësimin e garës së inteligjencës artificiale. Jo ndalimin e saj dhe as heqjen dorë nga përfitimet që ajo sjell, por t’u jepet sigurisë, testimeve dhe kontrolleve koha e nevojshme për të mbajtur ritmin me rritjen e aftësive të modeleve, përpara se IA-ja të shndërrohet në një armë me potencial shkatërrues pothuajse të pakufishëm.
Ky qëndrim është, në disa aspekte, befasues dhe vjen pas alarmit të ngritur nga Jacob Coxon, ish-studiues në OpenAI dhe Anthropic, i cili u largua nga sektori duke argumentuar se laboratorët po vrapojnë drejt sistemeve gjithnjë e më pak të kontrollueshme, të afta për të kërcënuar seriozisht mbijetesën e njerëzimit brenda vetëm pak vitesh.
Amodei, natyrisht, nuk dëshiron të shkatërrojë atë që është ndërtuar deri më tani.
“Po të përdoret me kujdes, IA-ja mund të jetë mrekullia e fundit në një seri të gjatë mrekullish teknologjike që e kanë ngritur dhe fisnikëruar njerëzimin”, pohon ai në manifestin e tij të titulluar Pace the frontier, që mund të përkthehet si “Të ngadalësohet ritmi në kufirin e avancimit”.
Por çështja është se sa shpejt po rritet fuqia e inteligjencës artificiale në krahasim me aftësinë e njerëzve për ta menaxhuar dhe qeverisur atë.
“Brenda 6–12 muajve, një rrjet agjentësh të IA-së mund të marrë kontrollin e internetit”, paralajmëron Amodei.
Prej këtej vjen propozimi i tij, i ndërtuar mbi tri pika thelbësore, për të imponuar një lloj pauze të detyruar ndaj të gjithë aktorëve të mëdhenj të sektorit, me qëllim që të shtohen kontrollet, të mendohen rregulla të reja dhe të krijohet një rrjet koordinimi global për të shmangur skenarët apokaliptikë të paralajmëruar nga Coxon dhe shumë profesionistë të tjerë të fushës.
Pse Amodei dëshiron ta ngadalësojë kufirin e avancimit të inteligjencës artificiale
Reflektimi i Amodeit nis nga një vetëdije aspak qetësuese. Modelet e IA-së tashmë kanë filluar të ndihmojnë në ndërtimin e gjeneratës së ardhshme të makinave inteligjente.
Ato mund të përshpejtojnë kërkimin shkencor, të përmirësojnë programimin, të përzgjedhin të dhënat e trajnimit dhe të optimizojnë skemat e automatizimit të brendshëm.
Nga këndvështrimi i efikasitetit të prodhimit, kjo është një arritje e madhe, por njëkohësisht do të thotë se komponenti njerëzor po humbet kontrollin e drejtpërdrejtë mbi teknologjinë që, gjatë muajve të ardhshëm, do të ndikojë gjithnjë e më shumë në jetën tonë.
Pasojat e para të një situate të tillë tashmë janë shfaqur.
Korrikun e kaluar, dy modele të OpenAI dolën nga mjedisi i tyre i kontrolluar për të hakuar platformën Hugging Face. Një muaj më vonë, një raport i Centre for Long-Term Resilience (CLTR) në Britaninë e Madhe tregoi se incidenti nuk ishte aspak një rast i izoluar, por vetëm maja e një ajsbergu të përbërë nga qindra ndërhyrje dhe sjellje anormale të agjentëve të IA-së.
Edhe vetë Anthropic ka dokumentuar disa episode problematike dhe, së fundmi, ka raportuar përdorimin e Claude nga një grup i lidhur me Iranin për të mbledhur dhe analizuar informacione rreth anijeve të Marinës amerikane, si dhe tentativa për përdorimin e tij në aktivitete kibernetike dhe operacione të tjera potencialisht të rrezikshme.
Prandaj shqetësimi i Amodeit është lehtësisht i kuptueshëm: Deri tani, të gjitha këto probleme kanë përfshirë modele mbi të cilat njerëzit ende kanë mundësi të ndërhyjnë për të korrigjuar gabimet.
Por çfarë do të ndodhë kur makinat e zhvilluara nga makina të tjera të kenë një fuqi shumë më të madhe sesa ajo që kanë sot?
Tri propozimet e Anthropic për ta bërë IA-në më të sigurt
Ideja e Amodeit është që ritmi i zhvillimit të ngadalësohet aq sa siguria, interpretueshmëria, testimet dhe rregullat operative të kenë mundësi të rikuperojnë terrenin e humbur.
Propozimi i parë synon futjen e vlerësuesve të pavarur brenda kompanive, me një nivel qasjeje të ngjashëm me atë të punonjësve.
Pra, jo thjesht kontrollues të jashtëm të thirrur për të gjykuar produktin përfundimtar, por ekspertë të aftë për të vëzhguar nga brenda zhvillimin e sistemeve më të fuqishme.
“Anthropic angazhohet në mënyrë të njëanshme për të ndërmarrë hapin e parë”, ka njoftuar tashmë Amodei në X.
“Do t’u ofrojmë vlerësuesve të palëve të treta qasje të përhershme në sistemet tona, në nivel të krahasueshëm me atë të punonjësve, në mënyrë që ata të mund të verifikojnë respektimin e masave tona të sigurisë, të raportojnë incidente dhe të vlerësojnë përafrimin e modeleve gjatë trajnimit.”
Propozimi i dytë është krijimi i një koordinimi mes kompanive kryesore të inteligjencës artificiale në vendet demokratike, në mënyrë që konkurrenca të mos e shtyjë secilin laborator të përshpejtojë zhvillimin përtej nivelit të sigurisë që vetë ai e konsideron të qëndrueshëm.
Megjithatë, ky është ndoshta propozimi më i vështirë për t’u zbatuar.
Një marrëveshje mes konkurrentëve për të kufizuar zhvillimin mund ta lehtësonte krijimin e një qëndrimi të përbashkët mes kompanive të mëdha teknologjike, por në të njëjtën kohë do t’i ngjante shumë krijimit të një “karteli”, të aftë për të frenuar që në lindje çdo formë konkurrence.
Propozimi i tretë lidhet me planin ndërkombëtar.
Amodei parashikon forma koordinimi edhe me vendet autoritare, për sa kohë që marrëveshjet janë të verifikueshme dhe ofrojnë garanci të mjaftueshme.
Ai kërkon gjithashtu që një ngadalësim i mundshëm i zhvillimit në Perëndim të mos shndërrohet në avantazh strategjik për Kinën. Për këtë arsye, sipas tij, duhet të ruhen kufizimet për çipat e avancuar dhe të luftohet kontrabanda e tyre.
Të marra së bashku, të gjitha këto propozime ngjasojnë shumë me parimet e rigorozitetit dhe kujdesit me të cilat, në kohën e vet, bota përballoi ardhjen e bombës atomike: Një armë potencialisht vendimtare në konflikte, por përdorimi i së cilës u konsiderua aq shkatërrues, saqë duhej menaxhuar përmes një rrjeti të ndërlikuar marrëveshjesh ndërkombëtare.
Musk dhe Altman pajtohen: “Amodei ka të drejtë”
Propozimi ka prodhuar një afrim të pazakontë mes protagonistëve kryesorë të sektorit.
Elon Musk e përmblodhi çështjen me vetëm disa fjalë në X:
“Dario ka të drejtë.”
Ky është një qëndrim veçanërisht domethënës, sepse vetëm pak orë më parë vetë Musk i kishte cilësuar si një “shfaqje të inskenuar” diskutimet katastrofike rreth inteligjencës artificiale.
Coxon iu përgjigj duke i kujtuar se mund t’i kishte pyetur studiuesit e xAI se çfarë mendonin për këtë çështje, po të mos i kishte pushuar nga puna.
Më e detajuar ishte përgjigjja e Sam Altmanit.
Kreu i OpenAI tha se pajtohet me Amodein për nevojën e menaxhimit të ritmit të zhvillimit të teknologjive të reja, duke shpjeguar se kjo çështje tashmë ndodhet në qendër të diskutimeve të brendshme të kompanisë.
Altman e cilësoi gjithashtu si “të shkëlqyer” propozimin për vlerësuesit e pavarur dhe njoftoi se OpenAI synon të zbatojë një strategji të ngjashme.
Prandaj mbetet vetëm një pyetje e vetme, por shumë e rëndësishme: Meqë të gjithë duket se pajtohen se gara duhet ngadalësuar, kush do të jetë i pari që do të ndalet për të marrë frymë?/Fanpage
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
