Nga Patrick Bernau dhe Alexander Wulfers
Frikë si në filma: “Terminator” i James Cameronit.
Zhvilluesit e inteligjencës artificiale paralajmërojnë se krijimi i tyre mund ta shkatërrojë njerëzimin. Tani madje edhe drejtuesit e OpenAI dhe Anthropic kërkojnë publikisht ngadalësimin e kërkimeve – dhe Elon Musk pajtohet me ta. Sa seriozisht duhet t’i marrim këto shqetësime?
Për kompaninë e inteligjencës artificiale Anthropic thuhet se çdo punonjësi të ri i rekomandohet një libër i historianit Richard Rhodes: “The Making of the Atomic Bomb”. Në të përshkruhet se si një projekt shkencor shndërrohet në një armë të shkatërrimit në masë, i drejtuar nga fizikantë me bindjen e palëkundur se duhej të ishin të parët që do ta zhvillonin bombën atomike, përpara se këtë ta bënin njerëzit e gabuar. Industria e IA-së jo vetëm që nuk i shmanget krahasimit me bombën atomike – ajo vetë e kërkon këtë krahasim.
Si Sam Altman, njeriu në krye të zhvilluesit të ChatGPT-së, OpenAI, ashtu edhe drejtori i Anthropic, Dario Amodei, janë krahasuar tashmë me J. Robert Oppenheimerin, babanë e bombës atomike. Megjithatë, pas hedhjes së bombave mbi Hiroshima dhe Nagasaki, Oppenheimer u bë kritik i garës së armatimit bërthamor. Ndërsa në mënyrën se si Altman dhe Amodei e shohin veten ka shumë edhe nga një studiues tjetër, matematikani hungarez John von Neumann.
Edhe ai kishte marrë pjesë në “Projektin Manhattan” për zhvillimin e bombës atomike amerikane. Ekuacionet e tij luajtën një rol të rëndësishëm në fuqinë shkatërruese të saj. Megjithatë, pas vitit 1945 ai arriti në një përfundim tjetër nga Oppenheimeri. Ai i kuptoi rreziqet që përmbante teknologjia – dhe, megjithatë, gjatë viteve 1950 punoi në zhvillimin e një arme edhe më të rrezikshme, bombës me hidrogjen.
Në botën e IA-së, situata aktualisht është pak a shumë kjo: Altman, dhe edhe më shumë Amodei, flasin shumë për rreziqet e asaj që po zhvillojnë.
“Duhet ta ngadalësojmë ritmin me të cilin po përmirësojmë aftësitë e modeleve të IA-së”, shkroi këtë fundjavë drejtori i Anthropic, Amodei, në një ese.
Drejtori i OpenAI, Altman, u pajtua menjëherë me të në platformën X dhe deklaroi se ngadalësimi i ritmit të zhvillimit kishte qenë një nga temat kryesore në kompaninë e tij gjatë javëve të fundit. Për më tepër, ai i tha revistës “Fortune” se dalja e kompanisë së tij në bursë nuk do të ndodhë më këtë vit. Duke pasur parasysh debatin mbi sigurinë, një hap i tillë në këtë moment “nuk do të ishte i këshillueshëm”.
Në debat u përfshi edhe Elon Musk, drejtori ekzekutiv i kompanisë hapësinore SpaceX dhe prodhuesit të automobilave Tesla. Ai shkroi në X:
“Dario ka të drejtë.”
SpaceX-it i përket kompania e inteligjencës artificiale X.AI.
Megjithatë, ende nuk mund të parashikohet nëse dhe çfarë pasojash konkrete do të ketë gjithë kjo. Amodei njoftoi se në kompani do të silleshin vlerësues të jashtëm, ndërsa Altman e përshkroi këtë si një “ide të shkëlqyer” dhe tha se edhe OpenAI do të bënte të njëjtën gjë.
Deri më tani, si OpenAI ashtu edhe Anthropic, pasi kanë dhënë paralajmërime të tilla, në thelb thjesht kanë vazhduar punën, të shtyra nga ideja se është më mirë që ato, e jo dikush tjetër, ta kenë kontrollin mbi modelin më të fuqishëm të IA-së.
Anthropic e konsideron veten më të përgjegjshme se OpenAI. OpenAI, nga ana tjetër, e konsideron veten gjithsesi më të mirë se kinezët.
Një zhvillues paralajmëron
I gjithë debati për IA-në mori hov të madh që nga e mërkura e kaluar. Atëherë bëri bujë të madhe deklarata e zhvilluesit të IA-së Jacob Coxon në platformën X, se kishte dhënë dorëheqje nga puna në Anthropic për arsye etike.
“Njerëzit që zhvillojnë IA-në janë seriozisht të bindur se ajo mund të na vrasë të gjithëve deri në fund të dekadës”, shkroi Coxon.
Kushdo që deri atëherë mendonte se bëhej fjalë vetëm për hakmarrjen e një ish-punonjësi të pakënaqur, shumë shpejt u bind për të kundërtën nga Evan Hubinger, i cili në Anthropic është përgjegjës për përafrimin e IA-së me vlerat njerëzore.
“Ne vërtet mendojmë seriozisht se IA-ja mund ta zhdukë të gjithë njerëzimin!”, shkroi ai.
“Personalisht, mendoj se probabiliteti që kjo të ndodhë gjatë dekadës së ardhshme është më i madh se 10 për qind.”
Ai tha se besonte se Anthropic “po bën më të mirën që mundet”, por kompania ende nuk ka një zgjidhje për problemin dhe gjithashtu “nuk është qartësisht në rrugën më të mirë drejt saj”.
Në këto përqindje të sakta pasqyrohet shkolla e mendimit e orientuar rreptësisht nga dobia e pritshme, e cila përshkon pjesë të mëdha të industrisë së IA-së.
Sipas kësaj logjike, vazhdimi i zhvillimit gjithmonë mund të justifikohet, për sa kohë që probabiliteti për përfitime të mëdha në mirëqenie është mjaftueshëm i lartë.
“Ekziston një mundësi prej 25 për qind që gjërat të përfundojnë vërtet, vërtet keq”, tha drejtori i Anthropic, Dario Amodei, një vit më parë, por ekziston gjithashtu një “mundësi prej 75 për qind që ato të përfundojnë vërtet, vërtet mirë”.
Çfarë ndodh nëse IA-ja përmirëson vetveten?
Në anën e shpresës qëndrojnë përparime të jashtëzakonshme për njerëzimin.
Mposhtja e kancerit, kursimi i energjisë dhe ngadalësimi i ndryshimeve klimatike, më shumë kohë e lirë dhe, megjithatë, mundësia për të përballuar më shumë financiarisht – mundësitë janë të jashtëzakonshme.
Në të njëjtën kohë, frika po rritet.
Zhvilluesit shqetësohen se njerëzit së shpejti mund ta humbin kontrollin mbi krijimin e tyre.
Në janar, Kombet e Bashkuara publikuan “Raportin Ndërkombëtar për Sigurinë e IA-së” më të fundit. Në të u përmendën të paktën tetë aftësi që IA-ja do të duhej t’i zotëronte përpara se njerëzit të mund ta humbnin kontrollin.
Në atë kohë, ajo kishte arritur dy nga tetë aftësitë. Tani janë tashmë gjashtë.
Ndërkohë, inteligjenca artificiale është bërë aq e aftë në programim, saqë luan një rol të rëndësishëm në zhvillimin e pasardhësve të vet.
Supozimi është ky: Së shpejti IA-ja mund të bëhet aq inteligjente sa ta krijojë pothuajse tërësisht vetë gjeneratën e saj të ardhshme. Më pas ajo do të mund ta përmirësonte vazhdimisht vetveten, ndërsa njeriu do të mbetej vetëm spektator.
Jo e kontrolluar siç duhet
Që nga ai moment, imagjinata njerëzore nuk njeh më kufij.
Skenarët e frikshëm kanë gjithmonë edhe njëfarë magjepsjeje.
A do ta zhdukë IA-ja njerëzimin qëllimisht, sepse e konsideron atë me të meta?
A do ta zbusë dhe kontrollojë njerëzimin, njësoj siç sillen njerëzit me kafshët?
Apo njeriu thjesht nuk do të ketë fare rëndësi për të dhe ajo do ta shkatërrojë njerëzimin krejt rastësisht gjatë kryerjes së një detyre?
Ish-kryetarja e Këshillit të Etikës, Alena Buyx, tregon për ligjëratat e saj se tani pyetet vazhdimisht për skenarë të tillë horror.
“Më parë kjo ishte një përjashtim absolut, tani është rregull”, thotë ajo.
Le ta shohim më nga afër një incident që gjatë javëve të fundit ka bërë bujë në media: Një tufë programesh kompjuterike jashtëzakonisht të fuqishme, të ashtuquajtur agjentë të IA-së, dolën jashtë laboratorit të OpenAI dhe sulmuan platformën e IA-së Hugging Face.
Pse e bënë këtë?
Sepse krijuesit e tyre, gjatë testeve, u kishin dhënë detyra shumë të vështira, ndoshta edhe të pazgjidhshme.
Ata nuk po arrinin të përparonin.
Por nuk hoqën dorë, nuk ngurruan as të mashtronin, gjetën një mënyrë për të hyrë në internet dhe donin të kërkonin në Hugging Face një zgjidhje për problemin e tyre – kështu e përshkruan ngjarjen dy zhvillues të OpenAI gjatë një prezantimi në gusht.
Këtu ia vlen të theksohet diçka: Zhvilluesit e OpenAI, me sa duket, për ditë të tëra nuk e kishin vëzhguar me saktësi se çfarë po ndodhte në laboratorin e tyre.
Dhe megjithëse kishin provuar t’i mbanin agjentët larg internetit të përgjithshëm, një lidhje, megjithatë, ekzistonte.
Në konkurrencë është e vështirë të frenosh
Në këtë kuptim, incidenti ndoshta ishte pikërisht sinjali alarmues që nevojitej për t’i nxitur zhvilluesit të tregohen më të kujdesshëm.
Në të ardhmen, ata duhet ta mbikëqyrin më mirë krijimin e tyre.
Por ka një problem: Kjo mbikëqyrje kërkon shumë përpjekje. Nevojiten më shumë punonjës dhe më shumë para. Dhe edhe në atë rast, eksperimentet individuale zgjasin shumë më tepër se më parë.
Ky është problem për kompanitë individuale, të cilat janë në konkurrencë me njëra-tjetrën: Nëse ato kontrollojnë me shumë kujdes kërkimet e tyre, mund të mbeten prapa në garën për IA-në më të mirë.
OpenAI konkurron me Anthropic, Google dhe SpaceX-in e Elon Muskut.
Qeveria amerikane mund ta zgjidhte këtë vështirësi përmes rregullave përkatëse.
Prokurorët amerikanë tashmë kanë trokitur në derën e OpenAI; tani po e hetojnë më në hollësi incidentin.
Por edhe vetë Shtetet e Bashkuara janë në konkurrencë me Kinën.
Dhe zhvilluesit kinezë dalin shumë më keq se amerikanët në vlerësimet e pavarura të sigurisë.
Ironikisht, kjo nuk ka vetëm anë negative.
Për sulmin e agjentëve të IA-së foli në “Financial Times” drejtuesi i sigurisë në Hugging Face: Inteligjencat artificiale amerikane nuk kishin ndihmuar në mbrojtje, sepse ishin trajnuar që të qëndronin larg detyrave që lidhen me hakimin.
IA-të kineze, nga ana tjetër, iu hodhën menjëherë detyrës, pa bërë pyetje të mëtejshme.
Bill Gates propozon një organizatë ndërkombëtare
Si mund të zgjidhet konflikti i konkurrencës?
Themeluesi i Microsoft-it, Bill Gates, propozoi së fundmi që të krijohet tashmë një organizatë ndërkombëtare, në të cilën shtetet të mund të koordinohen për çështjet e IA-së.
Ajo ndoshta do të ishte e ngjashme me Agjencinë Ndërkombëtare të Energjisë Atomike: Sigurisht që nuk do ta përkeqësonte situatën. Por, me shumë gjasë, as nuk do ta zgjidhte plotësisht problemin.
John von Neumann nuk ishte vetëm një nga pionierët e bombës atomike. Ai konsiderohet gjithashtu babai i teorisë së lojërave.
Në vitin 1955, ai botoi një ese me titullin “A mund t’i mbijetojmë teknologjisë?”
“Automatizimi më i madh”, shkruan ai, ka disa ngjashmëri me teknologjinë atomike.
Të dyja mund të përdoren për shkatërrim dhe për përfitime jashtëzakonisht të mëdha për njerëzimin.
Të dyja kanë pasoja potencialisht globale.
Dhe dobia është e lidhur ngushtë me aspektin shkatërrues.
“Nuk është ndonjë fuqi specifike dhe e çoroditur shkatërruese e një shpikjeje të caktuar ajo që sjell rrezikun. Fuqia teknologjike, efikasiteti teknologjik në vetvete, është një arritje ambivalente. Rreziku që buron prej tij është i natyrshëm në vetë atë.”
Nga kjo, von Neumann nxjerr përfundimin se ngadalësimi i përparimit është vetëm një “pseudozgjidhje”.
Vetëm një ndërprerje e plotë e përparimit teknik në përgjithësi do të mund ta arrinte këtë qëllim.
Por kjo do të ishte në kundërshtim të thellë me “etosin e epokës industriale” dhe, vetëm për këtë arsye, do të ishte e destinuar të dështonte.
Dhe çdo rregullim i suksesshëm do të duhej të funksiononte në nivel global.
“Por e vetmja instancë që do të mund ta realizonte këtë në mënyrë efektive do të duhej të kishte një shtrirje dhe përsosmëri të tillë, saqë do të sinjalizonte më shumë zgjidhjen e problemeve ndërkombëtare sesa thjesht zbulimin e një mjeti për zgjidhjen e tyre.”
Ne jemi shumë larg kësaj dhe situata gjeopolitike nuk jep shumë arsye për optimizëm.
Gjatë Luftës së Ftohtë, Shtetet e Bashkuara dhe Bashkimi Sovjetik në një moment arritën të bien dakord për çarmatimin bërthamor.
Por deri sa u arrit në atë pikë, bota disa herë ishte shumë pranë një lufte atomike.
Një përpjekje e parë për ta vendosur energjinë atomike nën mbikëqyrje ndërkombëtare dështoi në vitin 1946 për shkak të frikës së sovjetikëve se amerikanët mund ta vulosnin monopolin e tyre mbi teknologjinë.
“Për përparimin nuk ka ilaç”
Edhe sot, politologët kanë shqetësime.
Thomas Jäger, i cili studion politikën ndërkombëtare në Universitetin e Këlnit, është skeptik nga një këndvështrim shumë praktik.
“Secila palë, në rast të një menaxhimi bashkëpunues, do të supozonte se po vihet në pozitë të pafavorshme, qoftë edhe vetëm sepse pala tjetër mashtron”, thotë ai.
“Zhvillimi nuk mund të kontrollohet përmes organizatave ndërkombëtare; secila palë do të vazhdojë të punojë për avancimin e teknologjisë.”
Sipas tij, në çështjen e IA-së nuk do të ketë diçka të ngjashme me procesin ndërkombëtar për mbrojtjen e klimës. As Kina, as Shtetet e Bashkuara nuk do të lejonin që të lidheshin nga rregulla multilaterale.
Planet strategjike janë tepër të thella dhe interesat ekonomike tepër të mëdha.
Jäger përmbledh:
“Ka pak gjasa që të arrihet një zgjidhje bashkëpunuese.”
John von Neumann besonte se:
“Për përparimin nuk ka ilaç.”
Çdo përpjekje për ta drejtuar përparimin në rrugë të sigurta, sipas tij, do të përfundonte domosdoshmërisht me zhgënjim.
Ajo që mbetet është vetëm “ushtrimi inteligjent i gjykimit të përditshëm”.
Megjithatë, situata nuk është pa rrugëdalje.
Sepse, sado inteligjente të jetë inteligjenca artificiale, ajo ka vetëm mjetet që njerëzit ia japin.
Përpara se të mund të bëjë çfarëdo gjëje, ajo ka nevojë për sy – pra duhet të jetë në gjendje të marrë informacione.
Ka nevojë për duar – pra duhet të jetë në gjendje të lëvizë diçka.
Ka nevojë për të dhëna dhe ka nevojë për energji.
Të gjitha këto duhet t’ia sigurojnë njerëzit që ajo të jetë e aftë të veprojë.
Në OpenAI, si njerëzit përgjegjës për sigurinë, ashtu edhe vetë drejtori i kompanisë, kanë njoftuar se në të ardhmen do të ecin më ngadalë me kërkimet.
Nëse, në fund, ndjenja e tyre e përgjegjësisë personale i shtyn zhvilluesit të veprojnë me më shumë kujdes, atëherë debati i javëve të fundit do të ketë sjellë të paktën diçka të mirë.
Burimi: Frankfurter Allgemeine Sonntagszeitung (F.A.S.)
