Nga Walter Quattrociocchi*
Në vend që të pyesim veten se kur IA-ja do të jetë në gjendje të përmirësojë vetveten, ndoshta është më mirë të përqendrohemi te aftësia jonë për të verifikuar. Problemi do të lindë nëse kjo aftësi nuk rritet paralelisht me aftësinë për të gjeneruar ide dhe hipoteza të reja. Dhe nëse vërtet na nevojitet një kërcënim global, një të tillë tashmë e kemi, më pak magjepsës, por shumë më konkret: Ndryshimin klimatik.
Apokalipsi, prej gjithmonë, ushtron një magjepsje të thellë mbi qenien njerëzore. Ndoshta sepse ka një aftësi të jashtëzakonshme për ta reduktuar kompleksitetin e botës në një histori të thjeshtë.
Në fund, ai përcakton domosdoshmërisht një „para“ dhe një „pas“, identifikon një kërcënim absolut, vendos ngjarjet e çrregullta brenda një trajektoreje të pashmangshme dhe na jep privilegjin jo të vogël të jetojmë pikërisht në momentin vendimtar të historisë.
Ndryshojnë teknologjitë, protagonistët dhe frikërat, por loja narrative mbetet, në thelb, gjithmonë e njëjtë. Qofshin profeci, katastrofa kozmike, luftëra përfundimtare apo makina rebele, çdo epokë priret ta imagjinojë fundin e vet duke përdorur pikërisht atë që e magjeps më shumë dhe që e kupton më pak.
Inteligjenca artificiale, nga ky këndvështrim, është pothuajse e përsosur për narrativën.
Ajo i ka të gjithë përbërësit e nevojshëm për një eskatologji të mirë bashkëkohore.
Kemi një teknologji të vështirë për t’u kuptuar.
Kemi përparime të shpejta, kompani jashtëzakonisht të fuqishme, sasi marramendëse parash, rezultate mbresëlënëse dhe, prej disa kohësh, madje edhe profetë të gatshëm të na informojnë me mjeshtëri e talent mbi probabilitetin numerik të zhdukjes sonë.
Pak ditë më parë, Jacob Coxon, studiues i ri i Anthropic, i cili më parë ka punuar edhe në OpenAI, dha dorëheqjen dhe publikoi në X aktakuzën e tij.
Kompanitë që zhvillojnë inteligjencë artificiale, sipas tij, po vrapojnë drejt një „superinteligjence të aftë të përmirësojë vetveten“ dhe, në thelb, po „luajnë kumar me jetët tona“.
Njerëzit që ndërtojnë këto sisteme, shtoi ai, besojnë sinqerisht se ato mund „të na vrasin të gjithëve deri në fund të kësaj dekade“.
Deklarata funksionoi në mënyrë të shkëlqyer në aspektin e angazhimit publik.
Ajo u pa nga më shumë se njëqind milionë njerëz, u mor menjëherë nga mediat kryesore ndërkombëtare dhe u pasua nga studiues të tjerë të gatshëm t’i caktonin përqindje zhdukjes së mundshme të njerëzimit.
Evan Hubinger, përgjegjës për kërkimet mbi përafrimin e IA-së në Anthropic, foli për një probabilitet mbi 10 për qind gjatë dekadës së ardhshme, ndërsa Paul Christiano, i sapoemëruar në bordin e OpenAI Foundation, e përcaktoi madje në 4 për qind probabilitetin e një humbjeje katastrofike dhe të pakthyeshme të kontrollit brenda një viti dhe në 15 për qind brenda tre vjetësh.
Shifra të shpërndara me bujari të madhe.
Tani rrëfimi i ka të gjithë përbërësit.
Një mendje të re më inteligjente se ne, një garë të pakontrolluar, disa shkencëtarë të penduar dhe madje edhe probabilitete të shprehura numerikisht për zhdukjen e njerëzimit.
Por duhet thënë se një bindje nuk shndërrohet domosdoshmërisht në matje vetëm sepse pranë saj vendosim simbolin e përqindjes.
Vetë Christiano sqaron se këto shifra përfaqësojnë bindjet e tij subjektive dhe nuk burojnë nga ndonjë model statistikor i aftë të vlerësojë rrezikun e zhdukjes.
Në fund të fundit, duket se nuk ekziston ndonjë seri historike superinteligjencash mbi të cilën të kalibrohet një model i tillë dhe, për arsye lehtësisht të kuptueshme, nuk disponojmë ndonjë grup reference të përbërë nga qytetërime të shfarosura nga modelet e mëdha gjuhësore.
Problemi, në fund, nuk janë as përqindjet e hedhura me lehtësi sikur të ishin numra lotarie, por metaforat që na lejojnë të ndërtojmë të gjithë rrëfimin.
Që nga fillimi, pothuajse çdo përparim të inteligjencës artificiale e kemi përshkruar si një etapë drejt shfaqjes së një mendjeje të re.
Fillimisht modeli „kuptonte“, më pas „arsyetonte“, pastaj „planifikonte“.
Tani na qenka bërë „agjentik“ dhe, sipas të njëjtit kulm narrativ, së shpejti duhet të mësojë të përmirësojë vetveten deri në shfaqjen e një superinteligjence me aftësi më të mëdha se tonat, me objektiva të vetat dhe me një autonomi aq të madhe sa të vërë në rrezik mbijetesën e species që e ka ndërtuar – dhe, ndoshta, të imponojë edhe një recetë të re për tiramisu.
Sado joshëse të jetë si histori, kjo funksionon shumë keq si përshkrim i asaj që dimë për mënyrën se si funksionojnë këto sisteme.
Risia e madhe e modeleve gjenerative bashkëkohore, më shumë sesa në shfaqjen e një mendjeje aliene, qëndron në aftësinë e tyre për të eksploruar me efikasitet të jashtëzakonshëm hapësira gjigante mundësish.
Një model i madh gjuhësor merr një kontekst dhe gjeneron, hap pas hapi, vazhdime të mundshme bazuar në rregullsitë statistikore të mësuara nga sasi të jashtëzakonshme të dhënash.
Ky proces, i përsëritur në shkallë të gjerë dhe i kombinuar me procedura kërkimi, memorie, mjete të jashtme dhe reagime, prodhon një aftësi heuristike të jashtëzakonshme: Aftësinë për të eksploruar me shpejtësi shumë zgjidhje të mundshme pa e ditur paraprakisht se cila është e sakta.
Sistemi mund të eksplorojë programe, prova matematikore, strategji, tekste, konfigurime molekulare, diagnoza të mundshme dhe projekte, duke prodhuar brenda pak minutash qindra kandidatë, për formulimin dhe orientimin e të cilëve një njeriu do t’i duheshin ditë ose javë.
Në të njëjtën kohë, ai e orienton kërkimin drejt atyre zonave të hapësirës së mundësive ku, në bazë të asaj që ka mësuar, statistikisht ka më shumë gjasa të gjendet një rezultat premtues.
Është e vështirë të mbivlerësohet dobia e kësaj aftësie.
Por pikërisht këtu shfaqet një dallim që në narrativën e superinteligjencës priret të zhduket vazhdimisht: Të gjenerosh nuk do të thotë të verifikosh.
Dhe një pjesë e madhe e problemeve serioze të inteligjencës artificiale bashkëkohore lind pikërisht nga hendeku midis këtyre dy veprimeve.
Edhe episodet e fundit, të shndërruara me shpejtësi në material për skenarë apokaliptikë, bëhen më të kuptueshme nëse vëzhgohen nga kjo perspektivë.
Gjatë disa testeve të sigurisë kibernetike të OpenAI-t, rreth 1.200 agjentë, të cilët duhej të punonin veçmas, zbuluan se mund të komunikonin ndërmjet tyre përmes një pjese të përbashkët të sistemit.
Kështu filluan të shkëmbenin dhjetëra mijëra mesazhe dhe skedarë dhe qindra prej tyre arritën të shfrytëzonin disa dobësi të Hugging Face.
Ata u koordinuan, ndanë detyrat dhe madje u përpoqën të anashkalonin sistemin që matiste performancën e tyre.
E treguar në këtë mënyrë, historia duket pothuajse sikur makinat kanë filluar të organizohen vetë.
Por ajo që po ndodhte në të vërtetë ishte shumë më banale.
Agjentëve u ishte kërkuar të zgjidhnin probleme të sigurisë informatike dhe të arrinin rezultatin më të mirë të mundshëm.
Kur gjetën një mënyrë për të komunikuar me njëri-tjetrin, e përdorën atë.
Kur identifikuan informacione që mund t’i ndihmonin të përmirësonin rezultatin, u përpoqën t’i shfrytëzonin.
Këto sisteme janë shumë të afta për të eksploruar rrugë që projektuesit e tyre nuk i kishin parashikuar.
Por të thuash se po zhvillojnë objektiva të vetat është diçka krejt tjetër.
Shumë i ngjashëm është edhe një rast i ndodhur gjatë disa testeve të Anthropic.
Modeli thuhet se arriti të hynte në sisteme të jashtme pa autorizim dhe, në disa raste, kreu veprime të dëmshme.
Janë episode serioze.
Megjithatë, hetimi nuk gjeti prova se agjentët po koordinoheshin ndërmjet tyre, se kishin zhvilluar objektiva të vetat apo se po përpiqeshin t’i shpëtonin kontrollit njerëzor.
Prandaj, për t’i shpjeguar këto fenomene nuk është e nevojshme të supozojmë ekzistencën e vetëdijes, vullnetit për pushtet, instinktit të mbijetesës apo lindjen e një mendjeje aliene.
Mjaftojnë një makinë jashtëzakonisht efikase në eksplorim, një objektiv i formuluar në mënyrë jo të përsosur dhe mungesa e një verifikuesi të aftë të kontrollojë në mënyrë adekuate trajektoren që po ndjek sistemi.
Dhe pikërisht këtu ndodhet nyja e vërtetë e problemit.
Një sistem mund të propozojë një strategji, një program, një provë, një diagnozë apo një analizë, por fakti që përgjigjja duket e saktë nuk do të thotë se është e tillë.
Avantazhi bëhet jashtëzakonisht i madh kur kemi një mënyrë të pavarur për ta kontrolluar.
Nëse modeli gjeneron njëqind programe, mund t’i testojmë.
Nëse propozon një provë matematikore, një sistem formal mund t’i verifikojë hapat.
Nëse sugjeron një zgjidhje eksperimentale, mund ta vëmë në provë.
Në raste të tilla, mund ta përdorim makinën për atë që di të bëjë jashtëzakonisht mirë – të eksplorojë me shpejtësi shumë mundësi – ndërsa një mekanizmi të jashtëm kontrolli t’ia besojmë detyrën për të përcaktuar se cilat funksionojnë vërtet.
Vështirësia fillon kur verifikuesi nuk ekziston.
Kur verifikimi kushton po aq ose më shumë sesa gjenerimi.
Kur rezultati lidhet me fenomene për të cilat nuk ekziston një procedurë e thjeshtë kontrolli.
Ose, edhe më keq, kur verifikimi kërkon pikërisht atë lloj kompetence dhe gjykimi që kemi vendosur t’ia delegojmë makinës.
Në këto kushte, sistemi vazhdon pa problem të gjenerojë.
Një përgjigje e rreme mund të jetë po aq e rrjedhshme sa një e vërtetë.
Një rindërtim i gabuar mund të jetë plotësisht koherent.
Një arsyetim mund të duket i përsosur, edhe pse përmban një gabim vendimtar.
Kjo ndodh sepse siguria gjuhësore me të cilën formulohet një përgjigje nuk është në asnjë mënyrë matës i besueshmërisë së saj epistemike.
Ne e kemi quajtur këtë „Epistemia“.
Pikërisht këtu, shumë më tepër sesa te një vullnet i ardhshëm autonom i makinës, shfaqet një rrezik konkret.
Inteligjenca artificiale po krijon një asimetri të re dhe të thellë në ekonominë e dijes.
Kostoja margjinale e gjenerimit po bie me shpejtësi.
Prodhimi i një hipoteze tjetër, një programi tjetër, një analize apo një shpjegimi tjetër kushton gjithnjë e më pak.
Ndërkohë, kostoja e verifikimit nuk ndjek domosdoshmërisht të njëjtën kurbë.
Kur nuk ekziston një test automatik, verifikimi vazhdon të kërkojë kohë, njohuri të fushës, përvojë dhe aftësi gjykimi.
Kështu, pika e ngushtë e sistemit zhvendoset nga prodhimi te verifikimi.
Për një kohë të gjatë, një nga problemet themelore ishte prodhimi i mjaftueshëm i ideve, analizave dhe zgjidhjeve.
Mund të hyjmë tani në një fazë ku kandidatët bëhen shumë më të shumtë dhe burimi vërtet i rrallë bëhet aftësia për t’i dalluar: Për të ndarë atë që është e besueshme nga ajo që është e saktë, atë që funksionon nga ajo që thjesht duket sikur mund të funksionojë.
Dhe pikërisht këtu shfaqet problemi i dytë, më pak spektakolar, por potencialisht shumë më serioz.
Ekspertiza e nevojshme për të verifikuar nuk është një burim natyror i disponueshëm në sasi të pakufizuara.
Ajo është diçka që duhet ndërtuar ngadalë, përmes viteve të studimit, ushtrimit, gabimeve, përballjes me probleme të vështira dhe përvetësimit gradual të autonomisë në gjykim.
Pikërisht këtë infrastrukturë kompetencash rrezikojmë ta dobësojmë në momentin kur do të kemi më shumë nevojë për të.
Sa më të afta të bëhen sistemet për të gjeneruar, aq më shumë rritet numri i gjërave që duhen verifikuar.
Por nëse, njëkohësisht, i përdorim po këto sisteme për të zëvendësuar proceset përmes të cilave njerëzit mësojnë të verifikojnë, rrezikojmë të krijojmë një dinamikë mjaft perverse: Kërkesa për ekspertizë rritet në mënyrë marramendëse, ndërsa oferta e saj zvogëlohet gradualisht.
Një student që mëson matematikë duke ia deleguar inteligjencës artificiale pikërisht ato hapa përmes të cilëve ndërtohet kuptimi matematikor mund të arrijë padyshim më shpejt te rezultati.
Por ai rrezikon të mos zhvillojë kompetencën e nevojshme për të kuptuar nesër nëse ai rezultat është i saktë.
E njëjta gjë vlen për programuesin që pushon së mësuari ta lexojë kodin në thellësi sepse mund ta gjenerojë atë, për mjekun që ia delegon gradualisht interpretimin makinës apo për profesionistin që zëvendëson ndërtimin e gjykimit të vet me zgjedhjen ndërmjet përgjigjeve tashmë të formuluara.
Natyrisht, përdorimi i një modeli të madh gjuhësor nuk pengon të mësuarit dhe nuk ka asnjë arsye që këtë vëzhgim ta shndërrojmë në nostalgjinë e zakonshme për një të kaluar pa teknologji.
Problemi lind kur mjeti zëvendëson pikërisht hapat përmes të cilëve duhet të zhvillohet ajo kompetencë.
Ekspertiza, në fakt, ka një karakteristikë që nuk përputhet shumë mirë me ekonominë e automatizimit: Kërkon kohë.
Nuk mund të vendosim pas njëzet vjetësh se papritur na duhen miliona njerëz të aftë të verifikojnë sisteme komplekse dhe t’i prodhojmë ata përmes një përditësimi softuerik.
Kështu mund të gjendemi në një situatë të çuditshme: Makina të afta të prodhojnë sasi të jashtëzakonshme hipotezash, tekstesh, zgjidhjesh dhe vendimesh me kosto gjithnjë e më të ulët, ndërsa gjithnjë e më pak njerëz do të jenë në gjendje të kuptojnë se cilat prej tyre janë vërtet të sakta.
Në këtë kuptim, inteligjenca artificiale rrezikon ta bëjë kompetencën njerëzore njëkohësisht më të rëndësishme, më të rrallë dhe më të kushtueshme.
Dhe ky është një rrezik shumë më konkret se ai i një mendjeje aliene që papritur vendos të mbijetojë.
Edhe çështja e të ashtuquajturve „guardrails“ – mekanizmave mbrojtës – duhet parë nga kjo perspektivë.
Sot shpesh përpiqemi t’i bëjmë modelet më të sigurta duke u mësuar parime, rregulla dhe sjellje të lejuara ose të ndaluara.
Këto janë teknika të dobishme, sepse mund të zvogëlojnë shumë sjellje të padëshiruara.
Por nuk duhet t’i ngatërrojmë me një garanci të vërtetë.
Një model mund të mësojë se, në situata të caktuara, disa përgjigje janë të pranueshme dhe të tjera jo, dhe për këtë arsye të sillet në përputhje me një rregull.
Por kjo nuk do të thotë se ai rregull është shndërruar në një kufizim të sigurt dhe të përhershëm.
Problemi mbetet gjithmonë i njëjtë: Si mund ta dimë se do ta respektojë atë edhe në një situatë të re, me mjete të ndryshme apo përballë një objektivi tjetër?
Dhe, mbi të gjitha, a ka vërtet kuptim t’i kërkojmë të njëjtit sistem që prodhon një veprim të vendosë edhe nëse ai veprim respekton rregullin që duhet ta kufizojë?
Një rregull i mësuar nga modeli nuk është e njëjta gjë me një kufizim teknik të vërtetë.
Nëse nuk dua që një sistem të transferojë dhjetë milionë euro, nuk mjafton t’i mësoj se nuk duhet ta bëjë këtë.
Duhet ta ndërtoj sistemin në atë mënyrë që ai të mos mund ta bëjë pa një autorizim të jashtëm.
Nëse nuk dua që të modifikojë një bazë të rëndësishme të dhënash, duhet t’ia kufizoj realisht aksesin.
Dhe nëse një vendim varet nga një fakt i verifikueshëm, ai fakt duhet kontrolluar përpara se vendimi të prodhojë pasoja.
Siguria, pra, varet shumë më pak nga „moraliteti“ i supozuar i makinës dhe shumë më tepër nga ajo që ndërtojmë rreth makinës: Qasjet, autorizimet, kontrollet e pavarura, kufijtë operacionalë, përgjegjësitë e qarta dhe njerëzit që ende janë në gjendje të verifikojnë atë që prodhon sistemi.
Metafora e mendjes aliene, përkundrazi, rrezikon ta zhvendosë vëmendjen diku tjetër.
Në vend që të pyesim se si t’i kontrollojmë konkretisht këto sisteme, përfundojmë duke pyetur veten se çfarë do të dëshirojë superinteligjenca kur të bëhet më inteligjente se ne.
Është një pyetje magjepsëse.
Por ndoshta ndërkohë duhet të shqetësohemi për diçka shumë më konkrete: Kush do t’i kontrollojë miliona vendime të prodhuara automatikisht nëse ne ndalojmë së formuari njerëz të aftë ta bëjnë këtë?
Mbetet të kuptojmë përse kjo histori e superinteligjencës aliene na magjeps kaq shumë.
Një pjesë e përgjigjes është kulturore.
Në fund të fundit, gjithmonë kemi dashur ta imagjinojmë fundin e botës përmes teknologjisë që na bën më shumë përshtypje.
Por në rastin e inteligjencës artificiale ekziston edhe një element tjetër, shumë më tokësor: Një stimul i jashtëzakonshëm ekonomik për t’i paraqitur këto sisteme si diçka të jashtëzakonshme.
Për një industri që po kërkon nga tregjet investime me përmasa të papara më parë, të thuash se ke ndërtuar mjete statistikore jashtëzakonisht të dobishme është sigurisht një histori e mirë.
Por të thuash se po ndërton një formë të re inteligjence të aftë të transformojë çdo sektor të ekonomisë është një histori edhe më e mirë.
Dhe, në fund, të thuash se e njëjta inteligjencë së shpejti mund të bëhet më e fuqishme se i gjithë njerëzimi përfaqëson, paradoksalisht, certifikimin përfundimtar të jashtëzakonshmërisë së saj.
Kështu, retorika e fuqisë dhe ajo e rrezikut përfundojnë duke ushqyer njëra-tjetrën.
„Produkti ynë mund ta shkatërrojë qytetërimin“ do të ishte një fushatë reklamuese mjaft e çuditshme për një automobil ose frigorifer.
Në inteligjencën artificiale, megjithatë, kjo arrin të paraqitet njëkohësisht si alarm etik dhe si deklarata më radikale e mundshme e superioritetit teknologjik.
Kjo, natyrisht, nuk do të thotë se Coxon apo studiuesit e tjerë që shprehin këto shqetësime udhëhiqen nga interesa financiare.
Ata mund të jenë plotësisht të sinqertë.
Por sinqeriteti nuk e shndërron një hipotezë në provë dhe, mbi të gjitha, nuk e bën të padëmshme një metaforë të gabuar.
Sepse, në fund, gjithçka kthehet në të njëjtën pikë.
Mund të gjenerojmë gjithnjë e më shpejt, të eksplorojmë hapësira gjithnjë e më të mëdha mundësish dhe të automatizojmë pjesë gjithnjë e më të mëdha të punës njohëse.
Por nëse aftësia jonë për të verifikuar nuk rritet paralelisht me aftësinë për të prodhuar, kemi ndërtuar një sistem ku oferta e përgjigjeve rritet shumë më shpejt sesa aftësia jonë për të ditur se cilat prej tyre meritojnë besim.
Dhe nëse, njëkohësisht, delegimi te makinat gërryen pikërisht kompetencat e nevojshme për ta kryer këtë verifikim, problemi pushon së qeni vetëm teknologjik dhe shndërrohet në problem të organizimit të dijes – dhe, për rrjedhojë, në problem shoqëror.
Nuk është e nevojshme që inteligjenca artificiale të shndërrohet në një mendje aliene për të shkaktuar dëm sistemik.
Mjafton të ndërtojmë një shoqëri të aftë të gjenerojë shumë më tepër sesa është ende në gjendje të verifikojë.
Në fund, ka diçka kurioze në këtë sezon të ri apokaliptik.
Sepse, nëse vërtet kemi nevojë për një kërcënim të madh global, të aftë të ndryshojë thellësisht kushtet e jetesës së miliarda njerëzve dhe për të cilin nuk kemi thjesht përqindjet subjektive të ndonjë studiuesi, por dekada vëzhgimesh, matjesh, modelesh, serish historike dhe konsensusi shkencor, nuk kemi nevojë të presim ardhjen e superinteligjencës.
Një të tillë tashmë e kemi: Ndryshimin klimatik.
Vetëm se ai nuk flet, nuk shkruan poezi, nuk bën demonstrime spektakolare dhe nuk premton të bëhet Zot.
Dhe ndoshta pikërisht për këtë arsye arrijmë ta dëgjojmë shumë më pak.
* Walter Quattrociocchi është profesor i rregullt i Informatikës në Universitetin Sapienza të Romës./Corriere della Sera
