Tre studiues të Anthropic dolën publikisht mbrëmjen e kaluar me paralajmërime tronditëse për rrezikun që inteligjenca artificiale të dalë jashtë kontrollit, duke thënë se ajo mund të çojë në shkatërrimin e njerëzimit që brenda kësaj dekade.
Studiuesi i IA-së në Anthropic, Jacob Coxon, shkroi në platformën X pasi dha dorëheqjen të martën për të ngritur alarmin:
“Personat që po ndërtojnë inteligjencën artificiale besojnë sinqerisht se ajo mund të na vrasë të gjithëve deri në fund të kësaj dekade. Ky nuk është një marifet marketingu. Madje, shumë drejtues dhe studiues të lartë e zbusin gjuhën e tyre në media për t’u dukur të arsyeshëm, por privatisht i dëgjoj të njëjtët njerëz duke shprehur frikë. Asnjë aktivitet tjetër njerëzor nuk paraqet këtë nivel rreziku.”
Evan Hubinger, drejtues i shkencës së harmonizimit të IA-së me qëllimet njerëzore (alignment science) në Anthropic, iu përgjigj:
“Jacob ka të drejtë këtu — ne vërtet besojmë sinqerisht se IA-ja mund t’i vrasë të gjithë njerëzit! Personalisht mendoj se probabiliteti është mbi 10 për qind brenda dekadës së ardhshme. Besoj se Anthropic po bën më të mirën që mundet, por ende nuk kemi një plan për ta zgjidhur problemin e harmonizimit të superinteligjencës dhe nuk është e qartë se jemi në rrugën e duhur për ta arritur këtë.”
Samuel Marks, drejtues për mbikëqyrjen e shkallëzueshme në Anthropic, shtoi:
“Zhvilluesit e IA-së besojnë se teknologjia e tyre mund të shkaktojë zhdukjen e njerëzimit ose pasoja po aq katastrofike. Kjo mund të ndodhë në vitet e ardhshme. Në përgjithësi, sa më i lartë të jetë pozicioni i një punonjësi, aq më i shqetësuar është ai.”
Pse ka rëndësi: Paralajmërimet nuk vijnë vetëm nga Anthropic
Ata nuk janë aspak të vetmit që shprehin shqetësime të tilla.
Paralajmërimet e tyre erdhën vetëm disa ditë pasi drejtues të lartë të OpenAI, përfshirë drejtorin ekzekutiv Sam Altman, deklaruan se inteligjenca artificiale po hyn me shpejtësi në një fazë gjithnjë e më shqetësuese dhe potencialisht të pakontrollueshme.
Paralajmërimet që vijnë nga brenda gjigantëve të IA-së nxjerrin në pah një dilemë jashtëzakonisht të madhe të përbashkët: Të ngadalësojnë zhvillimin dhe të rrezikojnë të mbeten prapa konkurrentëve, apo të vazhdojnë me shpejtësi dhe të rrezikojnë humbjen e kontrollit?
Kompanitë vazhdojnë me ritëm të plotë, ndërkohë që njëkohësisht kërkojnë pothuajse me ngulm rregullim ligjor ose një ndalesë globale të zhvillimeve më të fuqishme të IA-së.
Pamja e madhe: Një situatë pa precedent
Ta quash këtë situatë të paprecedentë do të ishte pothuajse një nënvlerësim.
Në thelb, disa prej kompanive me rritjen më të shpejtë në historinë e njerëzimit po paralajmërojnë se produktet që ato vetë po krijojnë mund të dëmtojnë rëndë ose madje të shkatërrojnë njerëzimin.
Kritikët argumentojnë se Anthropic dhe OpenAI po e ekzagjerojnë fuqinë dhe rrezikun e produkteve të tyre për të rritur vlerësimin financiar të kompanive dhe për të nxitur rregullime shtetërore që, në fund, do t’u shërbenin pikërisht atyre si kompanitë dominuese të tregut.
Por Axios thotë se gazetarët e tij kanë biseduar gjatë muajve të fundit me dhjetëra persona brenda këtyre kompanive dhe se shqetësimi i tyre është bërë gjithnjë e më i madh.
Duke pasur parasysh se këta punonjës kanë qasje në modele që ende nuk janë publikuar për përdoruesit, Axios vlerëson se do të ishte e papërgjegjshme që paralajmërimet e tyre të mos merreshin seriozisht.
Konteksti për politikëbërësit amerikanë
Autorët Mike Allen dhe Jim VandeHei theksojnë se bëhet fjalë për deklarata shumë shqetësuese, por njëkohësisht edhe për paralajmërime të përgjithshme që është jashtëzakonisht e vështirë të verifikohen ose të vlerësohen me saktësi.
Megjithatë, sipas tyre, publiku — dhe veçanërisht anëtarët e Kongresit amerikan dhe zyrtarët e agjencive federale që merren me këtë fushë — duhet ta dinë se vetë krijuesit e IA-së shohin mundësinë e pasojave katastrofike nëse nuk ndryshon mënyra se si Shtetet e Bashkuara, Kina dhe vendet e tjera testojnë, kontrollojnë dhe publikojnë modelet gjithnjë e më të fuqishme të inteligjencës artificiale.
Si duhet kuptuar paralajmërimi: Frika kryesore lidhet me IA-në që mund të përmirësojë vetveten
Askush nuk po pretendon se inteligjenca artificiale përbën në këtë moment një kërcënim të menjëhershëm të nivelit më të lartë.
Paralajmërimi është tjetër: Teknologjia po përmirësohet më shpejt nga sa kishin parashikuar edhe vetë ekspertët që po e ndërtojnë atë.
Sipas tyre, sistemet e IA-së së shpejti mund të fitojnë aftësinë për të ndihmuar në përmirësimin e versioneve të ardhshme të vetvetes — një proces i njohur si vetëpërmirësim rekursiv (recursive self-improvement).
Nëse arrihet kjo pikë, IA-ja mund të bëhet gjithnjë e më e aftë me ritëm të përshpejtuar.
Dhe sa më shpejt të përmirësohet, aq më e vështirë mund të bëhet për njerëzit që të parashikojnë sjelljen e saj, ta kontrollojnë ose ta ndalojnë.
Kjo është arsyeja pse disa prej njerëzve që punojnë në zemër të industrisë së inteligjencës artificiale po paralajmërojnë se problemi nuk është vetëm se çfarë mund të bëjë IA-ja sot, por çfarë mund të bëhet ajo nëse ritmi aktual i zhvillimit vazhdon dhe sistemet fillojnë të kontribuojnë vetë në përmirësimin e gjeneratave të ardhshme të IA-së./Axios/TN
