Në një ese, kreu i Anthropic paraqiti aftësitë e inteligjencës artificiale që po zhvillohen me shpejtësi dhe tha se nevojiten kontrolle më të forta sigurie në të gjithë industrinë.
Nga Mike Isaac
Dario Amodei, drejtori ekzekutiv i Anthropic, bëri thirrje të shtunën për një ngadalësim global të zhvillimit të inteligjencës artificiale, në një ese prej rreth 3.800 fjalësh, vetëm disa ditë pasi një nga punonjësit e kompanisë dha dorëheqjen për shkak të shqetësimeve lidhur me sigurinë e teknologjisë.
Drejtuesit e dy kompanive të tjera të mëdha të inteligjencës artificiale iu bashkuan shpejt kësaj thirrjeje. Sam Altman, drejtori ekzekutiv i OpenAI, dhe Elon Musk, kompania hapësinore SpaceX e të cilit ka rritur ndjeshëm shpenzimet për inteligjencën artificiale, thanë në postime në rrjetet sociale se pajtoheshin me nevojën për një ritëm më të ngadaltë.
Amodei, i cili bashkëthemeloi Anthropic me synimin për të ndërtuar inteligjencën artificiale në mënyrë të sigurt dhe të kujdesshme, shkroi në esenë e tij se, ndonëse beson se teknologjia mund të sjellë përfitime të mëdha, ajo po përparon me një ritëm tepër të shpejtë që studiuesit ta zhvillojnë në mënyrë të sigurt.
„Gjatë muajve të fundit jam bindur se trajtimi i plotë i rreziqeve kërkon edhe më shumë maturi – jo vetëm investime në parandalimin e rreziqeve, por edhe përshtatjen e ritmit të përparimit të aftësive, në mënyrë që puna për parandalimin e rreziqeve të ketë kohë ta ndjekë atë“, shkroi Amodei.
„Duhet ta ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të inteligjencës artificiale. Përparimi do të vazhdojë të duket i shpejtë dhe duhet ta përdorim me mençuri kohën që fitojmë.“
Amodei prej vitesh paralajmëron për rreziqet e sigurisë që lidhen me inteligjencën artificiale. Por eseja e tij përbën një nga thirrjet më të forta deri më tani për veprim urgjent nga drejtuesi i një kompanie të madhe të IA-së.
Ai bëri thirrje që auditorë të pavarur të kontrollojnë kompanitë për respektimin e standardeve të sigurisë dhe kërkoi bashkëpunim global për krijimin e rregullave mbi zhvillimin e inteligjencës artificiale.
Thirrja për një ngadalësim në mbarë industrinë vjen pas muajsh shqetësimesh në rritje brenda sektorit të teknologjisë, ndërsa modelet e inteligjencës artificiale kanë bërë përparime të mëdha në kompani si Anthropic, zhvilluesja e chatbot-it Claude, OpenAI, krijuesja e ChatGPT-së, dhe Google DeepMind.
Tensionet u rritën edhe më tej pasi laboratorët kryesorë të inteligjencës artificiale zbuluan incidente sigurie të shkaktuara nga programet e tyre pa dijeninë e tyre.
Në një incident gjatë këtij viti, sistemet e OpenAI depërtuan në sistemet e kompanisë së inteligjencës artificiale Hugging Face. Incidenti nuk u zbulua derisa Hugging Face e njoftoi OpenAI-n disa javë pasi kishte ndodhur.
Që atëherë, studiues të inteligjencës artificiale kanë zhvilluar konsultime për të diskutuar se si duhet vepruar.
Të martën, Jacob Coxon, studiues në Anthropic, dha dorëheqjen dhe publikoi një seri postimesh në rrjetet sociale, ku argumentoi se laboratorët kryesorë të inteligjencës artificiale nuk po e zhvillonin teknologjinë në mënyrë të përgjegjshme dhe, për pasojë, po „luanin me jetët e njerëzve“.
Deklaratat e tij shkaktuan reagime të shumta.
Edhe studiues të tjerë të inteligjencës artificiale u kanë bërë thirrje drejtuesve të kompanive të tyre që ta ndalojnë ose ngadalësojnë zhvillimin e IA-së, ndërsa disa prej tyre po krijojnë grupe të veçanta për të rritur ndërgjegjësimin për rreziqet që mund të sjellë kjo teknologji.
Liderët e industrisë së inteligjencës artificiale po përgatiten për një moment kur një sistem i IA-së mund të mbështetet te vetvetja për t’u bërë gjithnjë e më i avancuar, në vend që të ketë nevojë për ndihmën e studiuesve njerëzorë.
Kjo dinamikë, të cilën shkencëtarët e kompjuterëve e quajnë „vetëpërmirësim rekursiv“, është pikërisht ajo që disa zhvillues të shquar të inteligjencës artificiale besojnë se mund të çojë në një situatë ku softueri del jashtë kontrollit të tyre.
„Nëse lihet pa kontroll, kjo mund ta tejkalojë aftësinë tonë për t’i kuptuar dhe kontrolluar këto sisteme dhe, për këtë arsye, duhet trajtuar me shumë kujdes – nëse duhet ndjekur fare“, tha Amodei.
Disa orë pasi Amodei publikoi esenë e tij, Sam Altman publikoi një deklaratë në rrjetet sociale, duke u pajtuar se ngadalësimi i zhvillimit të inteligjencës artificiale ishte i nevojshëm.
„Kjo ka qenë një temë kryesore e diskutimeve që kemi zhvilluar në OpenAI gjatë javëve të fundit“, shkroi Altman.
„Angazhimi për të pasur vlerësues të pavarur me një nivel aksesi të ngjashëm me atë të punonjësve është një ide e shkëlqyer dhe ne do të bëjmë të njëjtën gjë. Së shpejti do të kemi më shumë për të ndarë.“
Elon Musk, në një postim në platformën e tij X, u shpreh shkurt:
„Dario ka të drejtë.“
Për vite me radhë, shumë nga laboratorët kryesorë të inteligjencës artificiale kanë qenë të përfshirë në një konkurrencë të ashpër mes tyre. Por, ndërsa këto sisteme kanë përparuar, është krijuar një pajtim më i gjerë ndërmjet drejtuesve të kompanive rivale se duhet bërë diçka për të kufizuar rreziqet.
Muajin e kaluar, ndërsa OpenAI përgatitej të publikonte një model të avancuar të inteligjencës artificiale të quajtur Astra, kompania tha se kishte ngadalësuar qëllimisht ritmin e zhvillimit të tij, duke përmendur përparimet në aftësitë e sigurisë kibernetike.
Në korrik, Demis Hassabis i Google publikoi një kornizë të hapur për atë që ai beson se mund të jetë një mënyrë e sigurt dhe bashkëpunuese për zhvillimin e inteligjencës artificiale të gjeneratës së ardhshme.
The New York Times ka paditur OpenAI dhe Microsoft, duke i akuzuar për shkelje të të drejtave të autorit në lidhje me përdorimin e përmbajtjeve gazetareske nga sistemet e inteligjencës artificiale. Të dyja kompanitë i kanë mohuar pretendimet.
Aktualisht ekzistojnë relativisht pak rregulla që kontrollojnë zhvillimin e inteligjencës artificiale, megjithëse presidenti Donald Trump nënshkroi në qershor një urdhër ekzekutiv që u kërkon laboratorëve të IA-së t’i paraqesin vullnetarisht modelet e tyre për shqyrtim përpara publikimit.
Në esenë e tij të së shtunës, Amodei propozoi disa hapa që industria mund të ndërmarrë për të ngadalësuar ritmin e zhvillimit.
Ai tha se të gjithë laboratorët e inteligjencës artificiale mund të bien dakord për vlerësime teknike nga palë të treta, të kryera nga „vlerësues të integruar“ ose specialistë të jashtëm, të cilët do të mund të verifikonin zbatimin e praktikave më të mira të sigurisë në të gjitha kompanitë.
Amodei sugjeroi gjithashtu që vendet me sisteme demokratike të qeverisjes të bashkërendohen për krijimin e standardeve të sigurisë, të cilat mund të marrin edhe formën e masave rregullatore.
Ai shtoi se një ngadalësim i koordinuar në mënyrë të përshtatshme ndoshta do të kërkonte një përpjekje globale dhe bashkëpunim edhe me vende të tjera, përfshirë shtetet autoritare.
Megjithatë, jo të gjithë në Silicon Valley besojnë se synimet e Amodei-t janë thjesht altruiste.
Disa kritikë argumentojnë se Anthropic dhe OpenAI po përpiqen të forcojnë pozicionet e tyre si liderë të tregut të inteligjencës artificiale duke ushqyer frikën dhe duke i kërkuar qeverisë federale të krijojë korniza rregullatore që do ta bënin më të vështirë për kompanitë më të vogla të konkurronin me to.
Në një konferencë teknologjike në San Francisko javën e kaluar, Jensen Huang, drejtori ekzekutiv i Nvidia-s, prodhuesit të çipave për inteligjencën artificiale, deklaroi se laboratorët e IA-së po i rrisnin shqetësimet për sigurinë sepse planifikonin të prezantonin produkte të reja të sigurisë kibernetike.
„Çfarë mënyre më të mirë ka për të krijuar kërkesë sesa të krijosh një problem?“ tha Huang.
„Kush nuk do të dëshironte që tregu i tij të ishte në panik për produktin e vet dhe të rreshtohej në pritje për ta blerë?“
Të shtunën, pak pasi Amodei publikoi esenë e tij, Clément Delangue, drejtori ekzekutiv i Hugging Face, shkroi në rrjetet sociale se ishte thelbësore që çështjet e sigurisë së inteligjencës artificiale të mos „zgjidheshin pas dyerve të mbyllura nga një grusht laboratorësh të nivelit më të lartë“.
Nvidia ra dakord këtë muaj ta blejë Hugging Face për 12,9 miliardë dollarë.
Në esenë e tij, Amodei theksoi se vazhdon të besojë se inteligjenca artificiale mund t’i sjellë njerëzimit „përfitime të jashtëzakonshme“, përfshirë mundësinë e shërimit të sëmundjeve dhe përshpejtimin e rritjes ekonomike.
Megjithatë, ai tha se rreziqet e inteligjencës artificiale janë tepër të mëdha për të mos vepruar me kujdes ekstrem.
„Masat që propozoj për ta çuar përpara kufirin e aftësive me një ritëm të sigurt nuk do të jenë të lehta“, shkroi Amodei.
„Por besoj se ia kemi borxh njerëzimit që të përpiqemi.“/NYT
