Ekspertët paralajmërojnë për rrezikun e një katastrofe nga IA-ja
Pothuajse çdo arkitekti dhe drejtuesi të inteligjencës artificiale i bëjmë privatisht të njëjtën pyetje: Cili rrezik nga IA-ja ju shqetëson më shumë?
Pothuajse të gjithë japin të njëjtën përgjigje: një patogjen vdekjeprurës, që përhapet aq në heshtje, aq gjerësisht dhe aq shpejt, sa të jetë e pamundur të ndalet.
Pse ka rëndësi
Kjo marrëveshje e rrallë mes ekspertëve të IA-së buron nga bindja se modelet e avancuara mund ta ndihmojnë një aktor keqdashës të krijojë një patogjen vdekjeprurës, përpara se qeveritë dhe industria të përsosin sistemet për zbulimin dhe parandalimin e tij.
Ky nuk është një skenar shumë i mundshëm. Madje, disa nga optimistët më të mëdhenj të inteligjencës artificiale i hedhin poshtë skenarët apokaliptikë.
Megjithatë, është një skenar i mundshëm, ndërsa IA-ja po bëhet gjithnjë e më e aftë për të kuptuar dobësitë biologjike të njeriut, njësoj siç ka arritur të kuptojë dobësitë kibernetike brenda sistemeve të mëdha jodehumanizuese.
Zhvillimet e fundit
Ekspertët nuk po i zbusin paralajmërimet e tyre. Në një studim të ri nga MIT FutureTech dhe Universiteti i Queenslandit, 272 studiues renditën 24 rreziqet kryesore që lidhen me inteligjencën artificiale.
Ata vlerësuan se ekziston:
- një mundësi prej 12 për qind që aftësitë e rrezikshme të IA-së të shkaktojnë një rezultat katastrofik deri në vitin 2030;
- dhe një mundësi tjetër prej 12 për qind që IA-ja të mundësojë krijimin e armëve ose kapaciteteve që shkaktojnë dëme masive.
Këto vlerësime marrin parasysh edhe përpjekjet për zbutjen e rreziqeve. Pa këto masa, mundësia e një katastrofe do të kalonte 20 për qind.
Studiuesit e përkufizuan si “katastrofik” një rezultat që shkakton më shumë se një milion viktima ose dëme me vlerë mbi 100 miliardë dollarë.
Ndihma në ndërtimin e armëve kimike ose biologjike përfshihet drejtpërdrejt në kategorinë e rreziqeve më të larta.
Pamja e përgjithshme
Nuk po e shkruajmë këtë për t’ju frikësuar, por për të treguar hapur atë që njerëzit që po ndërtojnë këto teknologji e thonë privatisht dhe, në mënyra më të kujdesshme, edhe publikisht.
Vetëm muajin e kaluar, Sam Altman i OpenAI-t, Dario Amodei i Anthropic-ut, Demis Hassabis i Google DeepMind, Mustafa Suleyman i Microsoft-it dhe Alexandr Wang i Meta-s nënshkruan së bashku një letër të hapur, në të cilën paralajmëruan për rrezikun e armëve biologjike të krijuara me ndihmën e inteligjencës artificiale dhe kërkuan masa më të forta mbrojtëse.
Mundësia e krijimit të një patogjeni ndikon në çdo debat të qeverisë federale amerikane dhe të industrisë mbi mënyrën se si duhet të shqyrtohen dhe të kuptohen modelet dhe aftësitë e reja të IA-së përpara se ato t’i ofrohen publikut.
Shpresa është që zhvilluesit e modeleve më të avancuara të ndërtojnë mekanizma mbrojtës dhe aftësi që mund t’i bllokojnë aktorët keqdashës me qëllime kriminale.
Ekziston gjithashtu shpresa që e njëjta teknologji që mund të përdoret për krijimin e një patogjeni të avancojë mjaftueshëm për ta parandaluar atë ose për të krijuar mbrojtje dhe vaksina kundër tij.
Kontrolli i realitetit
Është jashtëzakonisht e vështirë të pengohen aktorët keqdashës që të planifikojnë skema kriminale, veçanërisht ndërsa modelet e ashtuquajtura me burim të hapur po përmirësohen kaq shpejt.
Këto modele të hapura mund të përdoren dhe të përshtaten privatisht nga çdokush, jashtë çdo sistemi rregullator.
Kritikët e modeleve me burim të hapur e theksojnë shpesh pikërisht këtë rrezik, megjithëse modelet më të avancuara të laboratorëve kryesorë kanë shumë më tepër gjasa të zotërojnë fuqinë llogaritëse të nevojshme për të krijuar diçka krejtësisht të re.
Prandaj, sa më të afta të bëhen modelet, aq më e madhe është mundësia që të ndodhin gjëra që sot duken të paimagjinueshme, si të këqija, ashtu edhe të mira.
Si mund të zhvillohej konkretisht një skenar i tillë
Sot, krijimi i një patogjeni vërtet të ri kërkon ekspertizë jashtëzakonisht të rrallë, pajisje të specializuara laboratorike dhe vite eksperimentesh të dështuara.
Inteligjenca artificiale mund ta përshpejtojë ndjeshëm të gjithë këtë proces.
Ja skenari që ua prish gjumin ekspertëve:
Një aktor keqdashës, qoftë i mbështetur nga një shtet apo një individ me burime të mëdha financiare, përdor një model të fuqishëm për të hartëzuar dobësitë biologjike të njeriut dhe për të identifikuar se cilat ndryshime gjenetike do ta bënin një patogjen të njohur më të transmetueshëm, më të vështirë për t’u zbuluar ose rezistent ndaj trajtimeve ekzistuese.
Modeli, i trajnuar me sasi masive të të dhënave biologjike dhe gjenomike, gjeneron variante të realizueshme.
Përfytyroni qindra nga shkencëtarët më të zgjuar në botë duke punuar me shpejtësi marramendëse, pa u ndalur dhe pa u lodhur kurrë. Pikërisht kështu funksionojnë grupet e agjentëve të inteligjencës artificiale.
Më pas, këto variante sintetizohen duke përdorur mjete për modifikimin e gjeneve që po bëhen gjithnjë e më të lira dhe më të arritshme. Kjo është një teknologji e veçantë, e cila po përparon gjithashtu me ndihmën e IA-së.
Patogjeni fillon të përhapet përpara se autoritetet të kuptojnë se me çfarë kanë të bëjnë. Ai është aq i ri, sa u shpëton sistemeve ekzistuese të mbikëqyrjes biologjike.
Në momentin kur sistemet e shëndetit publik e identifikojnë, frenimi i përhapjes së tij mund të jetë shumë më i vështirë se gjithçka që përjetuam gjatë pandemisë së COVID-19.
Kjo është arsyeja pse duhet t’i kushtohet vëmendje debatit mbi rreziqet e reja kibernetike të krijuara nga inteligjenca artificiale. Ai ilustron garën për të ndërtuar sisteme efektive zbulimi dhe parandalimi më shpejt sesa zhvillohen aftësitë e reja sulmuese.
Kjo është gjithashtu arsyeja pse duhet ndjekur me kujdes debati mbi modelet me burim të hapur.
Një laborator që zhvillon modele të avancuara mund të ndërtojë masa sigurie drejtpërdrejt brenda modelit. Por një model i hapur, i përshtatur nga dikush që vepron jashtë çdo sistemi rregullator, mund t’i anashkalojë këto masa.
Përfundimi
Kjo është një çështje e rëndë dhe frikësuese. Por shpërfillja e saj nuk do ta zgjidhë problemin.
Njohja e rrezikut dhe parandalimi i tij mund ta zgjidhin./Axios/TN
