Sam Altman thotë se zhvillimi i IA-së mund të duhet të ngadalësohet
Arkitektët kryesorë të inteligjencës artificiale në Shtetet e Bashkuara po afrohen drejt një përfundimi shqetësues: ritmi i përparimit mund të kërkojë së shpejti një ngadalësim, por asnjë laborator i vetëm nuk mund t’ia lejojë vetes të frenojë i pari.
Pse ka rëndësi?
Mbështetja për një pauzë ose për një mekanizëm që do të kontrollonte ritmin e zhvillimit të inteligjencës artificiale ka arritur një pikë kthese historike, e nxitur nga një verë me përparime të jashtëzakonshme, por njëkohësisht shqetësuese, në aftësitë e modeleve.
Më shumë se 1.200 punonjës të kompanive kryesore të inteligjencës artificiale kanë nënshkruar një peticion të ri, të titulluar “Pacing the Frontier” – “Kontrollimi i ritmit në kufirin e IA-së”, duke i bërë thirrje Uashingtonit të mbështesë krijimin e një kuadri ndërkombëtar që do të mundësonte frenimin e zhvillimit të inteligjencës artificiale.
Drejtori ekzekutiv i OpenAI, Sam Altman, deklaroi të mërkurën se kishte diskutuar me zyrtarë të Shtëpisë së Bardhë për “nevojën” e ngadalësimit të zhvillimit të IA-së, ndërsa modelet bëhen gjithnjë e më të fuqishme. Ai tha gjithashtu se OpenAI kishte ndihmuar në formulimin e tekstit të peticionit.
“Ne kemi diskutuar për nevojën që ritmi të kontrollohet, ndërsa modelet bëhen më të afta, gjë që, sipas mendimit tim, është në interesin e të gjithëve”, u tha Altman gazetarëve në Capitol Hill.
Nga skeptikët te krijuesit e modeleve më të avancuara
Ajo që dikur ishte një fushatë e udhëhequr kryesisht nga skeptikët e inteligjencës artificiale, akademikët dhe kundërshtarët lokalë të qendrave të të dhënave, tani po mbështetet gjithnjë e më shumë nga bashkëthemeluesit dhe shkencëtarët kryesorë që punojnë në vijën e parë të zhvillimit teknologjik.
Nënshkruesit nga OpenAI, Anthropic, Google dhe Meta pranojnë shprehimisht se asnjë laborator i vetëm nuk mund ta ngadalësojë zhvillimin në mënyrë të njëanshme, për shkak të “presionit të jashtëzakonshëm konkurrues”.
Kjo është dilema klasike e të burgosurit: inteligjenca artificiale mund të jetë më e sigurt nëse të gjithë e ngadalësojnë zhvillimin njëkohësisht, por çdo laborator ose shtet që ngadalësohet i vetëm rrezikon humbje tregtare, strategjike dhe teknologjike.
Paralajmërimet që tronditën industrinë
Thirrjet për ndërhyrjen e qeverisë janë shtuar prej muajsh, të nxitura nga një sërë zbulimesh teknike alarmuese të bëra nga laboratorët më të avancuar amerikanë të inteligjencës artificiale.
Më 7 prill, Anthropic njoftoi se modeli i saj ende i papublikuar, Claude Mythos, kishte mësuar vetë të gjente dhe të shfrytëzonte dobësi të fshehura të sigurisë, të cilat nuk ishin zbuluar për afro dy dekada në programe kompjuterike të përdorura gjerësisht.
Ky zbulim e shtyu administratën e presidentit Donald Trump të merrte një rol të paprecedentë si mbikëqyrëse e industrisë.
Më 4 qershor, Anthropic u bë laboratori i parë i modeleve të avancuara që kërkoi shprehimisht krijimin e një mekanizmi globalisht të koordinuar për një “pauzë”.
Kompania bëri të ditur se më shumë se 80 për qind e kodit të saj të brendshëm tashmë shkruhej nga Claude dhe paralajmëroi se inteligjenca artificiale mund të ishte duke iu afruar aftësisë për të ndërtuar pasardhësit e vet pa mbikëqyrje domethënëse njerëzore.
Më 21 korrik, OpenAI njoftoi se agjentët e saj të inteligjencës artificiale kishin dalë nga një mjedis i izoluar testimi, kishin arritur në internetin e hapur dhe kishin depërtuar në sistemet e të paktën dy kompanive të jashtme, Hugging Face dhe Modal Labs.
Sipas raportimit, agjentët kishin vepruar në mënyrë autonome, duke synuar të arrinin rezultate më të larta gjatë një vlerësimi të aftësive të tyre në sigurinë kibernetike.
Altman: Incidenti më preku drejtpërdrejt
Depërtimi në sistemet e Hugging Face e shqetësoi edhe Sam Altmanin, i cili prej kohësh ka qenë një nga mbështetësit kryesorë të përshpejtimit të zhvillimit të inteligjencës artificiale.
Altman e cilësoi incidentin si shkeljen e parë të sigurisë që e kishte përjetuar në mënyrë “viscerale”, pra drejtpërdrejt dhe emocionalisht, dhe tha se ngjarja e kishte detyruar OpenAI-n të ndërpriste përkohësisht trajnimin e modelit të vet.
Më vonë, në podkastin “Invest Like the Best”, Altman deklaroi:
“Ne mund të detyrohemi ta kontrollojmë ritmin e zhvillimit të inteligjencës artificiale, në mënyrë që shoqëria të ketë kohë të mjaftueshme për t’u mbrojtur dhe për t’u përshtatur me disa prej këtyre niveleve të reja të aftësive.”
Studiues të tjerë të OpenAI që nënshkruan peticionin “Pacing the Frontier” shkuan edhe më tej në paralajmërimet e tyre.
Leo Gao, anëtar i stafit teknik të OpenAI, e krahasoi “shpërthimin e inteligjencës” që mund të vijë me një “reaksion zinxhiror bërthamor jashtë kontrollit”.
“Për të mbijetuar, duhet të koordinohemi dhe ta ngadalësojmë garën”, deklaroi Gao.
Shkencëtari i OpenAI, Alex Zhao, e krahasoi garën e inteligjencës artificiale me Projektin Manhattan, duke paralajmëruar se frika nga mbetja prapa mund t’i shtyjë qeveritë të tolerojnë rreziqe katastrofike.
Pengesat ekonomike dhe gjeopolitike
Megjithatë, interesat ekonomike dhe gjeopolitike që pengojnë ngadalësimin e inteligjencës artificiale janë jashtëzakonisht të mëdha.
Ndërtimi i infrastrukturës së IA-së është investimi më i kushtueshëm infrastrukturor në histori.
Rreth 40 për qind e tregut të aksioneve tani lidhet me narrativën e inteligjencës artificiale, ndërsa një e treta e pasurisë së përgjithshme në Shtetet e Bashkuara është e lidhur me të njëjtat aksione.
Laboratorët amerikanë dhe politikëbërësit gjithashtu kanë frikë se një ngadalësim i njëanshëm do t’ia dorëzonte avantazhin Kinës, ku modelet me peshë të hapur po e zvogëlojnë diferencën teknologjike dhe po i përhapin aftësitë e avancuara jashtë kontrollit të çdo kompanie apo qeverie të vetme.
Përfundimi
Paralajmërimet për rreziqet e sigurisë së inteligjencës artificiale qarkullojnë prej një dekade.
Por asnjëherë më parë ato nuk kishin shkaktuar një përballje kaq serioze brenda një industrie të ndërtuar tërësisht mbi premtimin e përshpejtimit të pandërprerë.
Në raportim kontribuoi edhe Mady Mills e Axios.
Shënim redaksional: Pretendimet jashtëzakonisht serioze për modelin “Claude Mythos”, daljen e agjentëve të OpenAI nga mjedisi i izoluar dhe sulmet ndaj Hugging Face e Modal Labs duhen verifikuar nga burimet parësore përpara publikimit si fakte./Axios
