Nga Ben Berkowitz | Axios
Drejtori ekzekutiv i Anthropic, Dario Amodei, po kërkon një ngadalësim të menjëhershëm të ritmit të zhvillimit të inteligjencës artificiale, duke paralajmëruar se, në të kundërt, pasoja potencialisht shkatërrimtare mund të shfaqen brenda vetëm disa muajsh.
Pse ka rëndësi: Amodei foli pa ekuivok në një ese të re, duke paralajmëruar se tufa agjentësh të pakontrolluar të inteligjencës artificiale mund të jenë në gjendje të marrin kontrollin e internetit brenda vetëm gjashtë muajsh.
Çfarë po thotë: “Duhet ta ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të inteligjencës artificiale. Përparimi do të vazhdojë të duket i shpejtë dhe ne duhet ta përdorim me mençuri kohën që fitojmë”, shkroi Amodei.
Niveli i kërcënimit: Amodei iu referua posaçërisht incidentit të fundit me një agjent të pakontrolluar që përfshiu OpenAI dhe Hugging Face, për të cilin tha se mund të kishte përfunduar shumë më keq.
“Duke pasur parasysh ritmin gjithnjë e më të shpejtë të zhvillimit të aftësive të IA-së, shqetësimi im është se brenda 6–12 muajsh një tufë e tillë mund të jetë e aftë të marrë nën kontroll të gjithë internetin përmes një botnet-i të qëndrueshëm, duke shkaktuar potencialisht dëme prej qindra miliarda dollarësh, ndërsa shkalla e dëmit do të vazhdonte të rritej prej aty, nëse IA-ja bëhet më e fuqishme pa mekanizmat e nevojshëm mbrojtës”, paralajmëroi ai.
Duke e parë më gjerë: Amodei tha se Anthropic do të ndërmarrë në mënyrë të njëanshme një masë kryesore sigurie: Do t’u japë vlerësuesve të jashtëm një nivel qasjeje të krahasueshëm me atë të punonjësve të kompanisë, në mënyrë që ata të mund të kontrollojnë procedurat e sigurisë dhe të raportojnë incidentet.
Ai u bëri thirrje edhe kompanive të tjera të industrisë që të ndërmarrin të njëjtin hap.
Amodei kërkoi gjithashtu koordinim ndërmjet vendeve demokratike për vendosjen e standardeve të sigurisë, si dhe përpjekje që këto vende të koordinohen edhe me qeveritë autoritare.
Pamja e përgjithshme: Kjo ishte java kur debati mbi sigurinë e inteligjencës artificiale doli fuqishëm në vetëdijen publike, i nxitur nga dorëheqja shumë publike e një punonjësi të Anthropic dhe paralajmërimi i tij për një katastrofë të mundshme.
Eseja e Amodeit nuk është domosdoshmërisht një përgjigje e drejtpërdrejtë ndaj kësaj dorëheqjeje, por pritet të ketë pothuajse të njëjtin efekt, në një moment kur po rritet me shpejtësi zemërimi i publikut dhe i Kongresit.
“Masat që propozoj për ta çuar përpara kufirin e zhvillimit të IA-së me një ritëm të sigurt nuk do të jenë të lehta. Por besoj se ia kemi borxh njerëzimit që të përpiqemi”, shkroi Amodei në përfundim të esesë së tij.
Kontrolli i realitetit: Në industrinë e inteligjencës artificiale janë në lojë aq shumë para, sa është e vështirë të imagjinohet që kompanitë të vetëpërmbahen, veçanërisht nëse nuk janë të sigurta se edhe konkurrentët e tyre do të bëjnë të njëjtën gjë.
Përfundimi: Eseja e Amodeit ka të ngjarë të ketë ndikim të konsiderueshëm në debatin mbi sigurinë dhe rregullimin e inteligjencës artificiale.
Por mbetet për t’u parë nëse dikush do të veprojë realisht, apo nëse industria thjesht do të vazhdojë të vrapojë me shpejtësi drejt një të ardhmeje jashtëzakonisht të pasigurt.
