Krijuesi i Claude paraqet në prospektin e ofertës publike fillestare “rreziqet katastrofike për njerëzimin”, përfshirë rezistencën ndaj çaktivizimit dhe sjellje të ngjashme me shantazhin
Chris Dorrell, korrespondent për biznesin e teknologjisë
Anthropic, startup-i kalifornian që qëndron pas chatbot-it Claude, ka paralajmëruar investitorët se modelet e avancuara të inteligjencës artificiale mund të paraqesin “rreziqe katastrofike ose ekzistenciale për njerëzimin”. Paralajmërimi është përfshirë në prospektin për investitorët, të hartuar përpara daljes së planifikuar në bursë, ku kompania synon një vlerësim prej 2 trilionë dollarësh.
Kompania pesëvjeçare, e cila raportoi një humbje prej 42 miliardë dollarësh vitin e kaluar, bëri gjithashtu të ditur se planifikon të shpenzojë 518 miliardë dollarë për shërbime cloud dhe infrastrukturë gjatë viteve të ardhshme.
Prospekti, i shqyrtuar nga Reuters, tregon sfidën me të cilën do të përballen investitorët kur të përpiqen t’i përcaktojnë vlerën një kompanie që beson se produktet e saj mund t’i shkaktojnë dëme të jashtëzakonshme njerëzimit. Në të njëjtën kohë, dokumenti nxjerr në pah kostot marramendëse që shoqërojnë zhvillimin e IA-së.
Pothuajse një e treta e dokumentit i kushtohet përshkrimit të hollësishëm të faktorëve të rrezikut. Mes tyre përmendet mundësia që modelet e saj të IA-së të “rezistojnë ndaj çaktivizimit”, të “fshehin ose manipulojnë informacionin” dhe të shfaqin sjellje “të ngjashme me shantazhin”. Zhvillimi i versioneve edhe më të avancuara të kësaj teknologjie “mund ta rrisë më tej rrezikun që modelet tona të shkaktojnë dëme”.
“Vetëdija e mundshme e modeleve se po u nënshtrohen përpjekjeve tona të vlerësimit përbën një kufizim të konsiderueshëm të aftësisë sonë për të vlerësuar sigurinë e tyre”, thuhet më tej në dokument.
Anthropic, e themeluar në vitin 2021, thuhet se synon një vlerësim prej rreth 2 trilionë dollarësh në ofertën e saj publike fillestare, më shumë se dyfishi i vlerësimit aktual prej 965 miliardë dollarësh. Vetëm një vit më parë, kompania vlerësohej në 183 miliardë dollarë. Amazon dhe Google zotërojnë pjesë të konsiderueshme të kompanisë, të vlerësuara përkatësisht në rreth 15-20 për qind dhe 10-15 për qind. Edhe Nvidia dhe Microsoft kanë pjesëmarrje në kompani, që mendohet se janë në nivele të ulëta njëshifrore në përqindje.
Listimi në bursë, që pritet të bëhet pas zgjedhjeve të ndërmjetme të nëntorit në SHBA, do të vërë në provë interesin e tregjeve publike për kompanitë e IA-së dhe teknologjisë, të cilat kanë ndihmuar në ngritjen e tregjeve globale të aksioneve në nivele rekord.
Prospekti tregoi se humbja prej 42 miliardë dollarësh e Anthropic vitin e kaluar përfshinte një zë kontabël prej rreth 34 miliardë dollarësh. Ky zë pasqyronte rritjen e vlerës së parashikuar të financimeve që në të ardhmen mund të shndërrohen në aksione dhe jo një rritje të kostove operative. Humbja operative e kompanisë vitin e kaluar ishte 8 miliardë dollarë.
Të ardhurat u rritën 12-fish, duke arritur në afro 4,6 miliardë dollarë, ndërsa shpenzimet operative u rritën në 12,7 miliardë dollarë, kryesisht për shkak të trefishimit të shpenzimeve për infrastrukturën kompjuterike. Anthropic ka nënshkruar marrëveshje për sigurimin e kapaciteteve kompjuterike nga Google dhe SpaceX, si dhe nga kompani më të vogla të ashtuquajtura “neocloud”, si Nscale, të specializuara në përllogaritje të përshpejtuara dhe infrastrukturë për IA.
Pothuajse një e katërta e të ardhurave të Anthropic vitin e kaluar erdhi vetëm nga dy klientë, bëri të ditur kompania. Ajo paralajmëroi gjithashtu se shumë prej klientëve të saj më të mëdhenj mund t’i reduktojnë ose t’i ndërpresin shpenzimet, pasi nuk kanë nënshkruar kontrata afatgjata.
Kompania përballet gjithashtu me konkurrencë gjithnjë e më të fortë nga modelet me burim të hapur, të cilat ofrojnë aftësi të ngjashme me produktet e Anthropic, por me kosto dukshëm më të ulët. Kërkesa për modelet me burim të hapur është rritur ndjeshëm gjatë këtij viti.
Si Anthropic, ashtu edhe OpenAI, janë detyruar të ulin çmimet përballë kërcënimit konkurrues gjithnjë e më të madh nga modelet me burim të hapur.
Megjithatë, rritja e Anthropic është përshpejtuar ndjeshëm këtë vit. Të ardhurat në tremujorin e dytë arritën në 11,5 miliardë dollarë, krahasuar me 787 milionë dollarë në të njëjtën periudhë të vitit të kaluar, ndërsa u më shumë se dyfishuan krahasuar me tremujorin paraardhës. Mbi bazë të rregulluar, kompania është në rrugën e duhur për të regjistruar tremujorin e dytë radhazi me fitim operativ.
Paralajmërimet për rreziqet e IA-së së avancuar vijnë në një kohë kur shqetësimi politik dhe publik për ritmin e zhvillimit të kësaj teknologjie po rritet. Laboratorët kryesorë të IA-së kanë bërë të ditura një sërë incidentesh që përfshijnë agjentë “rebelë”, të cilët kanë dalë jashtë mjediseve të testimit dhe kanë depërtuar në sistemet e organizatave të palëve të treta.
Dario Amodei, drejtori ekzekutiv i Anthropic, është përpjekur të koordinojë përpjekjet e industrisë për të ngadalësuar ritmin e zhvillimit të modeleve më të avancuara të IA-së. Propozimet e tij morën mbështetjen e Sam Altman dhe Elon Musk, një shfaqje e rrallë uniteti në një industri të njohur për rivalitetet dhe armiqësitë personale.
OpenAI, rivali nga Silicon Valley që qëndron pas chatbot-it ChatGPT, po përgatitet gjithashtu për të dalë në bursë, por kompania e ka shtyrë listimin për vitin e ardhshëm për shkak të shqetësimeve për sigurinë e modeleve të saj.
“Duke pasur parasysh gjithçka që po ndodh me sigurinë, tani do të ishte një moment i papërshtatshëm për të dalë në bursë”, tha këtë muaj Altman, drejtori ekzekutiv i kompanisë.
Një grup studiuesish aktualë dhe ish-studiuesish të OpenAI dhe DeepMind thanë se kompanitë kryesore të IA-së nuk po bëjnë mjaftueshëm për ta mbrojtur botën nga pasojat e mundshme të një inteligjence artificiale jashtëzakonisht të fuqishme.
Geoffrey Irving, i cili ka punuar si në OpenAI, ashtu edhe në DeepMind dhe ka qenë kryeshkencëtar në Institutin e Sigurisë së IA-së të Mbretërisë së Bashkuar, tha: “Versioni i tyre i ngadalësimit të zhvillimit në kufirin më të avancuar është: ‘mos e përshpejtoni shumë’. Nëse po bën diçka shumë të rrezikshme, thjesht duhet ta ngadalësosh. Kompanitë e IA-së po e ekzagjerojnë masën në të cilën ky është thjesht një problem koordinimi. Ato mund të ndalen vetë, në mënyrë të njëanshme.”
Samuel Kerr, drejtues global i tregjeve të kapitalit aksionar në Mergermarket, tha: “Përhapja e modeleve të mëdha gjuhësore me burim të hapur, të cilat tani shpesh ndërtohen mbi infrastrukturë lokale, përbën, sipas meje, kërcënimin kryesor për modelin e biznesit të Anthropic.”/The Times
