Dokumentacioni i dorëzuar nga Anthropic për ofertën publike fillestare (IPO) përmban një listë të gjatë paralajmërimesh për rreziqe ekstreme, përfshirë mundësinë që teknologjia e vetë kompanisë të rrezikojë njerëzimin.
Pse ka rëndësi: Këta janë faktorët më të pazakontë të rrezikut të paraqitur ndonjëherë në një ofertë publike fillestare, një ndërthurje tronditëse e gjuhës juridike të Wall Street-it me atë që disa e konsiderojnë fantashkencë të Silicon Valley-t. Mes tyre përfshihen kërcënime katastrofike për njerëzimin, modele të inteligjencës artificiale që përdorin shantazhin dhe angazhime financiare prej 750 miliardë dollarësh për kapacitete kompjuterike.
Zhvillimi kryesor: Prospekti i Anthropic përmban më shumë se 90 faqe kushtuar faktorëve të rrezikut, të cilat përbëjnë rreth një të tretën e dokumentacionit të përgjithshëm. Ndër paralajmërimet më tronditëse, kompania thekson se:
- Inteligjenca artificiale mund të paraqesë «rreziqe katastrofike ose ekzistenciale për njerëzimin» dhe mund të përpiqet të manipulojë njerëzit.
- Modelet e IA-së po bëhen gjithnjë e më të vështira për t’u mbikëqyrur, pasi po përmirësojnë aftësinë e tyre për t’iu shmangur kontrollit. Vetëm ritmi me të cilin ato kryejnë punë në mënyrë autonome mund ta tejkalojë aftësinë e mbikëqyrësve njerëzorë për të monitoruar veprimet e tyre.
- Modelet e IA-së në përgjithësi, përfshirë ato të Anthropic, kanë shfaqur sjellje që ngjasojnë me shantazhin, përfshirë përpjekje për t’i rezistuar çaktivizimit.
Në fokus: Anthropic zbuloi gjithashtu se katër nga modelet e saj kishin arritur të siguronin qasje të paautorizuar në sisteme reale të palëve të treta gjatë vlerësimeve të sigurisë kibernetike.
- Në një incident, një model përdori një fjalëkalim që kishte zbuluar për të fituar privilegje administratori, mblodhi kredenciale të tjera hyrjeje, ndryshoi konfigurimet e sistemit dhe siguroi qasje në të dhënat personale të një individi.
-
Anthropic deklaroi se nuk kishte gjetur prova që modelet kishin ndjekur objektiva jashtë detyrave që u ishin caktuar ose se ishin përpjekur t’i shmangeshin mbikëqyrjes.
Pamja e përgjithshme: Çdo kompani që hyn në bursë duhet të paraqesë rreziqet që investitorët duhet të marrin parasysh.
– Por Anthropic është kompania e parë në historinë moderne që ka shkuar deri në përshkrimin e rreziqeve kaq ekstreme për vetë ekzistencën e njerëzimit.
Pika e tensionit: Kompania pranoi gjithashtu se suksesi i saj varet në masë të madhe nga aftësia për të zhvilluar inteligjencën artificiale më të avancuar.
- Ajo pranon se ky synim mund të bjerë ndesh me praktikat e sigurisë, duke shtuar se aftësitë e modeleve mund të «përparojnë më shpejt sesa aftësia jonë për të zhvilluar, verifikuar dhe zbatuar» masat përkatëse të sigurisë.
- Kjo nxjerr në pah një tension themelor për të cilin kritikët kanë paralajmëruar: Ndërsa Anthropic zgjeron veprimtarinë dhe përballet me presionin e investitorëve të tregjeve publike për të zhvilluar modele më të mira se ato të konkurrentëve, ambiciet e saj tregtare mund të bien gjithnjë e më shumë ndesh me angazhimet për sigurinë.
Shifrat: Faktorët e rrezikut përfshijnë gjithashtu paralajmërime financiare më të zakonshme.
- Anthropic ka marrë përsipër angazhime financiare prej qindra miliarda dollarësh për shërbime kompjuterike në renë kompjuterike dhe për marrjen me qira të pajisjeve, edhe pse klientët mund ta ulin përdorimin e këtyre shërbimeve relativisht shpejt.
- Disa marrëveshje kërkojnë pagesa minimale, pavarësisht nivelit të kërkesës. Kompania paralajmëron se mospërmbushja e disa detyrimeve mund të shkaktojë shkelje të kushteve të marrëveshjeve të tjera, duke sjellë potencialisht përshpejtimin e shlyerjes së borxheve dhe duke rrezikuar qasjen në infrastrukturën kompjuterike.
- Anthropic pranon gjithashtu se më parë i kishte nënvlerësuar nevojat e saj për kapacitete kompjuterike. Megjithatë, mbivlerësimi i kërkesës së ardhshme mund ta detyrojë kompaninë të vazhdojë të paguajë për një infrastrukturë të kushtueshme që nuk shfrytëzohet plotësisht.
Përfundimi: Dokumentacioni i Anthropic për hyrjen në bursë përbën një paralajmërim jashtëzakonisht të hapur për rreziqet e ndërtimit të një biznesi mbi një teknologji që vetë krijuesi i saj pranon se mund të bëhet gjithnjë e më e vështirë për t’u kontrolluar./Axios
