Punonjës të OpenAI-t dhe Anthropic-ut kërkojnë ngadalësimin e zhvillimit të IA-së
Gjatë dimrit dhe pranverës, Anthropic ishte kompania më e përkëdhelur e bumit amerikan të inteligjencës artificiale: po avanconte me shpejtësi në kufijtë më të përparuar të teknologjisë, ndërsa e paraqiste veten si ndërgjegjja morale e industrisë.
Por, me ardhjen e verës, kompania që qëndron pas Claude-it e gjeti veten të vetme, në një ishull të parimeve të veta.
Pse ka rëndësi: Anthropic është njëkohësisht startapi më i vlefshëm në botë dhe një nga kompanitë më të izoluara udhëheqëse në fushën e inteligjencës artificiale. Qasjet e saj të veçanta kanë tensionuar marrëdhëniet me zhvilluesit, politikëbërësit dhe partnerët, ndërsa kompania po shkon me shpejtësi drejt një oferte të mundshme publike të aksioneve, me një vlerësim që mund të arrijë në një trilion dollarë.
Zhvillimi kryesor: Anthropic është e vetmja kompani që zhvillon modele të avancuara të inteligjencës artificiale dhe që refuzoi të nënshkruante një letër të hapur, të udhëhequr nga drejtori ekzekutiv i Nvidia-s, Jensen Huang, e cila i kërkonte Uashingtonit të mos kufizonte modelet me pesha të hapura, një kategori që aktualisht dominohet nga Kina.
Modelet me pesha të hapura janë sisteme që mund të shkarkohen dhe që përdoruesit mund t’i ekzekutojnë, modifikojnë dhe përdorin si bazë për produkte të tjera, pa paguar për një ndërfaqe të kontrolluar nga kompania që i ka zhvilluar. Kjo i bën ato më të lira dhe më fleksibile, por edhe më të vështira për t’u kontrolluar pasi publikohen.
Google dhe OpenAI, dy rivalët më të mëdhenj të Anthropic-ut në fushën e modeleve të mbyllura, iu bashkuan dhjetëra nënshkruesve të tjerë gjatë fundjavës, duke e lënë Anthropic-un të vetëm në mbrojtjen e një modeli biznesi nga i cili vazhdojnë të varen të tria kompanitë.
Çfarë po thonë: Drejtori ekzekutiv i Anthropic-ut, Dario Amodei, u përpoq ta qetësonte vetë përplasjen të hënën, duke publikuar një shkrim në blog, në të cilin këmbënguli se Anthropic nuk ka kërkuar asnjëherë ndalimin e modeleve të hapura. Megjithatë, kompania përsëri nuk e nënshkroi letrën.
Amodei i cilësoi modelet e hapura me aftësi më të kufizuara si “një e mirë publike” dhe tha se ndalimi i kompanive amerikane për të përdorur modele të hapura kineze do të bënte shumë pak për t’i ndaluar qeveritë armiqësore ose aktorët keqdashës.
Por ai përsëriti nevojën për kontrolle më të rrepta mbi komponentët dhe sjelljet që mund t’i bëjnë të rrezikshme modelet e fuqishme, duke përfshirë edhe kufizimin e dërgimit të çipave të avancuar drejt qeverive autoritare.
Në prapaskenë: Polemika mbi modelet me pesha të hapura pasqyron armiqësitë e reja që po tronditin Silicon Valley-n, ku stili dhe mënyra e pozicionimit kanë po aq rëndësi sa edhe vetë politikat.
Anthropic është më e gatshme se rivali i saj kryesor, OpenAI, për t’u përfshirë hapur në përplasje, edhe në rastet kur dy kompanitë nuk janë domosdoshmërisht shumë larg njëra-tjetrës në aspektin intelektual ose tregtar.
Pamja më e gjerë: Ndërsa gara e inteligjencës artificiale po përshpejtohet, Anthropic po izolohet pothuajse në çdo debat të madh politik:
Përdorimi ushtarak
Pentagoni e futi Anthropic-un në listën e zezë në shkurt, pas një përplasjeje të ashpër mbi çështjen nëse Claude mund të përdorej për mbikëqyrje masive ose për armë autonome.
Zyrtari i lartë i Pentagonit, Emil Michael, sulmoi ashpër Anthropic-un të premten, duke pretenduar se “nuk ekziston asnjë kompani e inteligjencës artificiale më armiqësore ndaj personelit luftarak”.
Masat mbrojtëse
Asnjë kompani tjetër e inteligjencës artificiale nuk ka kërkuar rregullim më të rreptë se Anthropic. Kompania ka mbështetur ligje shtetërore për inteligjencën artificiale dhe ka propozuar krijimin e një rregullatori të ngjashëm me Administratën Federale të Aviacionit, FAA, i cili do t’i kontrollonte modelet e avancuara përpara publikimit të tyre.
Por, kur Shtëpia e Bardhë identifikoi gjatë verës një dobësi sigurie, Anthropic kundërshtoi vlerësimin për seriozitetin e saj. Kjo shkaktoi vendosjen e kontrolleve të eksportit, të cilat detyruan çaktivizimin e modeleve Fable dhe Mythos për gati tri javë.
Distilimi
Anthropic ka akuzuar laboratorët kinezë se i kanë trajnuar modelet e tyre më të lira duke përdorur rezultatet e prodhuara nga Claude, përmes atyre që kompania i quan “fushata distilimi në shkallë industriale”.
Kritikët kundërpërgjigjen se distilimi është një praktikë standarde në zhvillimin e inteligjencës artificiale dhe se Anthropic nuk është zëdhënësja më e përshtatshme për këtë çështje, pasi arriti një marrëveshje prej 1,5 miliardë dollarësh për mbylljen e një padie për të drejtat e autorit, lidhur me libra të piratuar.
Ana tjetër: Anthropic iu bashkua më shumë se 1.100 punonjësve të inteligjencës artificiale nga OpenAI, Google DeepMind, Meta dhe kompani të tjera rivale, në një peticion të veçantë të publikuar të martën. Në të, qeverisë amerikane i kërkohet të ndihmojë në zhvillimin e mjeteve që do të mundësonin “ngadalësimin e qëllimshëm” të zhvillimit të inteligjencës artificiale më të avancuar.
Letra tregon se, pavarësisht izolimit të Anthropic-ut, shqetësimi kryesor i kompanisë – se inteligjenca artificiale e avancuar po zhvillohet më shpejt sesa industria ose qeveria mund ta kontrollojnë në mënyrë të sigurt – po ndahet gjithnjë e më shumë edhe nga punonjësit e laboratorëve që garojnë për ndërtimin e saj.
Vlerësimi realist: Pavarësisht gjithë polemikave, Anthropic vazhdon të jetë në një pozitë jashtëzakonisht të fuqishme, ndoshta më të fuqishmen nga të gjitha kompanitë e inteligjencës artificiale në botë.
Modelet e saj vazhdojnë të renditen në krye të shumicës së testeve të pavarura, ndërsa klientët e korporatave vazhdojnë të paguajnë çmime të larta, pavarësisht kritikave për koston dhe kufizimet.
Në maj, kompania arriti një vlerësim prej 965 miliardë dollarësh, duke kaluar OpenAI-n, dhe po përgatitet për një ofertë publike të aksioneve që mund ta vlerësojë edhe më lart.
Për saktësi: Në përgjigje të një kërkese për koment, Anthropic iu referua shkrimit të Amodeit në blog, në të cilin ai mbronte qëndrimin e kompanisë për çështjet kryesore.
Përfundimi: Pikërisht cilësitë që po e çojnë Anthropic-un drejt izolimit – kujdesi, refuzimi për t’u tërhequr dhe këmbëngulja për të pasur të drejtë në vend që të pëlqehet – janë të njëjtat cilësi që e ndihmuan kompaninë të krijonte epërsinë e saj që në fillim./Axios
