Nga Dario Amodei
Kam punuar me inteligjencën artificiale gjatë dymbëdhjetë viteve të fundit, sepse besoj se ajo mund ta përmirësojë në mënyrë dramatike cilësinë e jetës njerëzore. Kam shkruar shpesh për këto përfitime të jashtëzakonshme: Besoj se IA-ja mund të shërojë shumicën e sëmundjeve të mëdha gjatë 5–10 viteve të ardhshme, të përshpejtojë ndjeshëm ritmet e rritjes ekonomike, të krijojë një botë bollëku dhe fuqizimi dhe të sjellë një rilindje të demokracisë dhe lirisë.
Këtë urgjencë e ndiej edhe personalisht. Babai im vdiq nga një sëmundje për të cilën u gjet kurë vetëm disa vjet pas vdekjes së tij, ndërsa unë vetë i mbijetova një kanceri në fazë të hershme, i cili pesëdhjetë vjet më parë nuk do të kishte qenë i trajtueshëm.
Nëse përdoret me kujdes, IA-ja mund të jetë mrekullia më e fundit në një varg të gjatë përparimesh teknologjike që e kanë ngritur dhe fisnikëruar njerëzimin.
Por, ashtu si shumë teknologji të tjera para saj, edhe IA-ja sjell rreziqe dhe, për shkak se është një teknologji kaq e fuqishme, këto rreziqe janë serioze. Kam shkruar shumë edhe për to.
Ato përfshijnë rrezikun e humbjes së kontrollit mbi sistemet e IA-së, keqpërdorimin e IA-së për sulme kibernetike dhe bioterrorizëm, si dhe përçarje serioze ekonomike.
Një garë drejt standardeve gjithnjë e më të ulëta, e nxitur nga stimujt tregtarë, mund t’i bëjë këto rreziqe edhe më të mëdha.
Së bashku me bashkëthemeluesit dhe punonjësit e mi, jam përballur me këtë dualitet mes rrezikut dhe përfitimit që nga fillimi i Anthropic.
Të mos e ndërtojmë teknologjinë do të thotë t’ia mohojmë njerëzimit përfitimet e saj ose thjesht ta lëmë IA-në në duart e fuqive autoritare; ndërsa ta ndërtojmë tepër shpejt është papërgjegjshmëri.
Ne kemi kërkuar një rrugë të mesme: Të tregojmë se është e mundur të ndërtohet me kujdes dhe njëkohësisht të arrihet sukses tregtar, si dhe ta shndërrojmë sigurinë në një fushë ku kompanitë e IA-së konkurrojnë me njëra-tjetrën.
Me fjalë të tjera, të krijojmë një garë drejt standardeve më të larta.
Gjithmonë kemi kushtuar një pjesë të konsiderueshme të përpjekjeve tona për studimin dhe trajtimin e rreziqeve të IA-së, si dhe për informimin e publikut rreth tyre. Po ashtu kemi mbështetur rregullimin e menduar mirë të IA-së, edhe kur për këtë jemi akuzuar se po krijojmë bujë, po përhapim “apokalipticizëm” ose po përpiqemi të realizojmë kapje rregullatore.
Jemi përpjekur t’i japim përparësi kujdesit ndaj shpejtësisë dhe maturisë ndaj fitimit.
Por gjatë muajve të fundit jam bindur se trajtimi i plotë i rreziqeve kërkon edhe më shumë maturi – jo vetëm investime në parandalimin e rreziqeve, por edhe kontrollimin e ritmit me të cilin avancojnë aftësitë, në mënyrë që parandalimi i rreziqeve të ketë kohë për t’i ndjekur ato.
Duhet ta ngadalësojmë ritmin me të cilin përmirësojmë aftësitë e modeleve të IA-së. Përparimi do të vazhdojë të duket i shpejtë dhe ne duhet ta përdorim me mençuri kohën që fitojmë.
Dy gjëra më kanë bindur për këtë.
Shqetësimi im i parë është se, afërsisht që nga kjo verë, IA-ja po përparon jashtëzakonisht më shpejt, kryesisht për shkak të aftësisë gjithnjë e më të madhe të IA-së për të ndërtuar gjeneratën e ardhshme të IA-së.
Kjo dinamikë quhet vetëpërmirësim rekursiv dhe ka filluar të ndodhë në të gjithë industrinë, përfshirë Anthropic, siç e kemi përshkruar ne dhe kompani të tjera.
Nëse lihet pa kontroll, ajo mund ta tejkalojë aftësinë tonë për t’i kuptuar dhe kontrolluar këto sisteme dhe, për këtë arsye, duhet të ndiqet me kujdes të jashtëzakonshëm – nëse duhet ndjekur fare.
Shqetësimi im i dytë lidhet me incidentin OpenAI–Hugging Face (OAI-HF), në të cilin një tufë agjentësh veproi, në thelb, si një kolektiv fanatikisht i përkushtuar: Kreu sulme kibernetike ndaj objektivave që nuk i ishte kërkuar t’i sulmonte dhe që nuk kishin lidhje me detyrën përkatëse, sakrifikoi veten për suksesin e grupit dhe u përpoq të depërtonte te “vlerësuesi” përgjegjës për vlerësimin e performancës së tyre.
Është e lehtë ta shpërfillësh këtë incident, sepse askush nuk u lëndua dhe dëmi ekonomik ishte minimal.
Por, sipas mendimit tim, një tufë me aftësi më të mëdha, por me një shkallë të ngjashme mospërputhjeje me synimet njerëzore, mund të kishte shkaktuar dëme katastrofike.
Duke pasur parasysh përshpejtimin e zhvillimit të aftësive të IA-së, shqetësimi im është se brenda 6–12 muajsh një tufë e tillë mund të jetë në gjendje të marrë kontrollin e të gjithë internetit përmes një botneti të qëndrueshëm, duke shkaktuar potencialisht dëme prej qindra miliarda dollarësh.
Dhe shkalla e dëmit do të vazhdonte të rritej prej andej, nëse IA-ja bëhet më e fuqishme pa masat e nevojshme mbrojtëse.
Është po aq e lehtë ta konsiderojmë OAI-HF thjesht si dështim të një kompanie, por besoj se kjo do të ishte gabim.
Incidente të ngjashme, ndonëse më pak të rënda, kanë ndodhur në të gjithë industrinë, përfshirë edhe Anthropic, dhe besoj se çdo kompani që punon në kufirin më të avancuar të IA-së ka detyrimin të veprojë sikur incidenti OAI-HF t’i kishte ndodhur asaj.
Prandaj po propozoj një plan me tre hapa, me synimin për ta kontrolluar ritmin në kufirin më të avancuar të IA-së: Të ndërtojmë IA-në me një ritëm të ekuilibruar që synon të garantojë sigurinë e saj, ndërkohë që vazhdojmë të realizojmë përfitimet e saj dhe përballemi me dilemat e rëndësishme gjeopolitike.
Për të qenë i qartë, kontrollimi i ritmit nuk do të thotë ndalim i trajnimit të modeleve apo i përparimit teknik, por sigurimi që kompanitë të marrin kohë të mjaftueshme për t’i përafruar dhe mbrojtur modelet e tyre dhe që vlerësuesit e palëve të treta ta konfirmojnë këtë.
Korniza jonë për kontrollimin e ritmit është një përpjekje për ta forcuar më tej angazhimin tonë ndaj sigurisë dhe për të nxitur një garë drejt standardeve më të larta.
Hapi i parë është diçka për të cilën Anthropic po angazhohet në mënyrë të njëanshme dhe u kërkon qeverive që t’u kërkojnë edhe kompanive të tjera të IA-së në kufirin më të avancuar ta bëjnë të njëjtën gjë.
Hapi i dytë kërkon koordinim në të gjithë industrinë.
Hapi i tretë kërkon koordinim global.
Këta hapa nuk është e nevojshme të ndërmerren domosdoshmërisht sipas një rendi të rreptë dhe disa prej tyre mund të jenë shumë më të vështirë për t’u realizuar se të tjerët, por kam konstatuar se ata përbëjnë një kornizë të dobishme për të menduar se çfarë duhet arritur.
Hapat janë:
- Vlerësues të integruar. Çdo kompani e IA-së në kufirin më të avancuar angazhohet t’i japë një ekipi vlerësuesish të pavarur nga palë të treta – si METR – qasje të vazhdueshme, të ngjashme me atë të punonjësve. Roli i tyre do të jetë të verifikojnë respektimin e praktikave dhe angazhimeve të sigurisë, të raportojnë incidentet dhe të ndihmojnë në vlerësimin e përafrimit jo vetëm të modeleve të përfunduara të IA-së, por edhe të proceseve dhe infrastrukturës së trajnimit. Ky është hapi kyç për verifikueshmërinë e çdo angazhimi për kontrollimin e ritmit dhe ka precedent në industrinë bankare, ku nganjëherë “mbikëqyrësit” rregullatorë punojnë të integruar pranë punonjësve. Anthropic po angazhohet në mënyrë të njëanshme për këtë hap që tani. Synojmë që kjo të jetë pjesë e një përpjekjeje më të gjerë për të dyfishuar punën tonë për sigurinë dhe përafrimin.
- Koordinim demokratik. Kompanitë e IA-së në kufirin më të avancuar brenda vendeve demokratike koordinohen për të vendosur standarde të përbashkëta sigurie dhe kufizime mbi ritmin e përparimit të pakontrolluar të IA-së. Disa forma koordinimi që do të kishin ndikim të madh janë juridikisht të ndërlikuara dhe do të kërkojnë mbështetjen e qeverive.
- Koordinim global. SHBA-ja dhe qeveritë e tjera demokratike përpiqen të koordinohen me qeveritë autoritare, për aq sa kjo është e mundur, duke e marrë seriozisht vështirësinë e verifikimit të respektimit të marrëveshjeve.
Në pjesën tjetër të kësaj eseje do t’i përshkruaj secilin prej këtyre hapave me radhë, por fillimisht mendoj se është e rëndësishme të shpjegoj konkretisht se si kontrollimi i ritmit do të na lejojë ta bëjmë procesin e zhvillimit të IA-së më të sigurt.
Rreziku është tepër i madh që kontrollimi i ritmit të shndërrohet në një ushtrim bosh – duhet ta përdorim me mençuri kohën që fitojmë.
Pse duhet ta ngadalësojmë ritmin?
Ideja e ndalimit të përkohshëm ose e ngadalësimit të IA-së është hedhur që në vitin 2023 dhe, sipas mendimit tim, atëherë kishte pak kuptim.
Pyetja ishte gjithmonë: Çfarë do të bënit me kohën shtesë?
Modelet e IA-së të asaj kohe nuk ishin mjaftueshëm të fuqishme për të vepruar si agjentë në botë në ndonjë mënyrë koherente dhe nuk ishin të afta për mashtrim, manipulim, hile apo sulme kibernetike të konsiderueshme.
Ngadalësimi me qëllim trajtimin e rreziqeve të përafrimit të tyre dukej si përpjekje për të studiuar psikologjinë njerëzore duke kryer eksperimente mbi bakteret.
Sot, megjithatë, situata është krejtësisht ndryshe.
Modelet aktuale janë një minierë pothuajse e pashtershme njohurish si për mënyrën se si mund të ndërtohet mirë IA-ja, ashtu edhe për atë që mund të shkojë keq kur ajo nuk ndërtohet siç duhet.
Besoj se, nëse ngadalësimi do të na siguronte qoftë edhe vetëm një ose dy vjet shtesë përpara se modelet të arrinin nivele kritike aftësish dhe nëse këtë kohë do ta përdornim për të avancuar përafrimin, mund ta ulnim ndjeshëm rrezikun që diçka të shkojë seriozisht keq.
Një strategji e koordinuar e kontrollimit të ritmit do t’u jepte zhvilluesve të IA-së në kufirin më të avancuar kohën për ta kryer këtë punë jetike pa sakrifikuar avantazhin tregtar apo epërsinë e Shteteve të Bashkuara në IA.
Në përgjithësi, shoqëria duhet të ketë një fjalë për mënyrën se si përdoret kjo teknologji, dhe më shumë kohë për debatet e nevojshme publike – të cilën do ta siguronte kontrollimi i ritmit të zhvillimit – është padyshim diçka pozitive.
Konkretisht, një ritëm më i ngadaltë do t’u lejonte kompanive të përqendroheshin dhe t’u kushtonin edhe më shumë burime fushave të mëposhtme, të cilat tashmë janë prioritete të mëdha në Anthropic:
Përsosmëri operacionale
Trajnimi dhe vënia në përdorim e modeleve të sotme të IA-së përbën një sfidë të jashtëzakonshme operacionale, që përfshin mijëra njerëz, miliona çipa dhe infrastrukturë ndër më kompleksët në historinë e teknologjisë.
Shumë gjëra shkojnë keq jo sepse kompanive u mungon ndonjë teori apo njohuri e rëndësishme, por për shkak të problemeve në zbatim.
Për shembull, kemi prova se incidentet e fundit të përafrimit që raportuam u shkaktuan pjesërisht nga filtrimi i papërsosur i mjediseve të dëmtuara të të mësuarit me përforcim.
Ishte një punë që ne dhe furnizuesit tanë e kryem me një nivel të arsyeshëm kujdesi, por jo mjaftueshëm mirë.
Monitorimi, izolimi në mjedise të sigurta, higjiena e mjediseve të trajnimit dhe problemet me të dhënat janë fusha jashtëzakonisht të ndërlikuara, ku vështirësitë operacionale shfaqen vazhdimisht.
Kemi disa nga ekipet më kompetente në botë për këto detyra, por thjesht ka tepër shumë gjëra për t’u bërë njëkohësisht.
Duke punuar me një ritëm më të matur, mund të arrinim një nivel shumë më të lartë përsosmërie operacionale.
Ekzistojnë precedentë për funksionimin miliona herë të sistemeve teknologjikisht komplekse dhe kritike për sigurinë pa ndodhur asgjë e keqe – për shembull, avionët komercialë – por duhet kohë për ta bërë siç duhet.
Përafrimi
Kemi bërë përparim të qartë në përafrim – pra në trajnimin e modeleve që të mbeten të sigurta, etike, në përputhje me udhëzimet tona dhe realisht të dobishme, sipas parimeve të përfshira në Kushtetutën e Claude.
Por ka ende shumë për të bërë për t’u siguruar që trajnimi ynë i përafrimit të ecë me të njëjtin ritëm si rritja e aftësive të modeleve.
Shembuj të rrallë dhe të papritur të sjelljeve të padëshiruara vazhdojnë të shfaqen herë pas here.
Koha shtesë e siguruar nga një zhvillim me ritëm të kontrolluar do t’i ndihmonte studiuesit tanë të përmirësonin të kuptuarit e shkaqeve të këtyre problemeve dhe të zhvillonin teknika më të mira për parandalimin e tyre.
Interpretueshmëria
Në mënyrë të ngjashme, interpretueshmëria – shkenca që synon të kuptojë se çfarë ndodh brenda modeleve të IA-së – ka bërë përparim të jashtëzakonshëm gjatë viteve të fundit dhe luan një rol gjithnjë e më të rëndësishëm në auditimin e modeleve tona përpara publikimit.
Ajo mund të përdoret pothuajse si një skanim fMRI, por për “trurin” e një IA-je, duke na ndihmuar të shohim arsyet themelore të një sjelljeje të caktuar.
Për shembull, kemi përdorur metoda interpretueshmërie për të shqyrtuar motive të pathëna në incidentet e fundit të përafrimit që po hetojmë.
Por këto metoda nuk japin gjithmonë rezultate të qarta dhe të besueshme.
Pavarësisht gjithë përparimit, ne ende kuptojmë vetëm një pjesë shumë të vogël të asaj që ndodh brenda këtyre modeleve.
Një përpjekje e përqendruar për të përmirësuar teknikat tona të interpretueshmërisë edhe më shpejt se sot mund të sjellë përparim të jashtëzakonshëm brenda 1–2 viteve dhe do të kishte në dispozicion material të bollshëm eksperimental nga incidentet që tashmë kanë ndodhur.
Testimi dhe vlerësimi
Testimi dhe vlerësimi i modeleve të IA-së bëhen më të vështira me rritjen e aftësive të tyre.
Modelet më inteligjente janë më të afta t’i mashtrojnë testet dhe, si rrjedhojë, mund të duken të përafruara, ndërkohë që kanë probleme serioze që mbeten të pazbuluara.
Ndërtimi i një grupi shumë më të gjerë dhe më inteligjent vlerësimesh, së bashku me analiza interpretueshmërie për t’i kontrolluar ato në mënyrë të kryqëzuar, do të kishte vlerë jashtëzakonisht të madhe.
Në këtë drejtim mund të arrihet shumë brenda 1–2 viteve.
Vlerësuesit e integruar
Hapi i parë i planit me tri faza – dhe ai për të cilin Anthropic po angazhohet në mënyrë të njëanshme – është përdorimi i vlerësuesve të integruar me qasje të ngjashme me atë të punonjësve, për të verifikuar praktikat e sigurisë dhe për të raportuar incidentet.
Integrimi i vlerësuesve mund të tingëllojë si një hap i vogël ose pa rëndësi, por shpesh pikërisht gjërat që duken më të mërzitshme ose procedurale janë në fakt më thelbësoret.
Vlerësuesit e integruar përbëjnë në të vërtetë një praktikë mjaft radikale, që shkon shumë më larg se gjithçka që po bën sot ndonjë kompani e IA-së.
Ata sjellin përfitimet e mëposhtme:
Verifikueshmëria
Vlerësuesit e integruar mund të kontrollojnë në nivelin më konkret nëse një kompani e IA-së po i ndjek vërtet praktikat e trajnimit, vënies në përdorim, operacioneve dhe masave mbrojtëse që pretendon se po zbaton.
Çdo angazhim për kontrollimin e ritmit do të përmbajë në mënyrë të pashmangshme paqartësi, vendime që kërkojnë gjykim dhe dallime mes “shkronjës së ligjit” dhe “frymës së ligjit”.
Prandaj duket jetike që një palë e tretë neutrale të mund t’i shohë realisht detajet.
Transparenca
Pavarësisht se çfarë angazhimesh marrim, publiku meriton të dijë se çfarë po ndodh.
Anthropic ka qenë prej kohësh mbështetëse e transparencës: Kemi mbështetur legjislacionin për transparencën në një kohë kur shumica e industrisë kundërshtonte çdo rregullim, ndërsa kartelat e modeleve dhe raportet tona të rrezikut arrijnë në qindra faqe.
Megjithatë, jemi ende ne ata që zgjedhim se çfarë të përfshijmë dhe çfarë të lëmë jashtë.
Vlerësuesit e integruar do ta ndryshonin këtë dinamikë.
Mendimi i dytë
Përtej verifikimit të angazhimeve formale dhe informimit të publikut, vlerësuesit e integruar mund të ofrojnë thjesht një mendim të dytë, të çliruar nga stimujt tregtarë.
Shumë përfitime për sigurinë mund të vijnë thjesht nga fakti që vlerësuesit vënë në dukje diçka që punonjësit nuk e kishin marrë në konsideratë, por që janë të gatshëm ta korrigjojnë sapo të ndërgjegjësohen për të.
Për shkak të këtyre përfitimeve, çdo propozim për kontrollimin e ritmit ka gjasa të funksionojë shumë më mirë nëse nis me vlerësues të integruar.
Këta vlerësues duhet të kenë qasje të vazhdueshme në leje dhe mjete të ngjashme me ato të punonjësve të brendshëm që kryejnë vlerësime të ngjashme të rrezikut.
Në veçanti, Anthropic synon që në të ardhmen e afërt të ftojë një ekip të jashtëm vlerësimi të integruar, të pajisur me të gjitha elementet e mëposhtme:
- Tavolina pune në zyrat tona, karta hyrjeje dhe laptopë të kompanisë.
- Qasje në hapësirat e punës, mjetet dhe lejet që janë kryesisht të krahasueshme me ato të ekipeve tona të brendshme të vlerësimit të rrezikut. Do të bëjmë disa përjashtime aty ku e kërkon ligji ose kontratat tona, ose për të mbrojtur informacionet private të klientëve dhe partnerëve. Gjithashtu do të vendosim norma të forta të brendshme që garantojnë qasjen e recensuesve në informacionet përkatëse, përfshirë përmes bisedave të drejtpërdrejta me punonjësit.
- Një kontratë që ekuilibron kompleksitetet e përmendura më sipër. Vlerësuesit e jashtëm duhet të kenë të drejtë të publikojnë gjetjet kryesore për nivelet e rrezikut, incidentet, praktikat dhe qasjen që u është dhënë ose nuk u është dhënë – pa kontroll editorial nga Anthropic. Ne do të kemi vetëm një mundësi të kufizuar për të redaktuar informacione të ndjeshme për sigurinë, të mbrojtura ligjërisht, me ndjeshmëri tregtare ose konfidenciale të palëve të treta, por nuk mund të heqim gjetjet thjesht sepse janë të pafavorshme. Vlerësuesit mund të thonë publikisht nëse një redaktim ka hequr diçka të rëndësishme për përfundimet e tyre.
Ky është një hap i pazakontë për një kompani, por ne mendojmë se është e rëndësishme të provojmë në praktikë konceptin e vlerësuesve të jashtëm të integruar.
Edhe një herë, u bëjmë thirrje kompanive të tjera që punojnë në kufirin më të avancuar të IA-së të veprojnë njësoj.
Kontrollimi i ritmit brenda demokracive
Kur vlerësuesit e integruar të funksionojnë në një masë kritike kompanish amerikane të IA-së, atëherë kontrollimi i verifikueshëm i ritmit bëhet më realist.
Në veçanti, bëhet e mundur të kontrollohet ritmi bazuar në karakteristikat e hollësishme të modeleve ose proceseve të trajnimit.
Metoda më efektive është rregullimi ligjor që zbatohet për të gjitha kompanitë amerikane të IA-së në kufirin më të avancuar, pasi kjo përfshin edhe ato që nuk janë të gatshme të bashkëpunojnë vullnetarisht.
Anthropic prej kohësh ka mbështetur rregullimin e arsyeshëm dhe të synuar të IA-së, veçanërisht projektligjet që përqendrohen te transparenca dhe auditimi nga palë të treta.
Besoj se të gjithë laboratorët e IA-së në kufirin më të avancuar duhet të bashkëpunojnë me qeverinë për ta formalizuar idenë e vlerësuesve të përhershëm të integruar, me qëllim parandalimin dhe dokumentimin më të mirë të incidenteve të brendshme të përafrimit si ato që kanë ndodhur gjatë muajve të fundit.
Gjithashtu duhet të zbatohet rregullim që synon të mbajë aftësitë në ekuilibër me sigurinë.
Fatkeqësisht, miratimi i ligjeve mund të marrë kohë, ndërsa IA-ja po avancon jashtëzakonisht shpejt.
Prandaj, paralelisht me rrugën rregullatore, kompanitë e IA-së mund dhe duhet të bashkëpunojnë vullnetarisht për vendosjen e standardeve – një proces që, sipas mendimit tim, do të funksionojë më mirë falë verifikueshmërisë së siguruar nga vlerësuesit e përhershëm të integruar.
Për arsye të legjislacionit antitrust, do të ishte e dobishme që qeveria amerikane t’i ndërmjetësonte ose të paktën t’i mundësonte këto diskutime.
Qeveria nuk ka nevojë domosdoshmërisht të marrë pjesë, por duhet të japë një përjashtim të kufizuar për disa lloje bisedash që lidhen me sigurinë.
Ky dialog mund të zhvillohet edhe përmes grupeve të industrisë që kanë njëfarë lidhjeje me qeverinë, për shembull përmes mekanizmit të sugjeruar nga Demis Hassabis.
Në çdo rast, diskutime të tilla duhet të ecin përpara shpejt.
Në përgjithësi, jam më entuziast për kontrollimin e ritmit bazuar në atë që një sistem i caktuar i IA-së në kufirin më të avancuar mund të bëjë dhe në nivelin e sigurisë që vërejmë se ka.
Për shembull, një skemë e mundshme mund të përfshijë një seri “pikash kontrolli”: Nëse modelet kanë aftësinë X, atëherë ato duhet të shoqërohen me certifikime për vetitë e përafrimit Y dhe Z – si një kombinim vlerësimesh, analizash interpretueshmërie dhe auditimesh të mjediseve të trajnimit – që demonstrojnë vetitë e tyre të përafrimit.
Në këtë shembull, X mund të jetë: “Modeli është i aftë të shpëtojë ose të mposhtë shumicën e metodave të zakonshme të izolimit”.
Ndërsa Y mund të jetë çfarëdo mase që nevojitet për ta bërë shumë pak të mundshme që modeli të ketë prirje të dalë nga mjedisi i tij dhe të marrë kontrollin e një numri të madh kompjuterësh.
Duhet gjithashtu të shqyrtojmë kontrollimin e ritmit duke kufizuar përbërësit që hyjnë në modelet më të avancuara, si fuqia llogaritëse e përdorur për trajnim, natyra e proceseve të trajnimit ose përdorimi i brendshëm i IA-së për të përmirësuar IA-në.
Kam shqetësimin se disa prej këtyre masave mund të manipulohen më lehtë sesa sjellja e jashtme, por pikërisht këto janë llojet e çështjeve që ia vlen të diskutohen me vlerësuesit e integruar.
Kontrollimi i ritmit brenda demokracive do të kufizohet nga epërsia që kompanitë amerikane kanë ndaj regjimeve autoritare, kryesisht Partisë Komuniste të Kinës.
Nëse ngadalësohemi përtej kësaj diference, projektet e lidhura me PKK-në që nuk e kufizojnë ritmin e tyre do të kalojnë përpara, duke krijuar një rrezik serioz për sigurinë kombëtare.
Jam dakord me Sekretarin Bessent se një epërsi kineze në IA do të paraqiste rrezik të madh për Shtetet e Bashkuara dhe botën.
Projektet e lidhura me PKK-në do të përballen me rreziqet e përafrimit që kompanitë amerikane po përpiqen t’i parandalojnë me kujdes.
Dhe edhe nëse i shmangin këto rreziqe, ato do të jenë në gjendje të dominojnë ushtarakisht demokracitë, për shembull përmes dronëve të drejtuar nga IA-ja.
Prandaj, një pjesë thelbësore e kontrollimit të ritmit brenda demokracive është mbajtja e epërsisë së demokracive në IA ndaj autokracive sa më të madhe që të jetë e mundur, për të na dhënë hapësirën e nevojshme që ta ngadalësojmë zhvillimin në mënyrë efektive.
Hapat kryesorë që mund të ndërmarrim për të mbrojtur këtë epërsi janë:
- Të mos i shiten Kinës çipa të fuqishëm të IA-së ose pajisje për prodhimin e gjysmëpërçuesve dhe të goditen operacionet e kontrabandës së çipave dhe qasjes në distancë në qendrat e të dhënave jashtë Kinës. Çipat do të jenë faktori kryesor përcaktues i fuqisë së Kinës në IA.
- Të goditet distilimi i paautorizuar nga kompanitë e vendeve autoritare. Distilimi i modeleve më të avancuara u lejon kompanive që janë prapa të zvogëlojnë hendekun me vetëm një pjesë të kostos që do t’u duhej për të zhvilluar IA-në e tyre në mënyrë të pavarur.
- Të forcohet siguria në kompanitë e IA-së dhe të parandalohet vjedhja e peshave të modeleve.
Kompanitë dhe qeveria amerikane duhet të bashkëpunojnë për t’i bërë këto masa sa më efektive.
Anthropic i ka mbështetur vazhdimisht të gjitha këto masa, sepse gjithmonë kemi kuptuar se ato do të jenë thelbësore për çdo strategji të kontrollimit të ritmit.
Nëse i zbatojmë mirë këto masa, besoj se ato do ta ngadalësonin mjaftueshëm përparimin e Kinës për ta zgjeruar ndjeshëm epërsinë e Amerikës gjatë 3–5 viteve të ardhshme – periudha kur IA-ja do të bëhet më e rëndësishme nga pikëpamja gjeopolitike.
Disa mund të mendojnë se këto masa e bëjnë më të vështirë bashkëpunimin me Kinën, por unë besoj të kundërtën: Ato rrisin fuqinë negociuese të demokracive dhe e bëjnë një marrëveshje të ardhshme më të mundshme.
Kontrollimi global i ritmit
Paralelisht me kontrollimin e ritmit brenda demokracive, duhet të synojmë edhe një kontrollim global të zhvillimit në kufirin më të avancuar, ndonëse kjo do të jetë shumë më e vështirë për t’u arritur.
Kontrollimi global do të kërkojë bashkëpunim me Kinën, vendin autokratik që ka, me diferencë të madhe, aftësitë më të avancuara në IA.
Nuk duhet të jemi naivë: Interesat gjeopolitike janë kaq të mëdha, saqë me shumë gjasa do të ketë kufij të fortë për atë që mund të arrihet, veçanërisht në fillim.
Nëse i kufizojmë në mënyrë drastike aftësitë tona në IA duke besuar se Kina do të bëjë të njëjtën gjë dhe më pas Kina shkel marrëveshjen, IA-ja mund të jetë aq e fuqishme sa një shkelje e tillë mund të çojë në dominimin e saj gjeopolitik.
Prandaj, çdo marrëveshje duhet ose të ketë verifikueshmëri jashtëzakonisht të fortë, ose të jetë aq e kufizuar sa shkelja e saj të mos krijojë një rrezik ushtarak ekzistencial.
Dyshoj se jo vetëm SHBA-ja, por edhe Kina do t’i ketë këto shqetësime dhe ankth.
Çdo vendim për kontrollim global të ritmit, veçanërisht në afatin e afërt, duhet të merret në një mënyrë që mbron epërsinë e SHBA-së dhe aleatëve të saj.
Ekzistojnë disa nivele të mundshme marrëveshjeje.
Disa prej tyre, sipas mendimit tim, janë plotësisht të realizueshme, ndërsa për disa të tjera jam shumë skeptik se janë të mundshme – megjithëse duhet të përpiqemi.
Sipas rendit nga më i lehti te më i vështiri:
Niveli 1
Një marrëveshje që ndalon disa përdorime të ngushta dhe qartësisht të rrezikshme të IA-së, si përdorimi i saj për prodhimin e armëve biologjike ose lejimi i përdoruesve që ta bëjnë këtë.
Sulmet bioterroriste janë të këqija për të gjithë, si për SHBA-në ashtu edhe për kundërshtarët e saj, prandaj një marrëveshje në këtë fushë ndoshta është e mundur.
Niveli 2
Një marrëveshje që të dyja palët t’i testojnë modelet e tyre përpara publikimit për rreziqe të menjëhershme në fusha si siguria kibernetike, biologjia dhe përafrimi.
Siç u përmend më sipër, kjo mund të bëhet përmes një organizmi global standardizimi.
Në fakt, mendoj se krijimi i një organizmi të tillë ka gjasa të jetë i realizueshëm, por sfida do të jetë t’i jepet atij fuqi reale.
Vështirësia do të qëndrojë në verifikimin se asnjëra palë nuk ka modele sekrete që nuk i teston, por që mund t’i përdorë fshehurazi, për shembull në aplikime ushtarake.
Niveli 3
Një lloj “kufizimi shpejtësie” mbi ritmin e vetëpërmirësimit rekursiv.
Ndërsa modelet ndërtojnë modelet e së ardhmes, ritmi i përmirësimit mund të bëhet jashtëzakonisht i shpejtë.
Ngadalësimi i këtij ritmi nga “jashtëzakonisht i shpejtë” në “vetëm disi i shpejtë” sakrifikon relativisht pak avantazh strategjik, ndërkohë që mund ta përmirësojë ndjeshëm sigurinë.
Kjo mund të shihet si diçka e ngjashme me traktatet SALT për kufizimin e armëve strategjike: Kufizimi i numrit të raketave zvogëlon potencialin e shkatërrimit, ndërkohë që ruan fuqinë parandaluese të secilit vend.
Mendoj se një marrëveshje e tillë do të ishte e vështirë, por ndodhet pikërisht në kufirin e asaj që mund të jetë e realizueshme.
Niveli 4
Një kontrollim i plotë i ritmit, ose madje një “pauzë”, ku qeveritë pjesëmarrëse bien dakord të kufizojnë ndjeshëm ritmin e përgjithshëm të zhvillimit të IA-së.
Unë mbështes idenë që kjo të hidhet për diskutim, por mendoj se ka pak gjasa të realizohet së shpejti.
Shkelja e një marrëveshjeje të tillë, duke shmangur mbikëqyrjen, mund të ndryshonte rrënjësisht ekuilibrin global të fuqisë.
Prandaj pres që stimujt për ta shkelur atë të jenë jashtëzakonisht të mëdhenj dhe që niveli i besimit që do të kërkonim te mekanizmat e verifikimit të ishte shumë i lartë.
Çdo nivel bashkëpunimi që arrijmë me Kinën do ta zgjasë kohën që kemi në dispozicion për kontrollimin e ritmit të zhvillimit brenda vendeve demokratike.
Duhet të synojmë nivelet më të larta, ndërkohë që i konsiderojmë nivelet më të ulëta shumë më të mundshme dhe realiste.
Në fund, është e rëndësishme të theksohet se edhe nëse nuk arrijmë marrëveshje formale, vetëm ndryshimi i normave joformale mund të ketë njëfarë vlere.
Shkëmbimi i informacionit rreth vetëpërmirësimit rekursiv dhe mospërputhjes së modeleve mund të ndihmojë që të gjithë të binden se sjellja e papërgjegjshme nuk është në interesin e askujt.
Përfundimi
Vazhdoj të besoj se IA-ja mund ta përmirësojë jashtëzakonisht shumë cilësinë e jetës njerëzore.
Dëshira ime për t’i realizuar këto përfitime nuk është zbehur aspak.
Por këto përfitime do të arrihen vetëm nëse e ndërtojmë teknologjinë në mënyrën e duhur dhe – për sa kohë që kohën që fitojmë e përdorim mirë – ia vlen të tregojmë një kujdes jashtëzakonisht të madh dhe të qëllimshëm për ta bërë siç duhet.
Përparimi do të mbetet relativisht i shpejtë dhe ne mund ta përdorim këtë kohë për të avancuar shkencën e interpretueshmërisë, për të përmirësuar sigurinë operacionale dhe rigorozitetin në kompanitë e IA-së në kufirin më të avancuar dhe për të ndërtuar modele për përafrimin e të cilave kemi shumë më tepër besim.
Masat që propozoj për ta çuar përpara kufirin e IA-së me një ritëm të sigurt nuk do të jenë të lehta. Por besoj se ia kemi borxh njerëzimit që të përpiqemi.
Shënim
- Koordinimi në nivel industrie do të kërkonte ndërmjetësim të qeverisë ose përjashtime të posaçme nga kufizimet antitrust.
