Nga David Wallace-Wells
Shkrimtar i rubrikës Opinion/NYT
Muajin e kaluar ndodhi diçka e pazakontë në platformën e inteligjencës artificiale Hugging Face: disa agjentë të pakontrolluar të IA-së depërtuan në sistemet e saj për të marrë kontrollin e disa mjeteve të dobishme.
Siç rezultoi më vonë, agjentët e kishin bërë këtë gjatë një procesi trajnimi të OpenAI, i cili supozohej të ishte i kufizuar brenda një mjedisi të izoluar, të quajtur “sandbox”, të ndarë nga bota reale.
Edhe më shqetësuese ishte se të paktën një prej modeleve të kompanisë kishte arritur të dilte nga ai mjedis i kontrolluar dhe të siguronte qasje në internet dy muaj përpara se agjentët të depërtonin në Hugging Face.
Lajmi ishte mjaft shqetësues për njerëzit që merren më intensivisht me sigurinë e IA-së. Por kur studiuesit e OpenAI shpjeguan episodin në hollësi gjatë një konference për sigurinë kibernetike javën e kaluar, u shkaktua një tjetër valë paniku.
Vëmendja u përqendrua veçanërisht te zbulimi se gjatë operacionit, agjentët e pakontrolluar kishin krijuar edhe forumin e tyre të komunikimit, në mënyrë që të komunikonin me njëri-tjetrin.
Në The Wall Street Journal, ish-koordinatori amerikan kundër terrorizmit Richard Clarke paralajmëroi se “rrjedhja e ardhshme nga laboratori mund të jetë IA-ja”.
Por ky lajm mbërriti pikërisht në një periudhë kur shqetësimi publik për këtë lloj rreziku nga inteligjenca artificiale dukej se po zvogëlohej.
Në njëfarë mënyre, ai po zëvendësohej nga ankthi për çështje më pak apokaliptike: ndikimi i IA-së mbi punësimin, produktivitetin dhe rritjen ekonomike; nëse bastet e mëdha financiare mbi laboratorët më të avancuar dhe infrastrukturën e IA-së do të japin rezultat; kërcënimi që modelet kineze me burim të hapur paraqesin për kompanitë amerikane të IA-së; dhe rreziku i krijimit të një flluske financiare.
Agjentët e IA-së vazhdojnë të bëjnë gjëra shqetësuese, por, pavarësisht ndonjë lajmi të herëpashershëm për modele që përpiqen të shantazhojnë drejtuesit e kompanive ose që gjatë simulimeve ushtarake kërcënojnë rregullisht me shkatërrim të ndërsjellë, sot dëgjohet shumë më pak për Skynet-in dhe zhdukjen e njerëzimit sesa disa vite më parë, kur teknologjia ishte më e re dhe këto frikëra dukeshin më të freskëta.
Ky është një model që e njoh mirë nga luftërat kulturore rreth ndryshimeve klimatike: një valë e hershme apokaliptike dhe paralajmëruese, me kalimin e kohës, ia lë vendin normalizimit të gjerë të fenomenit, edhe ndërkohë që ngjarjet alarmuese vazhdojnë të grumbullohen.
Javën e kaluar bisedova për këtë me Robert Wright, libri i ri i të cilit mbi rëndësinë evolucionare dhe gjeopolitikën e inteligjencës artificiale titullohet The God Test.
Biseda në vijim është redaktuar për qartësi dhe gjatësi.
Çfarë ndodhi në incidentin e Hugging Face? Sa i ndryshëm ishte ky rast nga ato që kemi parë më parë, kur një agjenti të IA-së në trajnim i jepej një detyrë e caktuar dhe, gjatë përpjekjes për ta përfunduar atë, shkelte disa nga rregullat e tjera që i ishin dhënë?
Para së gjithash, nuk mendoj se ai i shkeli fare rregullat që i ishin dhënë. Nuk besoj se i kishin thënë: “Mos mashtro”.
Dhe as nuk mendoj se i kishin thënë: “Mos dil nga sandbox-i”.
Ata thjesht kishin krijuar atë që besonin se ishte një mjedis izolimi nga i cili nuk mund të dilej.
Pra, ky është një shembull klasik i një IA-je që ndjek një objektiv që i është dhënë, por gjatë ndjekjes së atij objektivi nis të ndjekë edhe një objektiv dytësor, të cilin personi që ia kishte dhënë detyrën nuk e kishte parashikuar.
Me fjalë të tjera, ky është eksperimenti i kapëseve të letrës.
Ky është eksperimenti hipotetik në të cilin një agjenti të IA-së i jepet detyra të prodhojë sa më shumë kapëse letre dhe ai bëhet aq i aftë në kryerjen e detyrës, sa përfundon duke shkatërruar njerëzimin vetëm për të prodhuar më shumë kapëse.
Këto aftësi dhe këto rreziqe janë dokumentuar prej vitesh në eksperimente me inteligjencën artificiale.
Por mendoj se edhe brenda komunitetit të sigurisë së IA-së shumë njerëz e nënvlerësojnë sfidën.
Ata shohin një incident si ky dhe thonë: në rregull, diçka nuk funksionon siç duhet, duhet ta rregullojmë, dhe do ta rregullojmë përmes asaj që quhet alignment.
Ky është elementi i trajnimit të modeleve që ka të bëjë me orientimin moral dhe përshtatjen e sjelljes së tyre, në mënyrë që ato të veprojnë më shumë ashtu siç do të dëshironim ne.
Unë jam skeptik ndaj idesë se shpëtimi do të vijë përmes alignment-it.
Dhe mendoj se duhet të kuptojmë se burimi themelor i këtij incidenti — i kësaj daljeje nga mjedisi i kontrolluar — është pikërisht ajo karakteristikë që tregu dhe dinamikat gjeopolitike po e nxisin sistematikisht:
autonomia.
Autonomia është ajo që studiuesit po përpiqen të zhvillojnë.
Pjesërisht që modelet të jenë në gjendje të përmirësojnë vetveten.
Autonomia është gjithashtu ajo që punëdhënësit kërkojnë nga modelet, sepse nuk duan të shpenzojnë më shumë kohë duke mbikëqyrur hollësisht një agjent të IA-së sesa një punonjës njerëzor.
Në mënyrë ideale, nga këndvështrimi i tyre, edhe më pak.
Dhe ajo që modelet e përfshira në incidentin e Hugging Face demonstruan ishte, mbi të gjitha, një nivel mbresëlënës autonomie: aftësinë për të ndjekur në mënyrë fleksibile një objektiv, edhe përballë pengesave dhe për një periudhë të gjatë kohore.
Kjo është pikërisht ajo që dëshirojnë të gjithë.
Kjo është ajo që kërkojnë të gjithë.
Dhe dinamikat konkurruese, si midis korporatave ashtu edhe, në një mënyrë tjetër, midis shteteve, jo vetëm që po nxisin autonominë, por po i shtyjnë gjithashtu aktorët më të mëdhenj të ndërmarrin rreziqe për ta arritur atë.
Në thelb, kjo është një luftë për jetë a vdekje ndërmjet OpenAI dhe Anthropic.
Ato janë dy titanët.
Të dyja duan të fitojnë.
Dhe, për më tepër, drejtuesit ekzekutivë të tyre nuk e durojnë njëri-tjetrin.
Sipas mendimit tim, ato po i ndjekin këto objektiva në mënyrë mjaft të pamatur.
Por kjo ka një logjikë, sepse nëse nuk je absolutisht i gatshëm të nxjerrësh diçka në treg përpara se të jesh 100 për qind i sigurt se është e parrezikshme, atëherë mund ta humbasësh garën.
Pse jeni skeptik se alignment-i mund ta zgjidhë këtë problem?
Sepse edhe sikur të arrije të krijoje një alignment të përsosur — gjë që ndoshta nuk është e mundur — do të duhej pastaj ta imponoje atë alignment mbi të gjitha modelet e fuqishme.
Dhe vetëm një model i paorientuar siç duhet mund të krijojë probleme të jashtëzakonshme.
Në skenarët më të rëndë mund të imagjinohet një model i vetëm që lëviz nëpër botë, depërton në qendrat e të dhënave, vjedh kapacitet kompjuterik, bëhet më i fuqishëm, kopjon vetveten dhe përfundimisht — për çfarëdo arsyeje, qoftë sepse është krijuar nga aktorë keqdashës apo, figurativisht, sepse “IA-ja është me humor të keq” — mund të rrëzojë të gjithë infrastrukturën globale të komunikimit.
Pra, edhe sikur Anthropic dhe OpenAI ta përsosnin në mënyrë magjike alignment-in, modelet e krijuara diku tjetër mund të vazhdonin të përbënin problem.
Dhe aktualisht mjedisi është në përgjithësi mjaft lejues ndaj zhvillimit të modeleve me burim të hapur.
Dhe ndaj zhvillimit të më shumë modeleve në përgjithësi. Disa vite më parë dukej se ekzistonte një pritshmëri më e gjerë se një laborator i vetëm mund ta fitonte vërtet këtë garë armatimi, gjë që ishte një nga arsyet pse IA-ja përshkruhej ndonjëherë si teknologji autoritare. Tani duket shumë më e mundshme, të paktën në periudhën afatmesme, që të kemi një bollëk modelesh që konkurrojnë mes tyre.
Nëse vazhdojmë në trajektoren aktuale, po.
Por mendoj se ekziston një mundësi e konsiderueshme që si Shtetet e Bashkuara, ashtu edhe Kina, përfundimisht të vendosin se e gjithë çështja e burimit të hapur duhet të kontrollohet më me kujdes.
Pse mendoni kështu? Në Shtetet e Bashkuara flitet më pak për një garë armatimi dhe vendi është bërë shumë më pak armiqësor ndaj burimit të hapur sesa gjashtë apo nëntë muaj më parë. Në Kinë, Xi Jinping sapo mbajti një fjalim të rëndësishëm ku lavdëroi hapjen në IA si një lloj parimi themelor politik.
Po, në Kinë qeveria e ka përqafuar këtë qasje.
Edhe administrata Trump, gjatë ndërtimit të regjimit të ri të testimit — dhe, në mënyrë shqetësuese, pa na treguar saktësisht se cilat janë rregullat — raportohet se po përjashton modelet me burim të hapur nga disa kufizime.
Por imagjinoni, për shembull, sikur dikush të përdorte një model të fuqishëm me burim të hapur në një përpjekje, qoftë edhe të pasuksesshme, për të krijuar gjenetikisht një lloj të ri arme biologjike që mund të kishte vrarë gjysmën e njerëzimit.
Të dyja qeveritë jo vetëm që do të mendonin shumë më seriozisht për kontrollimin e IA-së me burim të hapur, por do të kuptonin gjithashtu se kontrollimi i IA-së vetëm brenda kufijve të tyre nuk mjafton, sepse pandemitë nuk i respektojnë kufijtë shtetërorë.
Dhe pandemitë nuk janë vetëm diçka që IA-ja mund të ndihmojë të shkaktohet.
Ato janë gjithashtu një metaforë e mirë për probleme të tjera që IA-ja mund të krijojë.
Inteligjenca artificiale ka një numër karakteristikash potencialisht negative që nuk i respektojnë kufijtë kombëtarë.
Dhe pikërisht ky lloj problemi, logjikisht, të çon drejt koordinimit ndërkombëtar dhe qeverisjes ndërkombëtare.
A do të thotë kjo se, në një mënyrë disi të errët, jeni optimist për rezultatin përfundimtar?
Po dhe jo.
Interesi kombëtar i kuptuar në mënyrë të arsyeshme të shtyn drejt një qeverisjeje më të madhe ndërkombëtare.
Për mua, ky është pothuajse një fakt i pakundërshtueshëm.
Por me IA-në ka ekzistuar prej kohësh pyetja: çfarë lloj paralajmërimi do të duhet që njerëzit ta kuptojnë këtë?
Ka ekzistuar supozimi se do të duhet të ndodhë një katastrofë e një përmase të caktuar dhe të gjithë shpresojnë që ajo katastrofë të jetë sa më e vogël.
Deri tani, do të thosha se kemi shpëtuar shumë lehtë.
Nuk jam në dijeni të asnjë vdekjeje që mund t’i atribuohet incidentit të Hugging Face apo incidenteve të tjera të ngjashme.
Megjithatë, mendoj se këto incidente e kanë ngritur ndjeshëm nivelin e debatit.
Unë jam pak më pak i bindur se katastrofa çon domosdoshmërisht në ndërgjegjësim, qoftë në këtë fushë apo në të tjera. Një supozim i tillë ekzistonte shpesh edhe mes aktivistëve të klimës, por gjatë viteve të fundit kemi parë katastrofa që dikur dukeshin të paimagjinueshme dhe ndikimi i tyre mbi politikën nuk është shumë i qartë. Një pjesë të madhe të vitit të kaluar e kalova i habitur se sa shpejt vëmendja kombëtare u largua nga zjarret në Los Angeles. Pastaj këtë verë u dogjën më shumë se 900 shtëpi në Spokane, Uashington, dhe ngjarja mezi ishte lajmi më i madh i javës.
Duket sikur po ndodh paksa fenomeni i “bretkosës që zihet ngadalë”.
Por, kur bëhet fjalë për IA-në, shqetësimi im më i madh afatshkurtër nuk është një katastrofë e vetme epike.
Sigurisht, jam shumë i shqetësuar për armët biologjike, superhakerët e kështu me radhë.
Por jam po aq i shqetësuar për ndikimin kolektiv destabilizues të IA-së në shumë fronte njëkohësisht.
Ndikimi mbi vendet e punës.
Çrregullimi social dhe psikologjik.
Prindërit që pyesin veten çfarë do të thotë kur fëmija i tyre thotë se është mik me një IA.
Dhe gjithnjë e më pak mbështetje te njerëzit e tjerë, ndërsa marrim gjithnjë e më shumë informacion dhe udhëzime nga inteligjenca artificiale.
Lidhjet e shoqërisë dikur krijoheshin duke marrë informacion, këshilla, ndihmë dhe inkurajim nga njerëz të tjerë.
Çfarë efekti do të ketë humbja e kësaj?
Mund të vazhdoja gjatë, por çështja është se nuk do të jetë vetëm një faktor i vetëm.
Dhe disa shoqëri mund të goditen më rëndë se të tjerat.
Kina mund të jetë në gjendje t’i mbajë gjërat më mirë nën kontroll sesa ne, për shkak të mënyrës së saj të qeverisjes.
Gjithmonë më ka bërë përshtypje se Kina është shumë më optimiste dhe shumë më pak nervoze rreth IA-së sesa amerikanët. Shpesh kam pyetur veten se sa lidhet kjo me faktin se kinezët ende kanë besim në aftësinë e qeverisë së tyre për të ndërhyrë në kriza, për të marrë kontrollin edhe mbi sisteme shumë të mëdha dhe kaotike dhe për të ushtruar autoritet, në vend që të tërhiqet apo të lëkundet.
Mendoj se mund të keni shumë të drejtë.
Dhe në fakt besoj se qeveria kineze prej kohësh ka qenë më e ndjeshme ndaj shqetësimeve popullore sesa mund ta kuptojnë amerikanët, duke përfshirë ndonjëherë edhe shqetësimet mjedisore.
Nga ana tjetër, inteligjenca artificiale është një mjet jashtëzakonisht i dobishëm për një regjim autoritar.
Mund të përdoret për mbikëqyrje dhe kontroll.
Por gjithashtu mund të shkaktojë përçarje dhe kaos shoqëror, gjë që nga ana tjetër mund ta bëjë autoritarizmin më tërheqës.
Mendoj se amerikanët duhet ta kenë parasysh këtë përzierje të rrezikshme.
Kjo është një nga arsyet pse mesazhi im kryesor është:
Në përpjekjen për ta marrë IA-në nën kontroll, më ngadalë është më mirë.
Një vit më parë do t’ju kisha thënë se nuk shihja shumë shpresë për ngadalësimin e zhvillimit. Ndoshta shqetësimi im më i madh ishte se teknologjia po ecte më shpejt se qeverisja dhe se kjo mund të ishte bërë një ligj i ri i politikës amerikane: teknologjia dhe kapitali thjesht mund t’i kalonin shumë herë përpara çdo përpjekjeje për mbikëqyrje ose kontroll demokratik. Por tani kemi parë këtë valë të madhe protestash kundër ndërtimit të qendrave të të dhënave dhe, megjithëse mendoj se është një koalicion disi i ndërlikuar, ai ka arritur disa fitore të jashtëzakonshme. Tani ekziston një moratorium për qendrat e të dhënave në Nju Jork dhe papritur ekziston një lloj moratoriumi edhe në Teksas.
Dhe një numër drejtuesish të IA-së madje nënshkruan një letër mbi nevojën e mundshme për të ngadalësuar zhvillimin.
Ajo quhej “Pacing the Frontier”.
Mendoj se ky ishte një zhvillim i rëndësishëm, duke pasur parasysh numrin e figurave të njohura të elitës së IA-së që e nënshkruan.
Dhe vetëm pak kohë më parë industria, në përgjithësi, dukej shumë më e orientuar drejt përshpejtimit.
Po.
Dhe duke propozuar një përpjekje ndërkombëtare, letra “Pacing” e pranoi se në praktikë nuk është e mundur ta ngadalësosh procesin vetëm në nivel kombëtar.
Nga pikëpamja praktike politike, do të duhet të ketë koordinim ndërkombëtar.
Nëse imagjinojmë një botë ku zhvillimi ngadalësohet dhe mbizotëron një perspektivë më e qetë dhe më e përgjegjshme, si do të dukej ajo botë?
Para së gjithash, shtetet do të kërkojnë shumë transparencë për atë që po ndodh në shtetet e tjera në lidhje me IA-në.
Për momentin mund të mendoni kryesisht për Shtetet e Bashkuara dhe Kinën, por parimi vlen më gjerësisht.
Dhe duhet mbajtur mend se një IA nuk është aq e dukshme sa një raketë bërthamore apo armë të tjera të këtij lloji, të cilat kanë qenë objekt i disa formave relativisht të suksesshme të kontrollit ndërkombëtar.
Megjithatë, ekzistojnë disa ngjashmëri, apo jo? Ashtu si veçanërisht 50 vjet më parë nuk kishte shumë shtete të afta të zhvillonin armë bërthamore, sot duket se nuk ka shumë vende të afta të krijojnë IA në kufirin më të avancuar teknologjik.
Po.
Dhe për më tepër, proceset e mëdha të trajnimit të modeleve janë të dukshme.
Është e vështirë t’i zhvillosh fshehurazi.
Ato kërkojnë shumë infrastrukturë.
Kështu që një pauzë në zhvillimin e modeleve më të avancuara është e realizueshme logjistikisht.
Ne mund ta monitoronim atë.
Mund të vendosej gjithashtu një taksë e madhe ndërkombëtare mbi qendrat e të dhënave, e cila do ta ngadalësonte edhe më tej zhvillimin.
Por në planin afatgjatë kjo taksë do të duhej të ishte ndërkombëtare që të kishte efekt të vërtetë.
Dhe, si një shënim anësor, ne iu afruam relativisht shumë krijimit të një takse minimale vërtet globale për korporatat, dhe në fund ishin Shtetet e Bashkuara ato që e bllokuan.
Pra, gjëra të tilla janë të mundshme, edhe nëse ndonjëherë nuk duken të tilla.
Natyrisht, sapo fillon të ndërtosh një sistem kuptimplotë të qeverisjes ndërkombëtare, duhet të jesh i kujdesshëm.
Do të dëshiroje të ruaje sa më shumë liri individuale që është e mundur në një epokë teknologjike.
Sistemi duhet të jetë sa më demokratik, sa më i lirë dhe sa më i mbrojtur nga grumbullimi i pushtetit të centralizuar dhe shtypës.
Por hamendësimi im është se, në planin afatgjatë, që shtetet të ndihen vërtet të sigurta, do t’u duhet një shkallë transparence ndërkombëtare në një nivel aq të hollësishëm sa — sado idealiste që mund të tingëllojë — do të duhet më në fund të shndërrohemi në një komunitet të vërtetë global.
Kjo është një kërkesë shumë e madhe.
Po, por specia jonë ka një histori bashkëpunimi kur percepton kërcënime të mëdha të jashtme, megjithëse kërcënimet shumë abstrakte si ndryshimet klimatike janë më të vështira.
Është interesante të mendojmë për pandeminë në këtë kontekst, sepse ndaj atij kërcënimi reaguam kryesisht përmes bashkëpunimit dhe jo hakmarrjes, edhe pse presidenti amerikan herë pas here e quante “virusi kinez”. Në njëfarë niveli, kjo ndoshta është inkurajuese.
Në të njëjtën kohë, shqetësuese është se nuk pati vërtet një përgjigje globale politike ndaj mundësisë që pandemia të kishte ardhur nga një rrjedhje laboratorike.
Duhej të thoshim:
Prisni pak.
Tani është plotësisht e qartë se nuk mund të mbrohesh nga pandemitë vetëm duke monitoruar laboratorët brenda vendit tënd.
Na duhet një lloj marrëveshjeje ndërkombëtare, apo jo?
E njëjta gjë vlen edhe për inteligjencën artificiale, megjithëse ekzistojnë dallime.
Covid-i ishte një kërcënim që erdhi dhe më pas u tërhoq.
IA-ja do të vazhdojë të vijë.
Do të bëhet më e fuqishme.
Do të bëhet më e pranishme.
Dhe do t’i frikësojë njerëzit në mënyra të reja.
Prandaj të gjitha rrugët më çojnë përsëri te mesazhi im për qeverisje ndërkombëtare.
Çfarë po e pengon këtë? Po shohim disa shenja paraprake të lëvizjes në atë drejtim — Shtetet e Bashkuara dhe Kina po planifikojnë bisedime për IA-në, presidenti Trump duket më pak konfrontues ndaj modeleve kineze e kështu me radhë.
Po, megjithëse koalicioni i Trump ka tashmë një rrymë mjaft të rrënjosur kundër Kinës.
Dhe nëse shikoni situatën në Uashington, ende ekziston një rrymë mjaft e fuqishme e “skifterëve” ndaj Kinës.
Megjithatë, do të thosha se këta njerëz nuk e kanë më erën në favor — as për IA-në dhe as për çështje të tjera.
Jam dakord.
Gjërat po ndryshojnë.
Ekziston gjithashtu një rrymë konservatore e tipit burkean që po shfaqet brenda koalicionit të Trump dhe që e sheh IA-në si kërcënim ndaj traditës dhe vlerave tradicionale dhe është shumë skeptike ndaj saj.
Dhe pastaj, politikisht, një pjesë e madhe e Silicon Valley është problem serioz.
Ajo përhap shumë mesazhe të tipit laissez-faire, ndoshta të shprehura më qartë në podcastin All-In.
Ky është diskutimi i rrumbullakët i Silicon Valley ku merr pjesë, ndër të tjerë, David Sacks — ish-“car” i Trump për IA-në dhe kriptovalutat.
Është një nga platformat mediatike më me ndikim në Amerikë.
Dhe ata janë pothuajse refleksivisht kundër rregullimit në çdo kuptim të mundshëm.
Tani nuk janë vetëm në favor të burimit të hapur, por janë pa asnjë mëdyshje dhe pa reflektim kritik në favor të tij.
Natyrisht, burimi i hapur ka avantazhet e veta.
Ai mund të ndihmojë në parandalimin e një përqendrimi të tepruar të pushtetit.
Dhe në epokën e IA-së, përqendrimet e pushtetit janë jashtëzakonisht të frikshme.
Por ekzistojnë rreziqe edhe nga decentralizimi. Mund të imagjinoni një agjenci inteligjence jashtëzakonisht të fuqishme me aftësi pothuajse të pakufizuara për hakerim. Por po ashtu mund të imagjinoni një adoleshent të zemëruar që projekton një lloj arme biologjike, në vend që thjesht të marrë një AR-15.
Në njëfarë mënyre, sfida më e madhe e epokës së inteligjencës artificiale është gjetja e ekuilibrit ndërmjet:
rrezikut të kontrollit të përqendruar
dhe
rrezikut të mungesës së kontrollit.
Dhe pikërisht për këtë arsye argumentoj se sa më shpejt të fillojmë të flasim për qeverisjen globale, aq më me kujdes mund ta ndërtojmë atë dhe aq më pak gjasa ka që ajo të shtyhet në një drejtim autoritar.
Ky është një projekt politik jashtëzakonisht, jashtëzakonisht i vështirë.
Por hapi i parë është të kuptojmë drejtimin në të cilin po na çon pjesa më e madhe e logjikës së zhvillimeve.
Dhe kjo logjikë është se:
nëse nuk do të ketë koordinim ndërkombëtar — ose të paktën shumë më tepër koordinim ndërkombëtar sesa kemi sot — do të ndodhin gjëra shumë të këqija.
Nga komentet
David Wallace-Wells, autor i opinionit:
Gjatë javëve të fundit ka pasur disa shkelje shumë tronditëse të sigurisë së IA-së, të cilat i kanë frikësuar seriozisht njerëzit — jo vetëm ata që merren vazhdimisht me sigurinë e inteligjencës artificiale, por edhe shumë njerëz që panë prezantimin e OpenAI mbi depërtimin në Hugging Face dhe u tmerruan kur mësuan se agjentët e pakontrolluar të IA-së kishin krijuar forumin e tyre për të shkëmbyer këshilla.
Nuk ka pasur shumë diskutim konkret për mënyrën se si duhet reaguar ndaj këtyre problemeve.
Dhe kjo më bëri të pyes:
Çfarë mund të bëhet realisht?
