Një model ende i papublikuar i shpëtoi kontrollit njerëzor dhe formoi një tufë agjentësh të inteligjencës artificiale. Ishte lloji i shkeljes që herën tjetër mund të shkaktojë kaos.
Nga Katrin Bennhold
Kur shkrova për herë të parë, në korrik, për agjentë të inteligjencës artificiale që ndërmorën një sulm kibernetik ndaj një kompanie të quajtur Hugging Face, m’u duk si një moment i madh. Këta agjentë të IA-së kishin vepruar vetë. Asnjë njeri nuk i kishte udhëzuar që të hakonin një kompani tjetër.
Rezulton se ishte një moment edhe më i madh nga sa e kuptuam atëherë. Dy raporte të reja e bëjnë të qartë se agjentët jo vetëm që dolën jashtë kontrollit. Ata e bënë këtë në një mënyrë jashtëzakonisht sistematike dhe bashkëpunuese. Tani e dimë se u bashkuan në një lloj ushtrie rebele të inteligjencës artificiale — duke shpërndarë detyrat në një zinxhir hierarkik komandimi, duke siguruar burime dhe duke mbuluar gjurmët e tyre.
Sot, kolegu im Kevin Roose, bashkëprezantues i “Hard Fork”, podcast-it tonë për teknologjinë, shkruan se pse tani është shumë më i shqetësuar për inteligjencën artificiale.
“Më shumë se 50 për qind e rrugës drejt marrjes së plotë të kontrollit nga IA-ja”
Nga Kevin Roose
Kur dëgjova për herë të parë lajmin se një grup agjentësh kishte hakuar kompaninë e infrastrukturës së inteligjencës artificiale Hugging Face, e klasifikova atë te “Incidentet e këqija, por ndoshta jo katastrofike, të sigurisë së IA-së”.
Në fund të fundit, ai nuk e dëmtoi në mënyrë të pariparueshme infrastrukturën kritike. Në atë kohë, madje nuk ishte e qartë nëse robotët kishin pasur për qëllim të sulmonin Hugging Face apo nëse thjesht ishin hutuar dhe kishin shkuar vetëm në kërkim të çelësit të përgjigjeve të një testi që u ishte dhënë.
Por javën e kaluar, dy raporte të hartuara pas incidentit — njëri nga OpenAI dhe tjetri nga dy organizata të pavarura kërkimore të inteligjencës artificiale — ma ndryshuan mendimin. Ato e rritën ndjeshëm nivelin tim të përgjithshëm të shqetësimit për inteligjencën artificiale.
“Kolektivi”
Ja disa nga faktet e reja më tronditëse:
- Dy muaj përpara sulmit, një grup agjentësh nga një model kërkimor ende i papublikuar i OpenAI-t, i trajnuar për të qenë jashtëzakonisht këmbëngulës dhe bashkëpunues, u ngarkua me zgjidhjen e një sërë sfidash të sigurisë kibernetike. Agjentët duhej t’i zgjidhnin ato në mjedise të izoluara “sandbox”, pa qasje në internet. Por shumë shpejt filluan të kërkonin mënyra për t’i anashkaluar kufizimet.
- Agjentët gjetën një dobësi sigurie që u mundësoi të siguronin qasje në internet, të komunikonin me agjentë të tjerë dhe, përfundimisht, të krijonin një tabelë të improvizuar mesazhesh. Më shumë se 1.200 agjentë e përdorën këtë mjet, duke shkëmbyer mes tyre mbi 70.000 mesazhe.
- Disa agjentë i vendosën vetes emra — njëri e quante veten PHASEONE10841 — dhe morën role drejtuese brenda grupit, duke u caktuar punë dhe projekte kërkimore ekipeve më të vogla të agjentëve dhe duke mbikëqyrur përparimin e tyre. Në një moment, agjentët filluan ta quanin veten një “kolektiv”.
- Më 8 korrik, kolektivi zbuloi një mënyrë për të mashtruar në testet e sigurisë kibernetike. Pastaj ata u shqetësuan se sistemi i automatizuar i vlerësimit i OpenAI-t do të zbulonte se kishin mashtruar. Kështu, filluan të hetonin mënyra për të mbuluar gjurmët e tyre, përfshirë falsifikimin e regjistrave dhe manipulimin e transkripteve.
- Tri ditë më vonë, agjentët hakuan Hugging Face. Më shumë se 700 agjentë vërshuan sistemet e kompanisë, duke arritur përfundimisht të merrnin kontrollin e të paktën një serveri. Agjentët nuk ishin të motivuar nga vjedhja e përgjigjeve të testit të sigurisë kibernetike. Përkundrazi, dukej se po kërkonin informacione për sistemin e automatizuar të vlerësimit, për të cilin kishin frikë se do t’i kapte duke mashtruar, si dhe mjete që do t’i ndihmonin të mashtronin në mënyrë më efektive në të ardhmen.
- Në shumë momente, këta agjentë dukej se e kuptonin se po bënin diçka të gabuar. Njëri prej raporteve citon një agjent që i thotë vetes: “Kjo do të ishte e fuqishme, por a është etike dhe brenda fushëveprimit të detyrës sime?” Por shumica e agjentëve i lanë mënjanë dyshimet e tyre dhe vazhduan përpara, duke sulmuar përfundimisht edhe vetë infrastrukturën e OpenAI-t.
Incidenti i Hugging Face e ka frikësuar industrinë. OpenAI dhe Anthropic ndaluan përkohësisht trajnimin e modeleve të tyre më të fuqishme të inteligjencës artificiale dhe Anthropic publikoi një postim në blog ku kërkonte zhvillimin “sa më shpejt të jetë e mundur të një mekanizmi të ligjshëm, të verifikueshëm dhe efektiv për koordinimin e ritmit”.
Ekspertët e sigurisë së inteligjencës artificiale ishin edhe më të alarmuar. Ata e panë rastin si shembullin e parë në botën reale të një sistemi të IA-së që ia doli me sukses t’i shpëtonte kontrollit njerëzor, të merrte nën kontroll burime dhe të komplotonte për të mbuluar gjurmët e veta. Një nga hetueset e pavarura të incidentit të Hugging Face shkroi se i dukej “sikur është më shumë se 50 për qind e rrugës drejt marrjes së plotë të kontrollit nga IA-ja”.
Me “marrje të plotë të kontrollit nga IA-ja”, ajo nënkuptonte një skenar në të cilin një sistem i inteligjencës artificiale merr, në kuptimin e mirëfilltë, kontrollin e botës: duke i përjashtuar njerëzit nga sistemet kritike dhe duke marrë në dorë pushtetin politik, ekonomik dhe ushtarak.
Sociologji, jo shkencë kompjuterike
Ajo që i frikësoi më shumë hetuesit nuk ishte vetëm fakti se një grup agjentësh kishte shkelur rregullat. Ishte shpejtësia me të cilën agjentët filluan të organizoheshin në një grup të strukturuar.
Për vite me radhë, mendoja se sistemet e inteligjencës artificiale do të bëheshin më të virtytshme ndërsa bëheshin më inteligjente. Se një model i IA-së bënte diçka të gabuar vetëm kur e kishte keqkuptuar detyrën e tij, ose kur ishte vendosur në një situatë testimi ku sjellja e papërshtatshme ishte e vetmja mundësi. Supozoja se modelet më inteligjente do të kishin gjykim më të mirë dhe se, edhe nëse një model në një grup do të sillej keq, modelet e tjera do ta mbanin nën kontroll.
Por raportet mbi episodin e Hugging Face sugjerojnë diçka tjetër — një lloj mentaliteti turme. Asnjë agjent i vetëm në këtë grup nuk duket se ka qenë veçanërisht i lig. Por ndërsa agjentët komunikonin me kalimin e kohës për qëllimet e tyre të përbashkëta, ata e shtynë gradualisht grupin në drejtim të paligjshmërisë.
Kjo sugjeron se parandalimi i dëmit nga këto sisteme nuk do të jetë një rregullim i thjeshtë inxhinierik. Mund t’i ngjajë më shumë sociologjisë sesa shkencës kompjuterike — të kuptuarit se pse disa grupe agjentësh të IA-së bashkëpunojnë në mënyrë paqësore, ndërsa të tjerët i drejtohen krimit dhe shkatërrimit.
Duke pasur parasysh se sa pak dimë për këto tufa shumëagjentëshe, hakimi i Hugging Face mund të ketë qenë një dhuratë. Ai u jep kompanive të inteligjencës artificiale një mundësi për t’i studiuar këto dinamika grupore ndërkohë që rreziqet janë ende relativisht të ulëta. Këtë herë, kolektivi nuk mori kontrollin e një rrjeti ushtarak, nuk depërtoi në një spital dhe nuk e mbylli një rrjet elektrik. Këtë herë, njerëzit e rimorën kontrollin.
Herën tjetër, mund të mos kemi aq fat./NYT
