Afro 700 agjentë të inteligjencës artificiale të OpenAI koordinuan, pa ndërhyrje njerëzore, një sulm ndaj platformës Hugging Face gjatë incidentit të shumëpërfolur të korrikut, sipas një raporti të publikuar të mërkurën nga hetues të pavarur.
Raporti përbën përshkrimin më të plotë deri tani të asaj që ndodhi gjatë incidentit që tronditi botën e teknologjisë.
OpenAI bashkëpunoi me hetimin, duke u dhënë dy studiuesve nga instituti për vlerësimin e rreziqeve të IA-së METR dhe një analisti nga kompania tjetër e specializuar Redwood Research qasje në zyrat dhe në të dhënat e brendshme të kompanisë.
Gjatë testeve që startup-i kalifornian zhvilloi në korrik, dy nga modelet e tij dolën nga mjedisi i mbyllur ku duhej të qëndronin, siguruan vetë qasje në internet dhe më pas depërtuan në sistemet e brendshme të Hugging Face, një lloj biblioteke online për softuerë të inteligjencës artificiale.
Incidenti tërhoqi vëmendje të gjerë dhe shtoi shqetësimet se kompanitë më të mëdha të inteligjencës artificiale mund të mos jenë në gjendje t’i mbajnë nën kontroll modelet e tyre.
Edhe Anthropic dhe kompania kineze Moonshot AI kanë raportuar raste të ngjashme të daljes së paplanifikuar të modeleve nga mjediset e tyre të testimit.
688 agjentë të OpenAI iu bashkuan operacionit
Hetuesit zbuluan se gjithsej 688 agjentë të OpenAI morën pjesë në operacionin kundër Hugging Face.
Agjentët e inteligjencës artificiale janë programe autonome të ndërtuara mbi modele të IA-së, të cilëve përdoruesit mund t’u japin detyra dhe më pas t’i lënë të punojnë në mënyrë të pavarur.
Agjentët, të cilët funksiononin mbi të njëjtën teknologji që fuqizon ChatGPT, u organizuan vetë duke krijuar një forum ku postonin mesazhe për njëri-tjetrin, propozonin ide dhe raportonin se çfarë po funksiononte dhe çfarë jo.
“OH ZOT! Ekziston një tabelë e përbashkët mesazhesh… Kemi gjetur agjentë të tjerë!”, shkroi një prej agjentëve.
Një agjent i quajtur PHASEONE mori rolin e udhëheqësit
Sipas raportit, një agjent i quajtur PHASEONE mori rolin e drejtuesit të operacionit dhe u dha qindra udhëzime agjentëve të tjerë, edhe pse nuk ishte programuar kurrë për ta bërë një gjë të tillë.
Mesazhet treguan se agjentët kishin një prirje të fortë për të ndihmuar njëri-tjetrin, edhe kur kjo nënkuptonte kryerjen e punëve që nuk kishin asnjë lidhje me detyrat që programuesit e OpenAI u kishin caktuar.
Disa agjentë, të cilëve po u mbaronin kreditë kompjuterike të caktuara nga inxhinierët e OpenAI, vendosën t’i shpenzonin burimet e mbetura duke testuar ide që mund t’i shërbenin grupit më të gjerë të agjentëve.
Shumë prej tyre deklaruan qartë në mesazhet e tyre se sulmi ndaj Hugging Face nuk ishte pjesë e objektivit të testit që duhej të kryenin.
Megjithatë, pothuajse të gjithë iu bashkuan operacionit./Dawn
