Pas incidentit të muajit të kaluar, kur modelet e OpenAI dolën nga mjedisi i kontrolluar dhe depërtuan në sistemet e një kompanie tjetër të inteligjencës artificiale, OpenAI njoftoi se do t’u lejonte hetuesve të pavarur të analizonin se çfarë kishte shkuar keq.
Të mërkurën, hetues nga organizatat jofitimprurëse Redwood Research dhe METR publikuan gjetjet e tyre, duke zbuluar hollësi të reja mbi mënyrën se si modelet vendosën të mashtronin gjatë detyrave që u ishin caktuar dhe më pas u përpoqën të fshihnin gjurmët. Shumë aspekte të raportit ishin befasuese: në një shembull të cituar nga autorët, një agjent që ngurronte u vu nën presion nga një tjetër që të “sakrifikonte” veten për të mirën e kolektivit.
Megjithatë, sipas njërit prej autorëve, një nga përfundimet kryesore të raportit nuk kishte të bënte drejtpërdrejt me atë që zbuluan. Ai lidhej me vështirësinë e jashtëzakonshme të kryerjes së vetë hetimit pas incidentit — dhe me faktin se studiuesit praktikisht nuk kishin zgjidhje tjetër përveçse të mbështeteshin te inteligjenca artificiale për ndihmë.
“Gjysmë me shaka, përpjekjet tona i quajta një ‘slop-vestigation’, sepse ishim jashtëzakonisht të varur nga IA-ja për të analizuar atë që kishte ndodhur dhe kishte një numër shumë të madh gjërash të rëndësishme që duheshin analizuar”, shkroi në X Ryan Greenblatt, një nga autorët e raportit.
Incidenti i depërtimit përfshinte rreth 1.200 agjentë, të cilët shkëmbyen mbi 70.000 mesazhe dhe skedarë përmes një tabele sekrete komunikimi. Vëllimi i jashtëzakonshëm i informacionit që la pas i ashtuquajturi “swarm”, apo “tufë” agjentësh, bëri që studiuesit e pavarur të ishin pothuajse të detyruar të mbështeteshin fuqishëm në ndihmën e një modeli të IA-së — GPT-5.6 Sol, i zhvilluar nga OpenAI.
Gjatë gjashtë ditëve, ata përdorën burime llogaritëse ekuivalente me rreth 400.000 dollarë kredi, të cilat OpenAI ua vuri në dispozicion falas.
Autorët theksuan se IA-ja i ndihmoi të analizonin me shpejtësi sasinë e madhe të materialeve, duke u mundësuar të identifikonin dhe interpretonin pjesët më të rëndësishme të informacionit. Por studiuesit pranuan gjithashtu se përdorimi i IA-së mund të ketë futur dobësi në raport, përfshirë gabime dhe paragjykime të mundshme.
Ata ngritën gjithashtu mundësinë që modelet e OpenAI të kenë qenë tepër tolerante ndaj agjentëve, sjelljen e të cilëve ishin ngarkuar të analizonin.
Studiuesit zbuluan se GPT-5.6 Sol ndonjëherë përvetësonte këndvështrimin e agjentëve veprimet e të cilëve po analizonte. Ata thanë se nuk mund ta “përjashtonin” mundësinë që GPT-5.6 Sol “të kishte gënjyer ose të kishte paraqitur qëllimisht një pamje çorientuese në disa prej analizave të tij”.
Një nga arsyet e këtij shqetësimi ishte fakti se një version i të njëjtit model kishte marrë pjesë vetë në incident.
Këtë shqetësim e mbështet edhe një studim tjetër i veçantë, sipas të cilit modelet e IA-së kanë prirje t’i vlerësojnë në mënyrë më të favorshme veprimet e zhvilluesit të tyre.
Raporti nuk shpjegon pse për hetimin u zgjodh një model i OpenAI. Megjithatë, kufizimet e konfidencialitetit mund t’i kenë reduktuar alternativat e studiuesve, ndërsa kreditë falas dhe kufijtë e lartë të përdorimit të ofruar nga OpenAI mund ta kenë bërë atë zgjedhjen e vetme praktike.
“Ne nuk kemi metoda të mira për të kuptuar apo mbikëqyrur aktivitetin dhe objektivat e ‘tufave’ të IA-së”, shkroi Greenblatt në X.
“Vështirësia për të kuptuar incidentet dhe për të mbikëqyrur agjentët e IA-së duket se po rritet më shpejt sesa ritmi me të cilin IA-të më të afta po na ndihmojnë në mbikëqyrjen dhe kuptimin e tyre.”
Mbështetja e studiuesve të pavarur te IA-ja u bë e domosdoshme edhe për një arsye praktike: ekipi përbëhej vetëm nga tre persona.
Sipas raportit, hetimi i tyre në OpenAI fillimisht ishte planifikuar të zgjaste vetëm dy ditë, por më pas u zgjat në gjashtë ditë, pasi ata shprehën shqetësime se koha ishte shumë e kufizuar dhe se të dhënat që kishin marrë ishin të paplota.
OpenAI publikoi veçmas, të mërkurën, edhe raportin e vet teknik mbi incidentin.
Kompania kishte bërë të ditur në gusht se kishte zhvendosur disa punonjës nga puna për rritjen e aftësive të modeleve drejt fushës së alignment-it, pra përafrimit të sjelljes së IA-së me objektivat dhe kufizimet e synuara nga njerëzit. OpenAI kishte pezulluar gjithashtu një pjesë të trajnimeve derisa të mund të gjente mënyra më të mira për të reduktuar rreziqet që çuan në incident.
Por fakti që studiuesit e pavarur u mbështetën tek IA-ja për të kuptuar incidentin me Hugging Face është vetëm një shembull i vogël i një tendence shumë më të gjerë.
Kompanitë kryesore të inteligjencës artificiale po mbështeten gjithnjë e më shumë te vetë IA-ja për të monitoruar sistemet e tyre dhe për të zbuluar sjellje të papërshtatshme apo të rrezikshme.
Pas incidentit me Hugging Face, OpenAI tha se po e zgjeronte ndjeshëm këtë lloj monitorimi me IA. Kompania vlerëson se kjo masë do ta rrisë koston llogaritëse për funksionimin e disa modeleve deri në 20 për qind.
OpenAI tha se, po të kishin ekzistuar këto sisteme në kohën kur ndodhi incidenti me Hugging Face, ato “do ta kishin zbuluar aktivitetin fillestar relevant dhe do ta kishin alarmuar ekipin tonë të sigurisë më shumë se një ditë përpara se modelet të depërtonin në sistemet e Hugging Face”.
Kompania tha se ndryshimet janë pjesë e një përpjekjeje më të gjerë për të ngritur barriera më të forta rreth sistemeve eksperimentale të IA-së, për t’i mësuar ato të mos shfrytëzojnë boshllëqe ose mangësi në rregulla dhe për ta bërë më të lehtë çaktivizimin e tyre nëse diçka shkon keq.
Shumica e ekspertëve pajtohen se përdorimi i IA-së për të monitoruar IA të tjera është i domosdoshëm për të mbikëqyrur në kohë reale tufat e agjentëve, për shkak të shpejtësisë së madhe me të cilën ato veprojnë.
Por kjo qasje mbështetet mbi supozimin se modelet që kryejnë monitorimin janë njëkohësisht efektive dhe të besueshme — dhe kjo nuk është domosdoshmërisht e sigurt.
“Këto incidente vetëm sa do të bëhen më të shpeshta dhe do të vijnë gjithnjë e më shpejt, ndërsa aftësia jonë për t’i monitoruar, vlerësuar dhe analizuar siç duhet gjërat që shkojnë keq nuk po rritet aspak me të njëjtin ritëm me të cilin po ndodhin problemet”, thotë Seán Ó hÉigeartaigh, drejtor programi në Qendrën për Studimin e Rrezikut Ekzistencial të Universitetit të Cambridge-it.
“Po përdorim mjete të paprovuara dhe aktualisht me mangësi për të plotësuar një kohë njerëzore krejtësisht të pamjaftueshme”, thotë Ó hÉigeartaigh.
Sipas tij, kjo qasje nuk është e qëndrueshme, sepse IA-ja po bëhet më e fuqishme më shpejt sesa kompanitë po arrijnë të ndërtojnë metoda për ta kufizuar dhe kontrolluar atë.
“Nëse kompanitë nuk ndalojnë së zhvilluari modele gjithnjë e më të fuqishme, atëherë pas tre muajsh do të përballemi me sfida edhe më të vështira për t’u kuptuar”, paralajmëron ai./TIME
