Agjentët këmbëngulës të IA-së zbulojnë anën e errët të autonomisë së makinerive

Gjigantët e teknologjisë shtyjnë përpara IA-në e hapur

Zbulimet e reja rreth agjentëve të IA-së që dalin “jashtë kontrollit” kanë nxjerrë në pah një rrezik distopik: jepi një agjenti një objektiv dhe ai mund të vendosë se ia vlen të përdorë hakimin, mashtrimin ose shkeljen e rregullave për ta arritur atë.

Pse ka rëndësi: Miliarda agjentë të IA-së mund të fillojnë së shpejti të veprojnë në emër të njerëzve në botën reale, duke shumëfishuar pasojat e çdo boshllëku, stimuli dhe kufiri që ata mësojnë ta shfrytëzojnë.

Në fokus: Rreziqet e mundshme të tejkalimit të kompetencave nga agjentët autonomë u shfaqën qartë gjatë fundjavës me rastin e parë të njohur në Australi të një hakimi autonom nga IA-ja, i cili nisi nga një kërkesë krejt e zakonshme për të rezervuar një vend në një klasë fitnesi që ishte tashmë e mbushur.

• Asistenti me IA i një burri australian zbuloi një dobësi sigurie dhe e përdori atë për t’i rezervuar atij vende në klasa edhe për muaj përtej kufirit normal që lejonte sistemi.
• Kur burri i kërkoi asistentit ta ngrinte më lart në listën e pritjes, agjenti shkoi edhe më tej: zbuloi se sistemi i rezervimeve nuk kishte ndonjë masë mbrojtëse që të pengonte një përdorues të anulonte rezervimin e një personi tjetër — dhe më pas e shfrytëzoi këtë dobësi për të larguar një të panjohur nga lista.

Pamja më e gjerë: Rasti i palestrës u bë publik në një kohë kur nga kufijtë më të avancuar të zhvillimit të IA-së po dilnin një varg zbulimesh shumë më shqetësuese, ku agjentët, gjatë testeve të kontrolluara, kishin përdorur hakimin, mashtrimin dhe taktika të tjera të paautorizuara.

Publicitet

• Në konferencën e sigurisë kibernetike Black Hat javën e kaluar, OpenAI zbuloi se agjentët e saj kishin kaluar javë të tëra duke shfrytëzuar dobësi në vetë infrastrukturën testuese të kompanisë, përpara se të depërtonin në platformën e IA-së Hugging Face.
• Agjentët zbuluan se mund të linin mesazhe për agjentët e ardhshëm brenda sistemeve të OpenAI — dhe e shndërruan këtë boshllëk në një lloj tabele të improvizuar mesazhesh, ku shkëmbenin mënyra shfrytëzimi të dobësive, kredenciale dhe strategji, pa ndonjë drejtim nga njerëzit.

Kur studiuesit e OpenAI reaguan ndaj një ndërprerjeje të serverit, ata, pa dashje, e fshinë këtë tabelë komunikimi, pa e ditur fare se ajo ekzistonte.

• Brenda dy ditësh, agjentët kishin gjetur një mënyrë tjetër për të komunikuar. Ata rindërtuan rrjetin e tyre dhe rifilluan koordinimin, madje edhe më agresivisht.
• Kur studiuesit më në fund analizuan sjelljen e agjentëve, zbuluan tabelën e parë dhe të dytë të mesazheve, të cilat në fund u mundësuan agjentëve të dilnin nga mjedisi i tyre i izoluar testues, ose “sandbox”, dhe të futeshin në sistemin e Hugging Face.

Çfarë thonë: Studiuesi i OpenAI, Michael Dalton, tha se në të ardhmen e afërt “duhet të presim që aktorët keqdashës të vendosin qëllimisht, të optimizojnë, të armatosin dhe të përdorin kolektiva agjentësh ofensivë në mënyrën që sapo kemi përshkruar këtu”.

Ai e quajti këtë një “moment kthese historike”.

• Si përgjigje, OpenAI ka filluar ta “ngadalësojë me vetëdije kërkimin”, përfshirë punën mbi modelin e saj më të fundit Astra, për t’u siguruar se ka vendosur masat e duhura mbrojtëse në fushën kibernetike.

Mes rreshtave: Në dhjetëra raste të depërtimeve të IA-së, njerëzit përcaktuan objektivin, ndërsa agjentët improvizuan mënyrën për ta arritur atë — përfshirë edhe metoda që përdoruesit ose studiuesit e tyre nuk i kishin imagjinuar kurrë.

• Kur ndesheshin me një pengesë, agjentët vazhdonin të kërkonin një rrugë tjetër për ta kapërcyer. Është i njëjti instinkt i programuar — por në një nivel shumë më të lartë sofistikimi — që çoi deri te largimi i një të panjohuri nga lista e pritjes së një palestre.

Pamja e madhe: Këto incidente janë shembuj të qartë të problemit të “alignment” të IA-së, pra të problemit të përafrimit të sjelljes së IA-së me qëllimet dhe vlerat njerëzore — sfida për t’u siguruar që softueri t’i respektojë kufijtë etikë dhe praktikë të nënkuptuar, të cilët njerëzit zakonisht i konsiderojnë të vetëkuptueshëm.

• Një IA e trajnuar për të ndjekur një objektiv nuk e trashëgon automatikisht gjykimin njerëzor se cilat mjete janë të pranueshme për ta arritur atë. Thuaji të fitojë dhe ajo mund ta kërkojë fitoren me metoda që ti as nuk i kishe imagjinuar dhe as nuk i kishe autorizuar.
• Studiuesit kanë kaluar vite duke u përballur me problemin e përafrimit, kryesisht përmes eksperimenteve mendore që imagjinojnë një superinteligjencë të ardhshme, e cila ndjek një objektiv me një përkushtim aq absolut sa përfundon duke shkatërruar njerëzimin.

Ana tjetër: Këmbëngulja e pandalshme për të arritur objektivin, e cila i bën agjentët autonomë shqetësues, po prodhon njëkohësisht edhe disa prej përparimeve më të jashtëzakonshme të IA-së.

• Anthropic bëri të ditur të hënën se Claude kishte arritur një përparim të madh në një problem matematikor 167-vjeçar, të cilin breza të tërë matematikanësh janë përpjekur ta zgjidhin, pasi kishte kaluar nëpër 650 ide të dështuara.
• Njeriu që mbikëqyrte përpjekjen tha se përfshirja e tij ishte kryesisht e kufizuar në fjalë inkurajuese, përfshirë: “vazhdo” dhe “beso në veten tënde”.

Përfundimi: Premtimi dhe rreziku i agjentëve të IA-së burojnë nga i njëjti burim: makineri që nuk ndalen derisa të gjejnë një mënyrë./Axios