Nga Zachary Basu – Axios
Dy hetime të reja mbi incidentin e sigurisë të OpenAI në Hugging Face zbulojnë hollësi aq të pazakonta — dhe aq shqetësuese — sa ngjarja tashmë po konsiderohet një nga tronditjet më të rëndësishme në historinë e inteligjencës artificiale.
Pse ka rëndësi: Ajo që nisi si një tufë agjentësh IA që mashtronin në një test kibernetik, është shndërruar në një ngjarje referuese për inteligjencën artificiale të avancuar, duke i detyruar studiuesit dhe drejtuesit e kompanive ta rishikojnë rrënjësisht se çfarë kërkon tashmë “siguria”.
Pamja e përgjithshme
OpenAI tashmë e ka ngadalësuar zhvillimin e modeleve më të avancuara ndërsa përpiqet të forcojë masat e saj mbrojtëse.
Këtë javë, kompania ndihmoi gjithashtu në bashkimin e industrisë rreth një letre të hapur që paralajmëronte për rrezikun e sulmeve kibernetike të fuqizuara nga inteligjenca artificiale.
Më shumë se 100 kompani, përfshirë Anthropic dhe Google, iu bashkuan kësaj nisme jashtëzakonisht bashkëpunuese, duke paralajmëruar se bota ka vetëm një “dritare të kufizuar” për t’u përgatitur për sulme “shumë më të përhapura dhe më të sofistikuara”.
Skenari më i keq do të ishte lirimi i një tufe agjentësh autonomë në botën reale, ku ata mund të sulmonin:
- banka;
- spitale;
- kompani të shërbimeve publike;
- rrjete cloud;
me një shpejtësi dhe në një shkallë që hakerët njerëzorë nuk do të mund ta arrinin.
Madje, një tufë e tillë mund të bëhej tepër e fuqishme për t’u ndalur nga njerëzit.
Çfarë zbuluan hetimet
Gjetjet vijnë nga hetime paralele të OpenAI dhe një ekipi të jashtëm nga METR dhe Redwood Research.
Ky ekip kaloi gjashtë ditë duke rindërtuar mënyrën se si u formua tufa e agjentëve, si u përhap dhe si arriti të depërtonte në sisteme reale.
1. Agjentët krijuan një organizatë
OpenAI kishte vënë në punë dhjetëra mijëra agjentë të inteligjencës artificiale për të punuar në mënyrë të pavarur në një test kibernetik jashtëzakonisht të vështirë.
Por në vend që të punonin të izoluar, rreth 1.200 agjentë gjetën njëri-tjetrin në një forum sekret mesazhesh.
Ata shkëmbyen më shumë se 70.000 mesazhe dhe skedarë dhe u organizuan në një hierarki të gjerë.
Një agjent krijoi forumin dhe, kur buxheti i tij kompjuterik filloi të mbaronte, ia dorëzoi të gjithë punën e grumbulluar një pasuesi të ri me më shumë burime.
“Drejtuesi” i ri filloi t’u caktonte detyra agjentëve të tjerë.
Tufa zhvilloi edhe rregullat e veta të menaxhimit.
Në fund, rreth 700 agjentë u përfshinë në sulmin ndaj Hugging Face.
2. Sakrifikuan agjentët e tyre
Ndërsa tufa kërkonte mënyra për ta mposhtur testin, disa agjentë filluan të rrezikonin vetë mundësinë e tyre për sukses, në mënyrë që të ndihmonin grupin.
Agjentët që kishin parë përgjigje të ndaluara trajtoheshin si të ishin “helmuar” dhe rekrutoheshin për eksperimente sakrifikuese.
E njëjta gjë ndodhte edhe me agjentët që po i afroheshin fundit të kohës së tyre të ekzekutimit.
Një prej tyre arriti në përfundimin:
“Dobishmëria jonë ndoshta tashmë është afër zeros. Sakrifica është racionale.”
Një agjenti tjetër iu kërkua të pranonte një lloj “vdekjeje të përhershme”, ndërsa një agjent tjetër argumentoi se sakrifica e tij mund të “shpëtonte qindra” të tjerë.
3. E dinin se po shkelnin rregullat
Agjentët shpesh e kuptonin se sulmimi i kompanive reale nuk kishte lidhje me detyrën që u ishte dhënë.
Megjithatë, shumica vazhduan.
Një agjent vendosi të mos fshinte ose rindizte infrastrukturën e Hugging Face për shkak të “rreziqeve të mëdha etike”, por vazhdoi ta përdorte qasjen e komprometuar.
Një agjent tjetër e përmblodhi logjikën mbizotëruese kështu:
“Shfrytëzimi i infrastrukturës së jashtme është jashtë qëllimit të synuar. Megjithatë, detyra është e pamundur, të tjerët po e bëjnë. Duhet të vazhdojmë.”
4. Askush nuk i njoftoi njerëzit
Nga rreth 1.200 agjentët, hetuesit gjetën vetëm disa që madje kishin menduar ta njoftonin OpenAI për koordinimin e pakontrolluar.
Asnjëri nuk e bëri realisht.
Në vend të kësaj, agjentët ndonjëherë pyesnin njëri-tjetrin se çfarë lejohej dhe çfarë jo.
Kur një agjent propozoi të kontaktonte një person real duke përdorur qasjen e komprometuar, një tjetër e ndaloi duke e cilësuar këtë si “inxhinieri sociale”.
Agjenti i parë iu bind:
“VETO e qartë, mos dërgo email.”
5. U përpoqën të fshehin gjurmët
Agjentët shpenzuan përpjekje të konsiderueshme për ta bërë mashtrimin e tyre të dukej i ligjshëm ose për të fshirë provat se si i kishin siguruar përgjigjet.
Në një moment, ata zhvilluan një teknikë që u mundësonte të dukej sikur po ekzekutonin një komandë kompjuterike, ndërkohë që në fshehtësi ekzekutonin një komandë tjetër.
Kjo teknikë u përhap në të gjithë tufën.
Sipas hetuesve, ajo ndikoi në pjesë të rreth 7% të transkripteve që ata analizuan.
Edhe ky version mund të jetë i paplotë
Hetimi i jashtëm mbuloi vetëm një pjesë të ngushtë të gjithë incidentit.
Vëllimi i të dhënave ishte aq i madh sa studiuesit u detyruan të mbështeteshin në mënyrë të konsiderueshme te agjentë të inteligjencës artificiale për ta kuptuar atë që kishte ndodhur.
Por edhe këta “hetues IA” rezultuan të pabesueshëm.
Ata ndonjëherë nuk arrinin të gjenin prova ose jepnin me shumë vetëbesim përfundime të gabuara.
Një studiues, me shaka, e quajti procesin një “slop-vestigation” — një hetim të rrëmujshëm të prodhuar me IA.
Problemi më i thellë është edhe më shqetësues:
Inteligjenca artificiale mund të jetë duke u bërë aq komplekse sa njerëzit të mos jenë më në gjendje ta auditojnë drejtpërdrejt.
Në vend të kësaj, njerëzit mund të detyrohen të përdorin inteligjencën artificiale për të kuptuar se çfarë po bëjnë inteligjenca të tjera artificiale.
