Një numër i madh aktorësh të industrisë, ekspertësh të politikave publike dhe kompanish po përballen me pyetjen se si të rregullohet inteligjenca artificiale në mënyrë të besueshme.
Brenda Shtëpisë së Bardhë, në pjesën më të madhe, gjithçka vazhdon si zakonisht.
Pse ka rëndësi: Gara e ethshme e industrisë është pasojë e një kuadri rregullator të ndërtuar në mënyrë të fragmentuar dhe e një konsensusi të përgjithshëm se veprime të shpejta nga Uashingtoni nuk priten në të ardhmen e afërt.
Gjendja aktuale: Drejtuesit ekzekutivë të kompanive të IA-së po përballen me çështjen se si të testojnë sistemet e avancuara të inteligjencës artificiale dhe si të bashkëpunojnë me Pekinin për standardet e sigurisë, ndërsa Shtëpia e Bardhë favorizon një zgjidhje sipas së cilës industria do të gjente vetë mënyra për t’u vetërregulluar.
- Kjo do të thotë se ka nisur gara për të përcaktuar se kush do të njihet si vlerësues i pavarur, i palës së tretë, i sistemeve të IA-së dhe i mekanizmave të tyre të kontrollit, ndërsa kompanitë presin legjislacion ose masa të tjera nga Shtëpia e Bardhë përtej procesit aktual vullnetar.
- Ekziston tashmë një ekosistem i zhvilluar organizatash që merren me sigurinë e IA-së dhe me testimin krahasues të modeleve, por disa zyrtarë të Shtëpisë së Bardhë dhe drejtues të kompanive të IA-së i konsiderojnë ato tepër të lidhura me kompanitë kryesore që zhvillojnë modelet më të avancuara. Alternativa të tjera përfshijnë kompani dhe startup-e që tashmë kryejnë vlerësime të sistemeve të IA-së, si edhe disa propozime më të pazakonta.
Çfarë thonë: Kompanitë zotërojnë ekspertizën më të madhe për inteligjencën artificiale dhe e kuptojnë se çfarë kërkon kuadri vullnetar i Shtëpisë së Bardhë për IA-në, sipas një zyrtari të Shtëpisë së Bardhë.
- “Këta njerëz nuk janë 12-vjeçarë”, tha zyrtari.
- “Kompanitë kryesore që zhvillojnë modelet më të avancuara të IA-së duhet të arrijnë një konsensus për atë që duan, sepse deri tani nuk kanë rënë dakord për asgjë”, vazhdoi zyrtari. “Nëse këto kompani mendojnë se situata është kaq serioze, ato kanë çdo të drejtë, arsye dhe mundësi për të kufizuar kapacitetet ose vënien në përdorim të modeleve të tyre.”
Pika e përplasjes: Disa vlerësues të palëve të treta — përfshirë persona në METR, organizata që hetoi incidentin OpenAI-Hugging Face — janë vënë në qendër të kritikave për shkak të lidhjeve të tyre të ngushta me lëvizjen e altruizmit efektiv, si edhe me kompanitë sistemet e të cilave do të duhej t’i vlerësonin.
- Një nga hetueset e jashtme kryesore të incidentit në Hugging Face është e martuar me Paul Christiano, një figurë me përvojë në fushën e sigurisë së IA-së dhe teknologjisë, i cili së fundmi iu bashkua bordit të fondacionit jofitimprurës të OpenAI. Një punonjës i Anthropic gjithashtu u largua së fundmi nga kompania për të punuar në METR.
- METR ka deklaruar se nuk merr financime nga laboratorët që zhvillojnë modelet më të avancuara të IA-së. Një zëdhënës tha se Christiano iu bashkua bordit të OpenAI pasi hetimi kishte përfunduar.
- Kompanitë e IA-së dhe ekspertët e sigurisë thonë se komuniteti kërkimor i inteligjencës artificiale ka qenë gjithmonë relativisht i vogël dhe i ndërlidhur, ndërsa punonjësit e laboratorëve që zhvillojnë modelet më të avancuara kanë ekspertizën e nevojshme për të vlerësuar aftësitë e këtyre modeleve.
Mes rreshtave: Disa elemente të sistemeve ekzistuese për vlerësimin e IA-së e kanë origjinën në përpjekjet për të promovuar aftësitë e modeleve të reja, përfshirë performancën e tyre në testet standardizuese krahasuese të programimit dhe të matematikës.
- Një gamë e gjerë kompanish, përfshirë kontraktorin e mbrojtjes dhe teknologjisë Booz Allen, kryejnë vlerësime të sistemeve të inteligjencës artificiale për klientët e tyre.
- Shumë prej këtyre vlerësimeve nuk përfshijnë elemente thelbësore, si matja e shpeshtësisë me të cilën modelet gjenerojnë kod me dobësi sigurie ose matja e variabilitetit të përgjigjeve të tyre ndaj të njëjtave ose kërkesave të ngjashme, tha Eric Syphard, drejtues i IA-së në Booz Allen.
- “Të gjithë orientohen drejt një këndvështrimi që përqendrohet vetëm te performanca”, tha Syphard për Axios në një intervistë.
Elon Musk këtë javë sugjeroi që laboratorët e IA-së në SHBA dhe Kinë të mund të shqyrtonin modelet e njëri-tjetrit, një mundësi që disa e konsiderojnë pak të realizueshme për shkak të konkurrencës së ashpër ndërmjet aktorëve kryesorë të sektorit.
- Janë hedhur edhe ide të tjera, përfshirë thirrjen e një ish-këshilltari të Trumpit që programuesi legjendar John Carmack, i cilësuar si një “zot i programimit”, të përfshihej në këtë proces.
OpenAI këtë javë publikoi një kuadër praktik për raportimin e incidenteve, pasi identifikoi gjashtë incidente të reja.
- Ashtu si kuadri i Shtëpisë së Bardhë për IA-në, edhe propozimi i OpenAI për raportimin publik të incidenteve është vullnetar, njësoj si qasja e propozuar nga Musk për shqyrtim të ndërsjellë të modeleve.
- Propozimi i OpenAI për raportimin publik të incidenteve parashikon përfshirjen e auditorëve të pavarur të palëve të treta në rastet më komplekse.
Po, por: “Transparenca publike është vërtet shumë e rëndësishme këtu. Ajo që po bëjnë këto kompani është pozitive, por mbështetet vetëm në vullnetin e tyre të mirë dhe nuk mendoj se kjo është e mjaftueshme”, tha në një intervistë Henry Papadatos, drejtor ekzekutiv i SaferAI.
Çfarë po ndjekim: Sekretari i Thesarit, Scott Bessent, i cili këtë fundjavë do të udhëheqë bisedimet me zëvendëskryeministrin kinez He Lifeng, tha se ekziston hapësirë për bisedime me Pekinin mbi sigurinë e inteligjencës artificiale./Axios
