Nga Madison Mills
Gara për epërsi në inteligjencën artificiale mes laboratorëve, kompanive dhe shteteve mund të jetë e vështirë, madje e pamundur, të pajtohet me përpjekjet për sigurinë e IA-së, i thanë Axios burime nga industria.
Pse ka rëndësi: Kompanitë kryesore të IA-së po propozojnë më shumë mbikëqyrje të pavarur, ndërsa përpiqen të gjejnë mënyra për të ngadalësuar ritmin e zhvillimit të IA-së. Por kritikët thonë se stimujt financiarë prej triliona dollarësh për të vazhduar shtyrjen e kufijve të teknologjisë — së bashku me kapitalin e nevojshëm për një zgjerim të tillë — do të peshojnë gjithmonë më shumë.
Gjendja aktuale: Ndërsa drejtuesit e kompanive të IA-së i paraqesin publikut mekanizma vetërregullimi dhe përdorimin e vlerësuesve të palëve të treta për të garantuar se modelet e tyre funksionojnë siç duhet, po këto modele po japin gjithnjë e më pak informacion për mënyrën se si u përgjigjen pyetjeve dhe si arrijnë te zgjidhjet.
Kompleksiteti i jashtëzakonshëm i sistemeve të IA-së, së bashku me përdorimin e mijëra agjentëve deri diku autonomë për detyra të ndryshme, do ta bëjë jashtëzakonisht të vështirë auditimin ose shqyrtimin e tyre në kohë reale.
Ekziston gjithashtu një hendek besimi ndaj grupeve të pavarura të sigurisë, për shkak të shqetësimeve mbi lidhjet e ngushta mes industrisë dhe disa prej vlerësuesve, si dhe për faktin se komuniteti i kërkimit në IA mbështetet shpesh te i njëjti rreth investitorësh dhe financuesish.
Ndiqni paratë: Stimuli për të ecur shpejt është shumë më fitimprurës sesa shtysa për të ngadalësuar zhvillimin në emër të sigurisë.
OpenAI dhe Anthropic po përgatiten të dalin në bursë me vlerësime prej disa trilionë dollarësh, ndërsa përballen me presion për të ofruar vazhdimisht modele gjithnjë e më të mira, në mënyrë që t’i justifikojnë këto vlerësime.
Sipas Goldman Sachs, më shumë se 7 trilionë dollarë do të shpenzohen për zgjerimin e IA-së gjatë pesë viteve të ardhshme. Laboratorët që zhvillojnë modelet më të avancuara do të duhet të gjenerojnë fitim nga këto investime, çka do të thotë se duhet të ecin më shpejt se konkurrentët.
Kjo përfshin edhe përpjekjen për të penguar klientët që të kalojnë te ofruesit e modeleve me pesha të hapura, të cilat mund të jenë më të lira për t’u përdorur dhe nga disa konsiderohen si një alternativë më e sigurt.
Ajo që fshihet mes rreshtave: IA-ja po bëhet gjithnjë e më e vështirë për t’u mbikëqyrur, duke e bërë të paqartë se si mund të bashkëjetojnë dy prioritete në dukje konfliktuale: siguria dhe përmirësimi gjithnjë e më i shpejtë i modeleve.
Daniel Kokotajlo, ish-studiues në OpenAI dhe drejtor ekzekutiv i AI Futures Project, tha se nuk beson se IA-ja mund të zgjerohet në mënyrë të sigurt.
Sipas tij, kompanitë kryesore të IA-së duhet të shmangin përdorimin e fuqisë së jashtëzakonshme llogaritëse që kanë në dispozicion për përmirësimin e modeleve — një hap që do të impononte ngadalësimin e zhvillimit. Ekipi i Kokotajlos publikoi esetë e njohura “AI 2027” dhe “2040”.
Studiuesit dhe punonjësit e IA-së të përfshirë në zgjerimin e këtyre sistemeve “po bëjnë diçka të gabuar”, tha ai.
Në fokus: Kokotajlo u largua nga OpenAI në vitin 2024 për shkak të shqetësimeve të tij lidhur me sigurinë.
Që atëherë, ai është ftuar të mbajë ligjërata për punonjësit aktualë të kompanisë mbi kërkimet e tij për sigurinë e IA-së.
“Kompanitë po kalojnë vazhdimisht nëpër këtë proces ndjenjash të përziera dhe diskutimesh të brendshme për atë që po bëjmë”, tha ai. “A duhet të ndalemi? A jemi ne të mirët?”
Kontrolli i realitetit: Shumë të tjerë, përfshirë presidentin Trump, besojnë se IA-ja mund të ketë një të ardhme të sigurt dhe vënë në dukje mundësinë e përgjegjësisë civile ose penale nëse kompanitë nuk arrijnë t’i bëjnë produktet e tyre të sigurta.
“Kushdo që fiton në IA, FITON!”, shkroi Trump në Truth Social, duke përsëritur se nuk do ta pengojë ose ngadalësojë zhvillimin e IA-së.
“Vullneti njerëzor është i aftë të gjejë mënyrën se si këto modele të zgjerohen në mënyrë të sigurt”, i tha Axios Akshay Krishnaswamy, arkitekt kryesor në Palantir, duke shtuar se një mënyrë për ta arritur këtë është përmes modeleve të hapura.
Përfundimi: Ndërsa industria po përfshihet gjithnjë e më shumë nga debatet për ngadalësimin e zhvillimit të IA-së, mbetet e paqartë nëse një gjë e tillë mund të arrihet në të ardhmen e afërt./Axios
