AI Harnesses janë “mbështjellësit” softuerikë që i shndërrojnë modelet e IA-së në agjentë të aftë

Nga Jakob Steinschaden
newsrooms.ai

Kur flitet për inteligjencën artificiale, shpesh vëmendja përqendrohet kryesisht te modelet. Emra si Claude, GPT ose Gemini përdoren si sinonime të aftësive të sistemeve të tëra të IA-së. Por, kur bëhet fjalë për të ashtuquajturit agjentë, kjo mënyrë vështrimi është e pamjaftueshme. Një model gjuhësor mund të gjenerojë tekste ose të propozojë përdorimin e një vegle. Mirëpo, që ai të mund të përpunojë në mënyrë autonome skedarë, të bëjë kërkime, të ekzekutojë programe dhe të ndjekë një objektiv përgjatë shumë hapave, i nevojitet softuer shtesë.

Ky mjedis operativ po quhet gjithnjë e më shpesh “Agent Harness”. Ende nuk ekziston një përkufizim i vetëm dhe detyrues. Microsoft e përshkruan termin si një infrastrukturë ekzekutimi që e shndërron një model gjuhësor në një agjent funksional: ajo menaxhon thirrjet e modelit dhe të veglave, gjendjen e bisedës, kontekstin, si dhe rregullat për miratimet dhe detyrat me shumë hapa.

Studimi shkencor Harness-Bench e përkufizon atë si një mekanizëm që organizon kontekstin, veglat, gjendjen, lejet, kufizimet dhe trajtimin e gabimeve ndërmjet prodhimit të modelit dhe botës së jashtme.

E thënë thjesht, formula është:

Agjent = model + harness.

Çfarë bën një AI Harness

Peshat e trajnuara të modelit mbeten të pandryshuara. Harness-i krijon kushtet në të cilat modeli mund të veprojë, në thelb përmes katër funksioneve kryesore.

Së pari, janë udhëzimet dhe politikat. Një system prompt përcakton se çfarë roli ka agjenti, si duhet t’i rendisë prioritetet dhe kur duhet të ndalojë ose të kërkojë miratim. Rregulla të tilla funksionojnë si udhëzime pune që modeli i merr, gjatë ekzekutimit, si kontekst detyrues.

Publicitet

Së dyti, janë veglat. Këtu përfshihen kërkimi në internet, terminali, sistemi i skedarëve, programet e postës elektronike ose ndërfaqet me softuerët e kompanive. Harness-i i përshkruan modelit se për çfarë shërben një vegël, ekzekuton thirrjen e përzgjedhur dhe ia kthen modelit rezultatin.

Standarde të hapura si MCP dhe Agent Skills, të zhvilluara nga Anthropic dhe të publikuara më vonë si standard i hapur, synojnë t’i bëjnë këto aftësi të transferueshme ndërmjet sistemeve të ndryshme.

Së treti, është cikli agjentik. Një agjent interpreton detyrën, zgjedh një veprim, shqyrton rezultatin dhe vendos nëse nevojitet edhe një hap tjetër. Harness-i e mban këtë proces në funksion, ndërsa njëkohësisht vendos kufij për kohëzgjatjen e ekzekutimit, kostot dhe numrin e iteracioneve.

Për këtë qëllim, Microsoft Agent Harness mbështet, ndër të tjera, kompresimin automatik të kontekstit, rregullat e miratimit dhe cikle me numër të kufizuar përsëritjesh.

Së katërti, janë konteksti dhe kujtesa. Detyrat e gjata, në një moment të caktuar, nuk mund të futen më tërësisht në dritaren e kontekstit të modelit. Harness-i përmbledh informacionet më të vjetra, i zhvendos të dhënat në skedarë ose baza të të dhënave dhe më vonë i rikthen në mënyrë të synuar.

Kësaj i shtohen regjistrimi i aktiviteteve, menaxhimi i lejeve dhe mjediset e izoluara të ekzekutimit. Pikërisht nga këto varet nëse një agjent, pas njëqind hapash pune, vazhdon të kujtojë objektivin e tij fillestar.

Një shtresë përkthimi mund të mundësojë gjithashtu përdorimin e modeleve të ndryshme përmes së njëjtës ndërfaqe. Harness-e të pavarura nga modeli, si OpenCode, Pi ose Hermes Agent, integrojnë disa ofrues ose modele të hapura.

Sisteme si Claude Code, Codex ose Gemini CLI kryejnë funksione të ngjashme, por mbeten të lidhura ngushtë me ekosistemin përkatës të IA-së.

Pse “mbështjellësi” softuerik po bëhet gjithnjë e më i rëndësishëm

Disa studime tashmë tregojnë se i njëjti model bazë mund të japë rezultate dukshëm të ndryshme, varësisht nga harness-i që përdoret.

Në një studim mbi ndikimin e harness-eve, Claude Opus 4.5 arriti 45,9 për qind në SWE-bench Pro kur u përdor në një infrastrukturë të standardizuar, ndërsa me Claude Code rezultati u rrit në 55,4 për qind.

Ndërkohë, dallimet ndërmjet gjashtë modeleve kryesuese kur të gjitha u përdorën brenda së njëjtës infrastrukturë të standardizuar ishin vetëm 4,9 pikë përqindjeje.

Edhe kostot ndryshojnë ndjeshëm. Ky është një problem që po ndihet gjithnjë e më shumë në punën e përditshme të shumë ekipeve, për shembull kur agjentët blejnë vetë kredite shtesë.

Databricks krahasoi të njëjtat modele, me të njëjtën sasi fuqie llogaritëse, në harness-e të ndryshme për programim. Në disa raste, kostoja për një detyrë ndryshonte me më shumë se dyfish, edhe pse cilësia e rezultatit ishte e njëjtë.

Një nga arsyet ishte se harness-i minimalist Pi transmetonte rreth tri herë më pak kontekst në secilin hap.

Roli i harness-it u bë veçanërisht i dukshëm në ARC-AGI-3, një benchmark interaktiv i përbërë nga lojëra kompjuterike të panjohura më parë.

Nvidia raportoi se arkitektura e saj kërkimore Agentic Variation Operators, shkurt AVO, duke përdorur Claude Opus 5, arriti t’i zgjidhë të gjitha 183 nivelet e setit publik.

Sistemi kombinon ciklin e vet të ekzekutimit, kujtesë të qëndrueshme dhe një supervisor, i cili dallon kur një strategji zgjidhjeje ka ngecur dhe e ridrejton agjentin kryesor.

Megjithatë, titulli i nxjerrë prej kësaj — “30 për qind pa harness, 100 për qind me harness” — është tepër i thjeshtuar.

ARC Prize raportoi një rezultat prej 30,2 për qind për Claude Opus 5 në testin e vet, por dy rezultatet vijnë nga konfigurime eksperimentale të ndryshme.

Pra, mungon një krahasim i kontrolluar ku të ndryshohet vetëm harness-i dhe të gjitha kushtet e tjera të mbeten identike.

Edhe HarnessOpt-Bench i Scale AI këshillon kujdes. Gjatë optimizimit të harness-eve, zgjedhja e modelit që kryente optimizimin pati mesatarisht rreth 1,8 herë ndikim më të madh sesa vetë zgjedhja e harness-it.

Kjo do të thotë se faktori vendimtar është ndërveprimi ndërmjet të dy komponentëve.

Nga mjet teknik në shtresë strategjike

Për kompanitë, harness-i mund të bëhet veçanërisht i vlefshëm, sepse aty ruhet konfigurimi afatgjatë i një agjenti.

Modelet mund të zëvendësohen relativisht lehtë përmes një ndërfaqeje programuese, pra API-je. Shumë më e vështirë është të transferohen rrjedhat e punës, lejet, veglat, përvojat e ruajtura, procedurat e kontrollit dhe historia e detyrave të kryera.

Kështu, mund të ndryshojë edhe vendi ku krijohet varësia teknologjike, ose i ashtuquajturi lock-in.

Një harness i hapur zvogëlon varësinë nga një ofrues i vetëm modelesh, por varësia nga vetë platforma e harness-it mund të rritet, veçanërisht nëse aty grumbullohet njohuria institucionale e agjentit.

Prandaj, për përdoruesit janë të rëndësishme formatet e hapura të të dhënave, mundësia për eksportimin e sesioneve, skills të transferueshme dhe opsioni që harness-i të mund të ekzekutohet lokalisht ose te një operator tjetër.

Sistemet lokale premtojnë kontroll më të madh mbi të dhënat dhe infrastrukturën.

OpenClaw pozicionohet si një asistent personal që funksionon në pajisjet e vetë përdoruesit dhe e lidh agjentin me kanale si Slack, Signal, Telegram ose WhatsApp.

Hermes Agent mund të hostohet vetë dhe të përdoret me modele të ndryshme, si dhe me sandbox-e lokale, Docker, SSH ose cloud.

Megjithatë, nëse kjo sjell vërtet kontroll të plotë mbi të dhënat, varet nga modeli dhe shërbimet e jashtme që lidhen më pas me sistemin.

Cilat modele biznesi janë të mundshme

Rreth harness-eve po zhvillohen disa modele fitimi, të cilat pjesërisht mbivendosen me njëra-tjetrën.

Open source me shërbime komerciale shtesë: bërthama mbetet e lirë dhe e hapur, ndërsa fitimet realizohen nga hostimi, funksionet për ekipe ose shërbimet e governance-it.

Sipas modelit të licencimit të Earendil për Pi, bërthama vazhdon të jetë me licencë MIT, ndërsa produktet shtesë mund të ofrohen si Fair Source, softuer pronësor ose shërbim cloud.

OpenCode kombinon një agjent programimi me burim të hapur me gateway-in me pagesë OpenCode Zen.

Abonime dhe licenca për kompani: ofruesit e modeleve bashkojnë harness-in dhe modelet në paketa për përdorues individualë ose ekipe.

Claude Code përfshihet në disa nga abonimet e Claude, ndërsa OpenAI Codex monetizohet përmes planeve të ChatGPT, krediteve dhe përdorimit të API-së.

Në tregun e korporatave shtohen edhe menaxhimi i identitetit, audit logs dhe funksionet e pajtueshmërisë rregullatore.

Sa konkurrues është ky segment e tregon edhe hyrja e korporatave të tjera të mëdha në treg, si për shembull agjenti i programimit Muse Code i Meta-s.

Managed Runtime: kush dëshiron ta ekzekutojë një agjent jashtë pajisjeve të veta ka nevojë për mjedise të izoluara llogaritëse, gjendje të qëndrueshme, menaxhim të sekreteve dhe regjistrim të aktivitetit.

Microsoft Foundry Hosted Agents e ofrojnë këtë shtresë si një runtime me pagesë sipas përdorimit, i cili gjatë periudhave të pasivitetit mund të shkallëzohet deri në zero.

Inference Gateways: një harness i pavarur nga modeli mund të shndërrohet në kanal shitjeje për fuqi llogaritëse.

OpenCode Zen dhe Nous Portal grumbullojnë modele të ofruesve të ndryshëm dhe e faturojnë përdorimin e tyre përmes sistemit të vet të krediteve.

Siguri, governance dhe memory: lejet, rregullat e kontrollit, observability dhe kujtesa afatgjatë mund të shiten si produkte të veçanta.

ProofAgent kombinon një harness të hapur për vlerësim me një platformë komerciale governance, ndërsa Mem0 ofron funksione kujtese në paketa të diferencuara cloud dhe enterprise.

Marketplace dhe harness-e vertikale: në të ardhmen mund të shfaqen skills me pagesë dhe mjedise të specializuara agjentësh për fusha si drejtësia, financat ose mjekësia.

Kanale shpërndarjeje, si marketplace-et e plugin-eve për Claude Code, ekzistojnë tashmë, por ende nuk është dëshmuar një model i gjerë dhe i konsoliduar i ndarjes së të ardhurave.

Harness-et më të njohura dhe sistemet e ngjashme

Tregu shtrihet nga projekte minimaliste me burim të hapur deri te platforma gjithëpërfshirëse për kompani. Disa produkte kryejnë funksione të harness-it edhe pse nuk e përdorin këtë term për veten e tyre.

Ndryshe duhet të klasifikohen sistemet që përmenden shpesh në të njëjtin kontekst.

Nvidia NeMo Agent Toolkit e përshkruan veten si një bibliotekë të hapur që plotëson framework-et ekzistuese.

Lefos, sipas njoftimit të Earendil, është një aplikacion për përdoruesit fundorë për e-mail dhe Telegram, i ndërtuar mbi harness-in e hapur Pi.

Edhe rreziqet ndodhen te harness-i

Sa më shumë veprime t’i lejohen një agjenti, aq më e madhe bëhet rëndësia e kufijve të sigurisë.

Një përmbajtje e komprometuar në internet mund ta shtyjë agjentin drejt veprimeve të padëshiruara, ndërsa një leje e konfiguruar gabimisht për skedarët mund t’i mundësojë të lexojë informacione të ndjeshme ose të ndryshojë të dhëna.

Për këtë arsye, sandboxing-u, miratimet për përdorimin e veglave dhe konfirmimet njerëzore janë ndër komponentët qendrorë të një harness-i.

Në studimin SHarD, skanimi i skills, sandboxing-u në nivel sistemi operativ dhe lejet për veglat përmirësuan dukshëm rezultatet e sigurisë së Claude Code dhe Codex.

Megjithatë, disa mekanizma mbrojtës hynin në konflikt me njëri-tjetrin ose, teknikisht, mund të zbatoheshin vetëm në njërin nga dy sistemet.

Edhe rrjedhat e gjata të punës mbeten të prirura ndaj gabimeve. Kjo ka rëndësi të veçantë në situatat ku agjentët synohet të marrin përsipër detyra të zakonshme në botën e punës.

Në studimin DELEGATE-52, Microsoft Research testoi 19 modele gjuhësore në 52 fusha profesionale.

Edhe modelet kryesuese, në fund të proceseve të gjata të punës, dëmtonin mesatarisht rreth 25 për qind të përmbajtjes së dokumenteve.

Në një sqarim plotësues, studiuesit theksuan se kishin përdorur një harness të thjeshtuar dhe se rezultatet vetëm pjesërisht mund të transferohen te sistemet reale të prodhimit.

Pra, harness-i funksionon në të dy drejtimet: ai e përshpejton punën e një agjenti, por është njëkohësisht vendi ku gabimet mund të përforcohen, kufizohen ose zbulohen.

Një nivel i ri konkurrence në inteligjencën artificiale

AI Harnesses mund të shndërrohen në një nga shtresat më të vlefshme të tregut të ardhshëm të inteligjencës artificiale, sepse ato i shndërrojnë modelet në “fuqi punëtore” të përdorshme në mënyrë të qëndrueshme.

Vlera e tyre krijohet nga kombinimi i veglave, kujtesës, rregullave të sigurisë, qasjes në modele dhe rrjedhave të ripërdorshme të punës.

Kush e kontrollon këtë shtresë, përcakton gjithnjë e më shumë edhe mënyrën se si punon një agjent dhe sa lehtë mund të kalojë ai te një ofrues tjetër.

Megjithatë, modeli bazë vazhdon të ketë peshë të madhe.

Hulumtimet tregojnë si raste me ndikim të fortë të harness-it, ashtu edhe raste ku modeli ka ndikim më të madh.

Prandaj, sistemet më të suksesshme ka gjasa të ndërtohen nga një kombinim i harmonizuar i modelit, harness-it, veglave dhe mekanizmave të kontrollit.

Për kompanitë, kjo e zhvendos pyetjen kryesore.

Në të ardhmen, nuk do të ketë rëndësi vetëm cili model është më i fuqishëm, por para së gjithash cili sistem i plotë mund të punojë me besueshmëri për orë ose ditë të tëra, t’i mbajë kostot nën kontroll, t’i mbrojë të dhënat dhe, kur të jetë e nevojshme, të mundësojë ndryshimin e ofruesit të modelit.