Ja pse kompanitë po mbështeten tani te modelet kineze me pesha të hapura: transformimi i fshehtë i inteligjencës artificiale

Nga Konrad Wolfenstein

Lamtumirë monopolit amerikan: A mund të ofrojë inteligjenca artificiale kineze më shumë siguri për të dhënat?

Më të lira dhe më të fuqishme: Si po tronditin tregun modelet kineze me pesha të hapura

Dominimi i gjigantëve amerikanë të teknologjisë në fushën e inteligjencës artificiale për një kohë të gjatë dukej i pakontestueshëm. Por kjo po ndryshon.

Me ngritjen e shpejtë të modeleve shumë të fuqishme kineze me pesha të hapura, si GLM 5.2, kompanive evropiane u është hapur papritur një dritare e re strategjike.

Këto modele premtojnë aftësi teknike të krahasueshme me liderët e industrisë, por me një pjesë të kostos. Për më tepër, ato mund të ekzekutohen lokalisht, në serverët e vetë kompanisë, duke krijuar mundësi krejtësisht të reja për sovranitetin e të dhënave.

Megjithatë, ajo që në shikim të parë duket si një rrugëdalje ideale nga varësia ndaj shërbimeve të shtrenjta cloud, në praktikë shpesh rezulton shumë më komplekse.

Nga lehtësia mashtruese e ndërtimit të një projekti pilot, deri te kërkesat e rrepta rregullatore të Aktit Evropian për Inteligjencën Artificiale dhe dimensioni gjeopolitik, përdorimi i modeleve me pesha të hapura është shumë më tepër sesa një përditësim teknik.

Çdo kompani që përqendrohet vetëm te rezultatet e benchmark-eve dhe neglizhon pjekurinë organizative rrezikon të bjerë drejtpërdrejt në një kurth kostosh.

Publicitet

Kalimi drejt inteligjencës artificiale lokale dhe me pesha të hapura përfaqëson një mundësi të madhe, por vetëm nëse kompanitë shmangin që në fillim gabimet më tipike të zbatimit.

Një transformim i heshtur me pasoja të mëdha

Pak tema po shqetësojnë aktualisht departamentet evropiane të IT-së aq shumë sa pyetja nëse modelet kineze me performancë të lartë duhet të përdoren brenda kompanive.

Me modele si GLM 5.2 i Zhipu AI, i publikuar nën licencën MIT në qershor 2026, është hapur një dritare teknologjike që vetëm pak vite më parë do të dukej e paimagjinueshme.

Kompanitë tani mund të shkarkojnë pa pagesë një model me afërsisht 744 deri në 753 miliardë parametra, prej të cilëve rreth 40 miliardë aktivizohen për çdo kërkesë, dhe ta ekzekutojnë në infrastrukturën e tyre ose në një infrastrukturë të besuar.

Modeli disponon një dritare konteksti prej 1 milion tokenësh dhe është projektuar posaçërisht për:

• detyra me shumë hapa;
• programim;
• përdorim autonom të mjeteve.

Në benchmark-e si SWE-bench Pro dhe Terminal-Bench 2.1, ai arrin rezultate që e afrojnë me modele të mbyllura të nivelit të lartë si GPT-5.5 ose Claude Opus 4.8, por me një pjesë të kostos për token të përpunuar.

Ky kombinim mes pjekurisë teknologjike, licencimit të hapur dhe kostos së ulët po ndryshon rrënjësisht llogaritë e shumë kompanive.

Nuk bëhet më fjalë vetëm për konkurrencë mes një ofruesi amerikan dhe një tjetri, por për një element krejtësisht të ri gjeopolitik që po futet në një arkitekturë teknologjike që deri tani dominohej nga pak kompani.

Nga demonstrimi laboratorik te një zgjidhje e besueshme për ndërmarrje

Sfida e vërtetë nuk qëndron te vetë modeli, por te diferenca mes një testimi të suksesshëm dhe një sistemi të gatshëm për prodhim.

Një model me pesha të hapura nuk është një mjet i gatshëm që mund të merret “nga kutia” dhe të përdoret menjëherë për aplikacione kritike biznesi.

Ngarkimi i peshave të modelit në një server GPU dhe shtimi i një ndërfaqeje bazike chat krijon vetëm një demonstrues teknik, jo një platformë të gatshme për përdorim në prodhim.

Ky ngatërrim mes realizueshmërisë teknike dhe pjekurisë organizative është një nga arsyet më të zakonshme pse projektet pilot të inteligjencës artificiale dështojnë ose mbeten të bllokuara në fazën e testimit.

Prandaj, procesi i implementimit nuk duhet të nisë nga modeli, por nga një rast konkret përdorimi.

Pastaj duhet të vijojnë:

• arkitektura;
• lidhja me të dhënat;
• modeli i sigurisë;
• vlerësimi;
• operimi i vazhdueshëm.

Kjo renditje ndihmon në shmangien e disa prej gabimeve më të zakonshme:

• infrastrukturë shumë më e madhe nga sa kërkohet;
• përgjegjësi të paqarta ndërmjet IT-së, njësive të biznesit dhe menaxhmentit;
• agjentë IA me privilegje shumë më të gjera nga sa kërkon detyra e tyre reale.

Qasja inteligjente: filloni me pak për të menduar në shkallë të madhe

Çdo implementim i suksesshëm fillon me zgjedhjen e një detyre ku përfitimet mund të maten dhe rreziqet mund të kufizohen.

Të përshtatshme janë procese me të dhëna hyrëse të qarta, rezultate të verifikueshme dhe pasoja të menaxhueshme në rast gabimi, si:

• kërkimi në dokumentacion teknik për mirëmbajtje;
• klasifikimi automatik i kërkesave të brendshme;
• mbështetja në analizën e kodit të softuerit.
• Më pak të përshtatshme për zbatim fillestar janë aplikacionet që:
• kontrollojnë drejtpërdrejt pajisje prodhimi;
• aktivizojnë transaksione financiare;
• kontribuojnë në vendime për personelin.

Rregulli themelor është i thjeshtë:

Sa më e vështirë të jetë verifikimi i rezultatit më pas, aq më i madh është rreziku që projekti pilot të dalë jashtë kontrollit.

Përpara çdo pune teknike, çdo rast përdorimi duhet të ketë një profil të shkurtër, por detyrues:

• Cila detyrë duhet zgjidhur?
• Çfarë të dhënash mund të përdoren?
• Si do të matet cilësia?
• Çfarë lloj gabimesh janë të pranueshme?
• Kush mban përgjegjësinë teknike?
• Në çfarë kushtesh projekti duhet të ndalet menjëherë?

Pa këtë punë paraprake, çdo hap teknik i mëvonshëm shndërrohet në improvizim.

Madhësia nuk duhet të jetë qëllim në vetvete

Një gabim i zakonshëm është zgjedhja automatike e modelit më të madh të disponueshëm vetëm sepse performon më mirë në benchmark-e.

GLM 5.2 është projektuar posaçërisht për detyra të gjata, me shumë hapa, programim dhe përdorim mjetesh të jashtme, por madhësia e tij vendos kërkesa të larta për:

• memorien;
• përshpejtuesit grafikë;
• përpunimin e shpërndarë.

Prodhuesi rekomandon ndër të tjera vLLM dhe SGLang si mjedise ekzekutimi, pasi ato mund ta shpërndajnë modelin në disa GPU dhe të ofrojnë ndërfaqe programuese të pajtueshme me standardet e zakonshme.

Megjithatë, për shumë detyra të përditshme biznesi, një model i tillë kryesor nuk është zgjedhja më ekonomike.

Për detyra të thjeshta si:

• klasifikimi;
• nxjerrja e informacionit të strukturuar;
• përgjigjet e standardizuara;

një model shumë më i vogël dhe më i lirë mund të jetë plotësisht i mjaftueshëm.

Prandaj, testet konkrete me të dhëna përfaqësuese të biznesit janë vendimtare.

Duhet të maten tregues të tillë si:

• koha e përgjigjes;
• kapaciteti i përpunimit;
• kërkesat për memorie;
• kostot operative.

Versionet e kuantizuara ose të optimizuara për përllogaritje mund të reduktojnë ndjeshëm kërkesat për harduer, por mund të ndikojnë në cilësinë ose stabilitetin e rezultateve.

Edhe një dritare konteksti shumë e gjatë nuk duhet të përdoret si justifikim për të futur gjithçka në një kërkesë.

Sa më shumë dokumente të pafiltruara të futen në prompt, aq më shumë rriten kostot dhe vonesa, ndërsa shtohet rreziku që informacioni i rëndësishëm të humbasë brenda masës së të dhënave.

Arkitektura përcakton qëndrueshmërinë afatgjatë

Një arkitekturë solide korporative duhet të ndajë qartë të paktën pesë shtresa:

1. serverin e modelit;
2. shtresën e integrimit;
3. aksesin në njohuritë e kompanisë;
4. ekzekutimin e mjeteve;
5. aplikacionin e përdoruesit.

Modeli nuk duhet të jetë kurrë drejtpërdrejt dhe pa kontroll i aksesueshëm nga një aplikacion biznesi.

Në vend të kësaj, një shtresë qendrore integrimi duhet të trajtojë:

• autentikimin;
• kuotat e përdorimit;
• logimin;
• prompt-et e standardizuara;
• drejtimin mes modeleve të ndryshme;
• zbatimin e rregullave të sigurisë.

Kjo shtresë e ndërmjetme e bën të mundur që një model me pesha të hapura të zëvendësohet më vonë pa pasur nevojë të rishkruhen të gjitha aplikacionet.

Një shërbim i brendshëm mund, për shembull, të kalojë fleksibilisht midis:

• GLM 5.2;
• një modeli më të vogël lokal;
• një modeli cloud të përbashkët;

në varësi të detyrës konkrete, pa e vënë re fare përdoruesi përfundimtar.

Po aq e rëndësishme është ndarja e qartë mes mjediseve të:

• zhvillimit;
• testimit;
• prodhimit.

Peshat e modeleve, imazhet e kontejnerëve dhe skedarët e konfigurimit nuk duhet të kalojnë kurrë drejtpërdrejt nga laptopi i një zhvilluesi në prodhim.

Çdo komponent produktiv duhet të jetë:

• i versionuar;
• i testuar;
• i shpërndarë përmes një procesi të kontrolluar publikimi.

Kjo është tashmë praktikë standarde në zhvillimin tradicional të softuerit dhe duhet të vlejë edhe për IA-në.

Përdorni njohuritë ekzistuese të kompanisë në mënyrë inteligjente, në vend të ritrajnimit të shtrenjtë

Për shumicën e rasteve të përdorimit, Retrieval-Augmented Generation – RAG është shumë më praktik sesa ritrajnimi kompleks dhe i shtrenjtë i modelit.

Në këtë qasje, sistemi fillimisht kërkon informacionin relevant në një bazë të përbashkët njohurish dhe më pas i dërgon modelit vetëm fragmentet që janë gjetur.

Kjo lejon përdorimin e:

• manualeve;
• udhëzimeve të brendshme;
• specifikimeve teknike;
• kërkesave të mbështetjes;

pa pasur nevojë të ndryshohet modeli bazë.

Megjithatë, cilësia e një aplikacioni RAG varet pothuajse tërësisht nga përgatitja e dokumenteve bazë.

Versionet e vjetra të dokumenteve, mungesa e metadatave dhe ndarja e dobët e përmbajtjes çojnë pothuajse në mënyrë të pashmangshme në përgjigje jo të besueshme ose kontradiktore.

Prandaj çdo dokument duhet të ketë:

• një pronar të qartë;
• informacion të përcaktuar për vlefshmërinë;
• të drejta të përshtatshme aksesi.

Në asnjë rrethanë modeli nuk duhet të jetë në gjendje të gjejë dhe të shfaqë informacion që përdoruesi nuk është i autorizuar ta shohë në sistemin burimor.

Përgjigjet duhet të citojnë burimet konkrete, sepse kjo:

• lehtëson kontrollin nga ekspertët;
• tregon nëse pretendimi mbështetet në të dhëna të kompanisë;
• ndihmon në dallimin mes fakteve të verifikueshme dhe informacionit të përgjithshëm të modelit.

Për raste veçanërisht të ndjeshme, sistemi mund të udhëzohet të mos japë përgjigje përfundimtare pa një burim të përshtatshëm dhe të verifikueshëm, por të pranojë hapur pasigurinë.

Dimensioni gjeopolitik i zgjedhjes së modelit

Ajo që deri tani mund të duket si çështje thjesht teknike ka edhe një dimension tjetër, shumë më pak teknik: gjeopolitikën.

Ofruesit kinezë i nënshtrohen legjislacionit kinez, përfshirë ligjet për sigurinë kombëtare, të cilat në rrethana të caktuara mund të kërkojnë bashkëpunim me autoritetet shtetërore.

Ky rrezik lidhet kryesisht me përdorimin e API-ve cloud të ofruesve kinezë, ku prompt-et dhe ndonjëherë të dhënat e ndjeshme të kompanisë përpunohen në serverë jashtë vendit.

Por kur përdoren pesha të hapura dhe modeli ekzekutohet lokalisht në infrastrukturë evropiane, ky rrezik ndryshon ndjeshëm.

Në këtë rast, përpunimi i të dhënave zhvillohet tërësisht nën kontrollin e vetë kompanisë.

Një konsulent i Arthur D. Little në Mynih e përmbledh këtë logjikë kështu:

Një model i hapur i zhvilluar në Kinë, por i ekzekutuar në infrastrukturë evropiane, në disa aspekte mund të ofrojë më shumë sovranitet operacional sesa një model i huaj pronësor, kushtet, çmimet ose disponueshmëria e të cilit mund të ndryshohen në çdo kohë pa kontrollin e kompanisë.

Kjo perspektivë sfidon ndarjen e thjeshtuar:

“amerikane = e sigurt, kineze = e rrezikshme”.

Megjithatë, mbetet e hapur çështja e mirëmbajtjes afatgjatë:

• Kush garanton se dobësitë e sigurisë do të korrigjohen?
• Sa i besueshëm është ofruesi në plan afatgjatë?
• Çfarë ndodh nëse mjedisi i tij ekonomik ose politik ndryshon?

Akti i BE-së për IA dhe funksionimi i brendshëm: detyrimet rregullatore nënvlerësohen

Një faktor shpesh i munguar në analizat teknike, por vendimtar për kompanitë evropiane, është kuadri ligjor i Bashkimit Evropian.

Që nga 2 gushti 2025, detyrime të caktuara zbatohen për ofruesit e modeleve të IA-së me përdorim të përgjithshëm.

Që nga 2 gushti 2026, pjesa më e madhe e rregullores është plotësisht e zbatueshme, përfshirë:

• kërkesat për sistemet me rrezik të lartë;
• detyrimet për transparencë.

Për një model me pesha të hapura të menaxhuar vetë, kjo do të thotë se kompania që e vendos merr përgjegjësi shtesë si operator.

Këto përfshijnë:

• mbikëqyrjen njerëzore;
• regjistrimin e aktiviteteve;
• sigurimin e ekspertizës së mjaftueshme për IA brenda stafit.

Modelet që tejkalojnë një prag kumulativ trajnimi prej 10^25 operacioneve me pikë lundruese konsiderohen modele me rrezik sistemik dhe u nënshtrohen detyrimeve më të rrepta për:

• testim;
• vlerësim rreziku;
• siguri kibernetike.

Prandaj, një kompani që përdor një model kinez me pesha të hapura duhet të respektojë plotësisht këto detyrime evropiane, pavarësisht origjinës së modelit.

Zhvilluesi i huaj nuk merr automatikisht mbi vete përgjegjësitë ligjore të kompanisë evropiane që e implementon.

Kjo përgjegjësi e dyfishtë — teknike dhe rregullatore — shpesh nënvlerësohet gjatë projekteve pilot dhe mund të shndërrohet më vonë në një barrë të madhe dhe të kushtueshme.

Çfarë mungon në një logjikë thjesht teknike të implementimit

Edhe një plan teknikisht bindës mbetet i paplotë në disa pika kyçe.

Së pari, shpesh mungon një diskutim i qartë për ciklin jetësor të modelit pas implementimit.

Ofruesit kinezë publikojnë modele me ritëm të lartë. GLM 5.2, për shembull, është tashmë një nga disa përmirësime të mëdha brenda vetëm pak muajsh.

Nuk është e qartë për sa kohë versionet më të vjetra do të marrin përditësime sigurie.

Një kompani që investon sot duhet të planifikojë:

• sa shpesh do të duhet të migrojë në një model të ri;
• sa do të kushtojë kjo;
• sa burime njerëzore do të kërkojë.

Së dyti, shpesh mungon një analizë reale kosto-përfitim që shkon përtej çmimit për token.

Ekzekutimi i brendshëm i një modeli kaq të madh kërkon investime në:

• GPU;
• ftohje;
• furnizim me energji;
• personel të specializuar.

Këto investime nuk do të ishin të nevojshme në një model thjesht cloud.

Nëse vetë-hostimi është ekonomikisht i arsyeshëm, kjo varet shumë nga vëllimi real i përdorimit dhe duhet të llogaritet para çdo vendimi strategjik.

Së treti, mbetet e pazgjidhur çështja e përgjegjësisë në rast dështimi.

Nëse një model i vetë-menaxhuar kontribuon në një vendim të gabuar, kuadri ligjor evropian zakonisht e vendos përgjegjësinë mbi kompaninë që e ka implementuar, jo mbi zhvilluesin e modelit.

Licencat e modeleve zakonisht përjashtojnë shumicën e garancive.

Së katërti, shpesh mungon transparenca për të dhënat e trajnimit dhe paragjykimet e mundshme.

Kjo mund të jetë veçanërisht e rëndësishme për modele me origjinë kineze kur trajtohen tema politike të ndjeshme.

Së pesti, integrimi organizativ shpesh trajtohet sipërfaqësisht.

Një projekt pilot nuk ka nevojë vetëm për menaxherë teknikë, por edhe për një organ vendimmarrës që përcakton:

• kur projekti zgjerohet;
• kur ndalet;
• kur zhvillohet më tej.

Pa këtë kontroll mund të krijohet fenomeni i “shadow AI”, ku departamente të ndryshme zhvillojnë zgjidhje të pakontrolluara dhe të shkëputura nga politika qendrore e kompanisë.

Avantazhi i çmimit

Një nga arsyet kryesore për përhapjen e shpejtë të këtyre modeleve është diferenca e kostos.

Sipas artikullit, përdorimi i API-së së ofruesit kushton afërsisht:

• 1,40 dollarë për 1 milion tokenë hyrës;
• 4,40 dollarë për 1 milion tokenë dalës.

Kjo është afërsisht një e gjashta e çmimit të modeleve të krahasueshme të mbyllura të nivelit të lartë.

Me vetë-hostim të plotë në harduer të brendshëm, kostot për token eliminohen si faturim direkt.

Në vëllime të larta përdorimi, kjo mund të sjellë kursime të konsiderueshme.

Por kjo vlen vetëm nëse investimi fillestar në infrastrukturë mund të amortizohet realisht.

Kjo strukturë kostosh shpjegon pse edhe ndërmarrjet e mesme me buxhete të kufizuara IT po tregojnë interes gjithnjë e më të madh për modele të hapura.

Ato premtojnë akses në teknologji të avancuar që më parë ishte kryesisht privilegj i korporatave të mëdha teknologjike.

Modelet me pesha të hapura: mundësi apo kurth për kompanitë?

Disponueshmëria e modeleve të fuqishme kineze me pesha të hapura po ndryshon ndjeshëm opsionet strategjike të kompanive evropiane në fushën e inteligjencës artificiale.

Por ato nuk zgjidhin automatikisht asnjë nga problemet themelore të implementimit.

Një kompani që dëshiron t’i përdorë me mençuri duhet ta marrë po aq seriozisht:

• arkitekturën teknike;
• detyrimet rregullatore;
• rreziqet gjeopolitike;
• kufizimet reale të burimeve;
• ekonominë e funksionimit afatgjatë.

Mundësia e vërtetë nuk qëndron vetëm te vetë modeli.

Ajo që ka më shumë rëndësi është disiplina me të cilën kompania kalon nga një rast i vogël dhe i verifikueshëm përdorimi drejt një sistemi të qëndrueshëm, në përputhje me rregullat dhe ekonomikisht të arsyeshëm për përdorim të vazhdueshëm./xpert.digital/bg