Inteligjenca artificiale në ndërmarrje nuk ka nevojë për frena, por për kufij dhe rregulla të qarta. Cilat objektiva dhe rregulla janë të përshtatshme?
Debati për inteligjencën artificiale vazhdon të zhvillohet shumë shpesh sikur të bëhej fjalë thjesht për një tjetër mjet digjital. Fillimisht erdhën chatbot-et për krijimin e teksteve, më pas asistentët e IA-së për kryerjen e hapave të veçantë të punës, ndërsa tani agjentët që synojnë të planifikojnë dhe të kryejnë detyra në mënyrë të pavarur. Por me çdo fazë nuk ndryshon vetëm teknologjia, por edhe çështja e drejtimit dhe e menaxhimit. Kur një agjent i IA-së u jep përparësi klientëve, përgatit çmime ose kryen porosi, nuk mjafton më të pyesim nëse sistemi funksionon.
Pikat kryesore
- Agjentët e IA-së po ndryshojnë menaxhimin e ndërmarrjeve: Ata nuk kufizohen më në dhënien e përgjigjeve, por mund të planifikojnë detyra, të përgatisin çmime, të përzgjedhin klientë dhe të kryejnë porosi në mënyrë autonome.
- Kontrolli njerëzor mbetet thelbësor: Çdo agjent duhet të ketë objektiva të përcaktuara, një person përgjegjës, kufij të qartë veprimi dhe rregulla për përdorimin e të dhënave.
- Blerja e licencave nuk mjafton: Përdorimi i inteligjencës artificiale kërkon vendime strategjike, klasifikim të rreziqeve, kontroll të kostove dhe matje të rezultateve reale.
- Autonomia e IA-së duhet të ketë kufij: Agjentët mund të kërkojnë informacione dhe të përgatisin rekomandime, por vendimet e pakthyeshme, financiare ose që prekin njerëzit kërkojnë miratim dhe mbikëqyrje njerëzore.
- IA-ja mund të kryejë punë, por nuk mund të mbajë përgjegjësi: Çdo vendim i një agjenti duhet të jetë i gjurmueshëm, duke identifikuar të dhënat, rregullat, autorizimet dhe versionin e modelit të përdorur.
- Siguria kërkon mekanizma konkretë: Ndërmarrjet duhet të zbatojnë kontrolle të aksesit, regjistrim të veprimeve, testime, monitorim, procedura për incidentet dhe mundësi për ndërprerjen emergjente të agjentëve.
- Varësia nga platformat teknologjike përbën rrezik: Nëse kontrolli mbi të dhënat dhe vendimmarrjen u kalon ofruesve të jashtëm, ndërmarrjet mund të humbasin autonominë strategjike.
- Suksesi nuk matet me numrin e agjentëve: Sipas autorëve, fituesit e epokës së IA-së do të jenë ndërmarrjet që përdorin teknologjinë për vendime më të mira, duke ruajtur kontrollin dhe përgjegjësinë.
Vendimtare bëhet pyetja se kush përcakton objektivin që ndjek agjenti, cilat të dhëna lejohet të përdorë, çfarë kufijsh duhet të respektojë dhe kush mban përgjegjësi për rezultatin. Pikërisht këtu fillon qeverisja e inteligjencës artificiale (AI Governance). Nuk bëhet fjalë për dokumente etike që, pas mbledhjes, mbeten të harruara në SharePoint, por për mënyrën se si një ndërmarrje e organizon përgjegjësinë. Një agjent duhet të ketë një person përgjegjës, një proces të përcaktuar, kufizim në burimet e lejuara të të dhënave, hapësirë të qartë veprimi dhe kritere të përcaktuara për ndërprerjen e funksionimit.
Blerja e licencave të IA-së nuk mjafton
Në këtë kuptim, qeverisja nuk është një mekanizëm frenues për inovacionin, por parakusht për të. Pa role të përcaktuara, procedura miratimi, gjurmë auditimi, kontroll të kostove dhe mekanizma për ndërprerje emergjente, shpejtësia shndërrohet thjesht në humbje të kontrollit nën petkun digjital. Nga kjo rrjedh edhe një qasje tjetër ndaj buxheteve. Inteligjenca artificiale nuk është thjesht blerje licencash. Ajo është një vendim drejtues. Për çdo agjent të rëndësishëm duhet të ekzistojë një hipotezë e qartë për vlerën që pritet të krijojë, një përgjegjës për procesin, një klasifikim i rrezikut, një përgjegjës për të dhënat, si dhe kufij të qartë të kostove dhe të përdorimit të burimeve.
Si ndryshojnë objektivat në varësi të llojit të agjentit të IA-së? Për shembull, për një agjent të shitjeve duhet të përcaktohen objektiva si koha e nevojshme për përgatitjen e takimeve me klientët, përmirësimi i bisedave me ta ose rritja e të ardhurave. Për një agjent financiar, përkundrazi, rëndësi kanë shkalla e gabimeve, koha e përfundimit të proceseve, gjurmueshmëria për qëllime auditimi dhe përputhshmëria me kërkesat ligjore e rregullatore. Ajo që nuk matet, nuk mund të zgjerohet në shkallë më të madhe. Ajo që matet vetëm gjatë një demonstrimi, nuk do t’i mbijetojë përdorimit në mjedisin real të punës.
Po ashtu, duhet të konkretizohet edhe kuadri etik. Autonomia nuk është një çelës që thjesht ndizet ose fiket, por një spektër nivelesh të ndryshme. Një agjent mund të kërkojë informacione, të hartojë dokumente ose të përgatisë rekomandime. Por, kur bëhet fjalë për vendime të pakthyeshme, me pasoja të rëndësishme financiare ose që prekin njerëzit, nevojiten pragje të përcaktuara, miratime dhe procedura për përshkallëzimin e vendimmarrjes.
Makineria mund të marrë përsipër punën, por jo përgjegjësinë. Kur një agjent përgatit një vendim për përzgjedhjen e një furnizuesi ose propozon një çmim, duhet të jetë e mundur të rindërtohet procesi dhe të përcaktohet se mbi bazën e cilave të dhëna, rregullave, autorizimeve dhe versionit të modelit është vepruar. Justifikimi i rremë se “këtë e bëri IA-ja” përbën neglizhencë organizative. Kush e kupton qeverisjen vetëm si një proces kontrolli, ndërton një mekanizëm frenues. Kush e integron atë në arkitekturën teknologjike, në rolet organizative dhe në proceset e punës, vendos kufij mbrojtës. Këtu përfshihen inventarët e modeleve, kontrollet e aksesit, regjistrimi i veprimeve në sistem, testimet, monitorimi, procedurat për menaxhimin e incidenteve dhe e drejta për ta çaktivizuar sistemin. Nga pikëpamja strategjike, qeverisja e IA-së bëhet çështje sovraniteti.
Ndërmarrjet do të përdorin modele dhe platforma të jashtme, por duhet të shmangin dorëzimin e kontrollit mbi vendimmarrjen. Kush përcakton se cilat të dhëna merr një agjent, çfarë rekomandimi jep, çfarë porosie lejohet të kryejë dhe kur kërkohet miratimi i një njeriu, do të kontrollojë në të ardhmen një pjesë thelbësore të procesit të krijimit të vlerës. Nëse kjo logjikë ndodhet tërësisht brenda një platforme të huaj, krijohet varësi. Në atë rast, ofruesit e jashtëm vendosin për çmimet, rregullat e aksesit dhe standardet e sigurisë.
Prandaj, zotërimi i modelit më të madh nuk përbën ende një avantazh. Përkundrazi, modeli duhet të integrohet në organizatën përkatëse në mënyrë të tillë që të dhënat, proceset, autorizimet dhe përgjegjësia të mbeten nën kontrollin e saj. Nëse një agjent i IA-së nuk i arrin objektivat, përgjigjja nuk duhet të jetë se teknologjia ende nuk ka arritur nivelin e duhur të zhvillimit. Në atë rast, ndërmarrja duhet të shqyrtojë nëse ka zgjidhur problemin e duhur, ka përdorur të dhënat e duhura, ka vendosur kufijtë e duhur dhe ka përfshirë përdoruesit e duhur.
Prandaj, faza e ardhshme e inteligjencës artificiale nuk do të vendoset në dritaren e bisedës me një chatbot. Ajo do të vendoset në zemër të proceseve operative të ndërmarrjeve. Fitues nuk do të jenë ata që kanë numrin më të madh të agjentëve, por ata që mundësojnë marrjen e vendimeve më të mira. Qeverisja e inteligjencës artificiale nuk është pengesë. Ajo është parakushti që shpejtësia të mos shndërrohet në humbje të kontrollit.
Khaled Bagban është drejtor i teknologjisë së informacionit (CIO) në Metro.
Jann Vollmar është asistent ekzekutiv në Metro./FAZ.net
