OpenAI ka prezantuar Jalapeño, një çip të zhvilluar në bashkëpunim me Broadcom për ekzekutimin e modeleve të inteligjencës artificiale. Testet e para duken premtuese, sidomos sa i përket konsumit të energjisë elektrike, një faktor vendimtar për qendrat e mëdha të të dhënave. Megjithatë, çipi ende nuk ka hyrë në prodhim masiv.
Kur përdorim ChatGPT, një model i inteligjencës artificiale nuk trajnohet nga e para sa herë që i bëjmë një pyetje. Ai është trajnuar më herët. Në momentin kur jep përgjigjen, kryen atë që quhet inferencë: përdor njohuritë e fituara gjatë trajnimit për të gjeneruar tekst, kod apo përmbajtje të tjera.
Pikërisht këtë fazë synon Jalapeño, çipi i parë i OpenAI i projektuar posaçërisht për inferencën e inteligjencës artificiale.
Pse OpenAI po prodhon çipin e vet
Deri më tani, OpenAI është mbështetur kryesisht te çipat e furnizuar nga kompani të tjera, veçanërisht nga Nvidia. Projektimi i një çipi të vetin do t’i mundësonte kompanisë të kontrollonte më mirë kostot, performancën dhe konsumin e energjisë.
Jalapeño është zhvilluar në bashkëpunim me Broadcom, një prej kompanive të njohura të industrisë së gjysmëpërçuesve. Projekti thuhet se ka nisur në mesin e vitit 2024, ndërsa dizajni përfundimtar është dërguar për prodhim në nëntor 2025.
Sipas SemiAnalysis, që pati mundësi ta shihte çipin në laboratorët e OpenAI, Jalapeño nuk është projektuar vetëm për modelet e vetë kompanisë. Ai mund të ekzekutojë modele të ndryshme të mëdha gjuhësore.
OpenAI madje e përdori atë për të ekzekutuar lojën klasike Doom, të përshtatur për këtë çip me ndihmën e Codex. Natyrisht, ky nuk është përdorimi kryesor i Jalapeño-s, por demonstrimi tregon se arkitektura e tij nuk është e kufizuar vetëm në një skenar të caktuar.
Rezultatet e para janë mjaft të mira. Sipas vlerësimit të SemiAnalysis, Jalapeño tejkalon disa çipa konkurrues në një tregues shumë të rëndësishëm: numrin e tokenëve të gjeneruar për megavat energji të konsumuar.
Një token, thënë thjesht, është një njësi e vogël teksti që përpunohet nga një model i inteligjencës artificiale. Sa më shumë tokenë të mund të gjenerojë një çip duke përdorur sa më pak energji, aq më i vlefshëm bëhet ai për një kompani si OpenAI.
Çështja mund të duket shumë teknike, por problemi themelor është i thjeshtë.
Qendrat e mëdha të të dhënave nuk kufizohen vetëm nga numri i çipave që mund të blejnë. Ato kufizohen gjithashtu nga sasia e energjisë elektrike që mund të sigurojnë. Prandaj, një çip më efikas mund t’i lejojë OpenAI të shërbejë një numër më të madh përdoruesish me të njëjtën sasi energjie.
Edhe softueri luan një rol shumë të rëndësishëm.
OpenAI mbështetet te Gluon, gjuha e saj e programimit për kernelët, si dhe te Codex, për të përshpejtuar shkrimin dhe optimizimin e disa pjesëve të kodit të nivelit shumë të ulët.
Me fjalë të tjera, kompania po përdor mjetet e veta të inteligjencës artificiale për të përmirësuar mënyrën se si çipi i saj ekzekuton modelet e IA-së.
Megjithatë, rezultatet duhet të interpretohen me kujdes.
Një pjesë e të dhënave vijnë nga vetë OpenAI, edhe pse SemiAnalysis thotë se ka pasur mundësi të verifikojë drejtpërdrejt një pjesë të tyre në laboratorët e kompanisë.
Gjithashtu, ende nuk janë kryer të gjitha testet, veçanërisht ato që simulojnë më mirë ngarkesa të gjata, komplekse dhe përdorime të avancuara agjentike.
Jalapeño është një çip real dhe funksional, por aktualisht ekziston kryesisht në formën e mostrave inxhinierike. Prodhimi pritet të rritet gradualisht gjatë vitit 2027, ndërsa vëllimet më të mëdha parashikohen drejt fundit të atij viti.
Burimi: Journal du Geek / OpenAI / SemiAnalysis
