Emri i provincës ka qenë Calabacito dhe u ndryshua në Albania në vitin 1937 nga një komisar i La Guajira. Komisari i vendosi provincës emrin Albania nga gruaja e tij Alba, të paktën kështu pretendohet.
Popullsia e Albanias është një popullsi relativisht e re e përbërë nga 51% e meshkujve dhe 49% e femrave. 29% e tyre e konsiderojnë veten autoktonë ndërsa 10% mestizo, raizal ose afro-kolumbianë.
Por nëse kërkon hartat e rajoneve të shtetit të Kolumbise zbulon se janë tri qytete me emrin Albania. Përveç të lartpermendurit, qyteti i dytë me emrin Albania gjendet në rajonin e Santander.
Në Jug-Lindje të Kolumbisë në rajonin midis Cauca-s dhe Hula-s, disa qindra kilometra larg kryeqytetit kolumbian Bogota, ndodhet një distrikit i vogël malor, i quajtur, Albania. Distrikti Albania bënë pjësë në prefekturën “Popayán” të qytetit që mban të njëtin emër dhe kufizohet nga qyetet e mëdha Cali, Neiva, Florencia, Tumaco e Pasto dhe është afër me kufirin e Ekuadorit.