北周时，宇文护为了镇守蒲州，在蒲州西面的黄河东岸建造了一座戍楼，作军事瞭望之用，这便是后世所称的鹳雀楼。

金元光元年（1222年），蒙古攻打蒲州古城。为延缓敌兵攻城，金军守将侯小叔下令焚毁鹳雀楼及附近的蒲州浮桥等军事设施。

至明初时，鹳雀楼故基犹存，后因黄河泛滥，故址淹没