相传在三国时期，刘备、关羽、张飞三个结义兄弟统兵路过山西，发现此处地势高耸，于是决定兵分三路驻扎，诸葛亮提议三人各射一箭，箭落之地为本部兵马驻扎之处，大哥刘备先射，箭射的太高，几乎落回原地，故此地被后人命名为刘备山。