寺位于靖远县东升乡上埫村苦水堡，系靖远历史名山之一，据《钞录》于民国三十年（公元1941年），收录升云寺明和尚朱楷之法号悟龙，于明成祖（朱棣）永乐五年（公元1407年），所撰《悟道玄机録》中记：“旁蒯团山耸，据啰逋川之上，宋曰葫芦峪，两狼山隘要，徒锁黄川，自始为驲道，依驲道骑行南出，捷虎狼关，古曰双龙山，官军置堡，造佛释氏殿、三清宫、月明楼，始源北魏太平真君丁亥（真君八年公元447年）尔缮工，即后凡毁续建，传至升云时，故名曰升云寺，升云者吾佛圣道乐年，自始蒼柏耸森，云雾遮日，日凤鸿鹤，降止山泉，双龙盤地，地微动曰升云也”。

山寺历史上屡建屡毁，至民国三十年（公元1941年），庙建成规模为：“三楼、九宫、十八殿”，建築群的痕迹宏大，结构合理，层次分明，是传承了唐代建築风格，东邻蒼龙山，石隆山二十里，是群体係到古建築工程。

山势宏伟，慾慾曚曚，据载在明代时，松柏蒼径，香柏浓氛，桦树盤山，曰桦屏县。

为保护文物古迹，群众自愿捐资捐物，投劳投力重建卧龙山，经二十多年筹资重建，依照旧传统：佛殿和东西二殿、三清宫、圣母殿、龙王宫、月明楼、三官殿、城隍殿，厢房二十六间，各宫殿圣像，金容慈祥，焕光映辉，栩栩如生。

1988年四月，靖远县政府，为保护文物古址，列为县级文物保护单位，立碑注册。2002年十一月一日，经省佛协会批准，例为省佛教协会开放寺院。

卧龙山自然风貌迷人，荫荫丛生各种植物，植被丰富，山泉甘冽，旁有古城堡遗址，可见其历史悠久。