谷俊山搞经营的才能受到首长的赏识，次年，他被调到济南军区生产办公室，任副主任，正团级。谷俊山后勤管理才干得到充分发挥，职位也迅速蹿升。很快，他升任济南陆军指挥学院副院长，副师级。期间，谷俊山被安排到国防大学进修。

　　此番镀金之旅，是日后他被提拔重用的积极信号。

　　2001年7月，谷俊山奉调进京，任解放军总后勤部基建营房部副部长。进京两年后，谷俊山晋升为少将军衔。从正师级到副军级少将，谷俊山仅用了两年。

　　2007年6月，谷俊山任解放军总后勤部基建营房部部长，全军房改办公室主任。两年后，任解放军总后勤部副部长。2011年“八一”建军节前夕，谷俊山晋升中将，直至2012年2月，解放军总后勤部进行人事调整，谷俊山不再担任副部长。