2003年7月晋升为少将军衔，2011年晋升为中将军衔。2012年初被免职。
“总后勤部原副部长谷俊山有腐败问题，这样的高官犯罪，令老百姓很不满意”——2013年8月1日，国防大学教授公方彬在人民网与网友在线交流时说的这句话，引起舆论极大关注。这是自2012年1月传出谷俊山“被去职”的消息以来，军方人士首次公开证实谷俊山贪腐问题。
案发后接受调查
“谷俊山腐败案”最早是在2012年春节期间流传开的。当时，海外有消息称：总后勤部副部长、中将谷俊山因违纪被免职，正在接受组织的调查。香港《文汇报》随即报道指出，登陆国防部网站，发现“在‘军委总部领导’一栏的总后勤部领导序列中，已看不到谷俊山名字。国防部网站显示，谷俊山最近一次以总后勤部副部长身份在媒体上公开露面，是2012年1月18日在北京参加总后勤部老干部新春团拜会”。
2012年1月29日，中国军网的一位记者在新浪上发了一条微博，称军中又出了个“王守业”。2005年海军副司令员王守业落马，次年因“滥权贪污、挪用公款1。6亿元”等罪名被判处死缓，被称为解放军史上第一贪。在总后勤部基建营房部部长这个位置上，王守业是谷俊山的前任。
