房峰辉出生于1951年4月,陕西彬县人,1968年2月以17岁之龄入伍参军,一直在新疆军区下辖部队任职,历任排长,团、师、军、司令部作训参谋,军党委秘书、师司令部作训科科长,团参谋长,团长,师参谋长,新疆军区副参谋长、师长,1988年被授予大校军衔。
1996年5月,房峰辉任兰州军区21集团军参谋长,并于1997年转任副军长。 同样在1997年,郭伯雄回到自己的发迹之地兰州军区任司令员,二人开始有了较直接的交集。1998年,房峰辉晋升少将军衔,1999年升任21集团军军长,首度出任正军级职务。
2002年,郭伯雄从常务副总参谋长职位上实现跳跃,直升军委副主席,并在此职位上坐了10年之久。2003年12月,房峰辉跨越千里,升任广州军区参谋长,位列副大军区级。2004年12月,张阳出任广州军区政治部主任,房、张首次在一个班子里共事,时间近3年。