担任过张则村多年村支书的郭振华说，郭家孩子多，家庭经济也比较拮据，五兄弟都没上过高中。小时候，郭家老大郭伯雄在村里张泽小学上学，后到县里仓小学习，相当于现在的初中。在他的印象中，郭伯雄学习一般，但为人“说一是一说二是二”。1958年，招工指标下发到村里，时任村支书的郭振华推荐郭伯雄到临县的国营408厂当了工人。
1958年8月，初中未毕业的郭伯雄进入陕西兴平市408厂工作，这一年他16岁。
1961年，在408厂工作了3年的郭伯雄，给厂里工友们留下印象褒贬不一。郭伯雄平时喜欢交朋友，脑子聪明，胆子大，经常做一些不守陈规的事情。最让工友们记忆深刻的是，别人写海报是写好往墙上贴，而郭伯雄是先把纸贴到墙上再写字，一位408厂退休的老人回忆说。
是年9月，郭伯雄离开408厂，踏上西去的运兵专列，从此开启了他的军旅生涯。
郭伯雄被分到陆军19军第55师164团8连服役，从此，他与19军结下不解之约。此后的24年里他一直在19军任职，直至1985年19军被撤销。
郭伯雄所服役的164团，有着特殊的“身份”。军史记载，该团创建于1937年7月8日，前身为薄一波麾下的山西新军213旅59团一部。1948年6月，改编为陕南军区12旅35团，1949年5月改编为19军55师164团。
1962年，郭伯雄刚入伍一年多，在部队里是一个新兵。从这年春天开始，印度屡次侵犯西藏边境，同年11月4日，郭伯雄所在的164团，秘密从西宁郊区驻地被调往中印边境。
11月16日，中印反击战中有名的“西山口战役”打响，当时164团是整个战役的预备队，主要任务是防止印军突袭、空袭和空降，实际任务是负责打扫战场，组织搜索残余印军。据时任164团长王广义回忆录记载，当时164团开赴前线的只有5个步兵连，还有一个炮营，共800多人。郭伯雄所在3营8连和9连在江西沟农场，没有被安排为主力。
一位老兵称，郭伯雄所在的8连和9连确实没有上过前线，有些资料信息有误。当时，他们正在青海湖边收割青稞。在粮食严重短缺的年代，部队也要靠自己丰衣足食。
虽然郭伯雄未参加“西山口战役”，但这并未影响他后来快速提干。入伍仅3年，他就被提拔为164团8连排长。
