不久以后开了一家兽医店,平时帮来往的客商治治生病的马匹,也正是在这个时候,他认识了一些土匪,对土匪这个行当有了一些了解。
原本以为,可以开着这个兽医店生活下去,不想生意做得不错以后,兽医店成了官府的肥羊,经常敲诈勒索张作霖,原本就本小利薄,被这样一折腾,很快兽医店就倒了。
为了生计,张作霖去参了军,可是军队打了败仗,招募来的新兵一哄而散,张作霖只好拿着几个月的军饷回了老家。娶了赵地主家的女儿,过上了自己的小日子,然而没想到的是,赵家的仇人报官说张作霖是逃兵,张作霖再次遭到通缉,又开始了逃亡的生涯,这一次他逃到了岳父赵家。
东北当时土匪横行,老百姓为了自保纷纷成立民团,由于张作霖在军队待过,他的到来成了这个民团的主心骨,很快成了民团的头目。
张作霖靠着这二十多人的民团,多次打败前来袭击的土匪,民团也扩大到了一百多人,甚至有一个土匪仰慕张作霖的为人,把全部人马交给了张作霖统领。这个土匪待的地方叫做八角台,从这个时候起,张作霖在八角台站住了脚跟,开始了自己土匪的生涯。
其后,张作霖用智谋,用武力,扩大自己的地盘,名声也逐渐响亮。张作霖发迹以后,不想再当土匪了,他打算漂白,成为名正言顺的正规军。