不久以后开了一家兽医店，平时帮来往的客商治治生病的马匹，也正是在这个时候，他认识了一些土匪，对土匪这个行当有了一些了解。
原本以为，可以开着这个兽医店生活下去，不想生意做得不错以后，兽医店成了官府的肥羊，经常敲诈勒索张作霖，原本就本小利薄，被这样一折腾，很快兽医店就倒了。
为了生计，张作霖去参了军，可是军队打了败仗，招募来的新兵一哄而散，张作霖只好拿着几个月的军饷回了老家。娶了赵地主家的女儿，过上了自己的小日子，然而没想到的是，赵家的仇人报官说张作霖是逃兵，张作霖再次遭到通缉，又开始了逃亡的生涯，这一次他逃到了岳父赵家。
东北当时土匪横行，老百姓为了自保纷纷成立民团，由于张作霖在军队待过，他的到来成了这个民团的主心骨，很快成了民团的头目。
张作霖靠着这二十多人的民团，多次打败前来袭击的土匪，民团也扩大到了一百多人，甚至有一个土匪仰慕张作霖的为人，把全部人马交给了张作霖统领。这个土匪待的地方叫做八角台，从这个时候起，张作霖在八角台站住了脚跟，开始了自己土匪的生涯。
其后，张作霖用智谋，用武力，扩大自己的地盘，名声也逐渐响亮。张作霖发迹以后，不想再当土匪了，他打算漂白，成为名正言顺的正规军。
