张作霖在外面混了一阵子，流落到一家客店打杂，这家客店有个伙计有治牲口的本事，算个半吊子的兽医，张作霖向他学了一阵。不久以后开了一家兽医店，平时帮来往的客商治治生病的马匹，也正是在这个时候，他认识了一些土匪，对土匪这个行当有了一些了解。
原本以为，可以开着这个兽医店生活下去，不想生意做得不错以后，兽医店成了官府的肥羊，经常敲诈勒索张作霖，原本就本小利薄，被这样一折腾，很快兽医店就倒了。为了生计，张作霖去参了军，可是军队打了败仗，招募来的新兵一哄而散，张作霖只好拿着几个月的军饷回了老家。
娶了赵地主家的女儿，过上了自己的小日子，然而没想到的是，赵家的仇人报官说张作霖是逃兵，张作霖再次遭到通缉，又开始了逃亡的生涯，这一次他逃到了岳父赵家。
东北当时土匪横行，老百姓为了自保纷纷成立民团，由于张作霖在军队待过，他的到来成了这个民团的主心骨，很快成了民团的头目。张作霖靠着这二十多人的民团，多次打败前来袭击的土匪，民团也扩大到了一百多人。
