红军到达陕北后，中央清算了张国焘的分裂主义路线，但对他手下的干部还是团结和爱护的，谢富治也受到了中央的重视。抗日战争爆发后，红军进行整编，谢富治被任命为八路军三八五旅政委。
当时三八五旅的旅长是陈赓。应该说，谢富治与陈赓的合作是好的。许多重要战役都是他们二人共同商定后组织实施的。
谢富治与陈赓一起，创造了许多发动群众、组织群众、武装群众好的办法。
抗战八年，谢富治在太岳地区活动了八年，可以说，他为抗日战争的胜利和发展，壮大我军，是做出了贡献的。
1945年9月，谢富治任晋冀鲁豫太岳纵队政治委员。重庆谈判期间，陈赓、谢富治正确地领会中央意图，发起上党战役，配合了重庆谈判。
重庆谈判后不久，谢富治改任晋冀鲁豫军区第四纵队政委。1947年8月，中共中央军委在这个纵队基础上组建兵团。
这就是名盛一时的“陈谢兵团”。陈谢兵团组建不久，就奉中央之命，挺进豫西，牵制并歼灭了大量国民党军队，有力地配合了刘邓大军挺进中原。
