1931年，侵华日军发动九一八事变后，完全侵占中国东北，并成立满洲国，此后陆续在华北、上海等地挑起战争冲突，国民政府则采取妥协政策避免冲突扩大。在日本侵华战争中
阎锡山摸着八字胡须微笑着说：“孙连仲的机关人员，胡宗南的一些人员都要经风陵渡过河，由山西去保定和北平，看来山西以后的事情是很复杂的”。他要孙楚打电话给晋南的高倬之，“务必把运城地区的治安维持好。要紧的是协助盐务局顺利接管。”这时候，阎锡山和他的将军们都沉醉在胜利的喜悦之中，似乎觉得现在他同共产党的斗争已经胜利在握，令其担心的只是将来如何应付蒋介石或如何和蒋介石分庭抗礼了。
中共中央和中央军委对晋东南的形势十分关注。根据毛泽东提出的斗争方针，8月28日指示晋冀鲁豫军区司令员刘伯承、政委邓小平：“集中太行、太岳优势兵力首先歼灭阎伪进入长治军队”。8月31日，再指示刘、邓：“阎部一万六千占我长治周围六城，乃心腹之患，必须坚决彻底全部歼灭之”。
在作战方法上，中共中央指示：“唯诸城堡坚垒密，需有充分准备，切不可草率，进攻时宜选择一两城，各个击破，不宜同时攻击六城。如攻而不克，可围城打援”。9月4日，中央军委又进一步指示：“在进行上党战役过程中，阎(锡山)如从太原、临汾、平遥来援，待其到适当地域给予歼灭。你们应有此独立的灵活的机动作战准备。”
根据中共中央和军委指示的方针，晋冀鲁豫军区领导将太行、太岳和冀南的部队编为3个纵队，加上地方部队共3万余人，集中到长治作战，并动员5万民兵配合。针对阎军孤军深入和分散守备的弱点和考虑到八路军的战斗实力，刘、邓确定了首先逐次夺取长治外围各城，以主力的大部配置在机动位置，准备在野战中歼灭由长治出援之敌，尔后攻取长治，相机歼灭可能自太原、平遥来援的敌人的作战方针。根据地人民在政治上进行了广泛的动员，其口号是“为保卫胜利果实而战”、“为支援毛主席谈判而战”。
