粉碎“四人帮”后，叶剑英重新主持军委工作，父亲重新担任军委副主席，协助叶剑英工作。后来，邓小平担任军委主席，父亲又协助邓小平工作。在他有生之年，他一如既往关心军队的现代化、正规化建设。
1979年6月的一天，邓小平与父亲谈话，让他负责调整、配备新一届解放军总部、军兵种、大军区领导班子。这是邓小平对父亲的信任。父亲奉命与总政治部及干部部门领导反复研究，并找一些干部调查了解，提出了各级班子的人选，最后经军委邓小平、叶剑英、徐向前共同讨论，确定下来。这次配备班子，认真贯彻了革命化、年轻化、知识化、专业化的要求，上上下下比较满意。
“这个聂老总，考虑得真周到。”
老同志出来工作后，随着时间推移，干部年轻化问题又显得尤为重要。这个问题现在似乎不那么严峻了，但在当时，想打破高级干部终身制，是有很大难度的，矛盾也很尖锐。
父亲在这个问题上非常想得通，他不迷恋权力。为了让更多年富力强的人进入党和国家的领导岗位，1980年8月8日，他给中央写信，请求辞去全国人大常委会副委员长职务。
