中央军委办事组是于1967年8月17日根据中共中央、中央军委的决定成立的，是在“文革”的特殊情况下负责中央军委日常工作的办事机构。1968年3月，“杨、余、傅事件”后，军委办事组改组，由黄永胜、吴法宪任正、副组长，成员有叶群、李作鹏、邱会作。此后，军委办事组实际上取代了中央军委常委会，林彪一伙控制了军委很大一部分权力。
毛泽东、周恩来等对林彪重兵在握很是担忧，也很警惕，最后考虑用“掺沙子”的方法抑制林彪势力的增长。可是这“沙子”的人选并不太好找：老帅们受冷落，都没有出来工作；老将们受冲击，掺进去也不合适，搞不好更要挨林彪的整。进军委工作的人首先要不会和林彪一伙搞到一块儿去，并且还要有一定的群众基础。开始酝酿增选人员名单时，林彪一伙并没有提李德生的名字。毛泽东和周恩来经过反复考虑，决定把李德生等几个人当作候选人。最后，在审定名单时，毛泽东亲笔加上了“还有李德生同志”。
1969年4月28日，中共第九届中央委员会政治局第一次会议通过了新的军委办事组成员名单。除原有人员外，新增加了李德生、刘贤权、李天佑、温玉成、谢富治。
李德生从来没有在林彪的领导下工作过，所以军委办事组成员几乎不和他交流情况：轻一点把他当外人，什么话都不跟他说；重一点则把他当敌人，想法排挤、整治他。有时军委开会，整场会议像没李德生这个人似的。表决什么问题，事先不征求他的意见，事后不同他交换看法，李德生同意不同意横竖是要通过的。人在这个环境里会是什么感受，可想而知，谁都会有压抑感、陌生感和被排斥感。可是，李德生却默默承受了这种冷漠和轻视。他心里只想着一点：我是主席和总理派来工作的，我的行为只对中央负责，只对军委负责，至于个人的失落委屈，不过是暂时的，就当它是过眼烟云，不往心里去，不往脸上挂。后来毛泽东问他情况时，他也不多说自己的困难。
当时，按政治局的意见，李德生分管军队政治工作。1970年，总政治部恢复职能后，李德生担任了总政主任。在非常困难的情况下，他表面上沉默寡言，但私下却积极调查研究，了解各方面的情况。
