1962年，罗荣桓的病越来越重，血压不稳，心脏也不好。1963年9月28日，肾衰引起尿毒症，罗荣桓住进北京医院，进行腹膜透析。毛泽东。刘少奇。朱德等对他的病情非常关注，指示医院大力抢救。
1963年12月16日，罗荣桓逝世。当晚，毛泽东在中南海颐年堂主持会议。会前，毛泽东提议大家起立为罗荣桓默哀。几天后，毛泽东写成七律《吊罗荣桓同志》，这是毛泽东唯一的悼念元帅诗。12月19日，毛泽东。刘少奇。朱德。邓小平等党和国家领导人来到北京医院，向覆盖着中国共产党党旗的罗荣桓的遗体告别。12月21日，首都各界6万多人来到劳动人民文化宫吊唁。12月22日上午9时，刘少奇。朱德。邓小平。林彪等吊唁，并轮流守灵。10时，人民大会堂举行公祭大会，国家主席刘少奇主祭，朱德。邓小平。林彪陪祭。总书记邓小平致悼词，称罗荣桓是解放军的杰出领导人之一，对中国人民解放事业作出了不可磨灭的贡献。公祭结束，林彪与邓小平等护送罗荣桓的骨灰到八宝山革命烈士公墓。后来，罗家儿女将父母的骨灰合葬在八宝山革命公墓一区。
