1974年底，李先念和纪登奎两位同志受中央委派，去了李德生同志同志谈话。谈话开始不久后，他们直接了当地地李德生说：“德生同志，你应该明白，你是党中央的副主席，我们两个人只是政治局委员，按照规矩，我们是没有资格和你谈这次话的。要你辞职，是毛主席的意思。”
据纪登奎回忆，听了这句话后，李德生便没有再说什么。1975年1月，李德生同志在十届二中全会上辞去了中央副主席的职务，但依旧保留了政治局委员、沈阳军区司令员的身份。80年代，他出任解放军国防大学政委。
从开国少将干到中央的副主席，李德生无疑是我军里的头一份。而据纪登奎回忆，李德生的这次辞职，也使他成为了党内开辞职先例的第一人，在此之前是没有辞职这一说的。
李德生，1916年出生于河南新县，7岁学裁缝，给别人放牛糊口。13岁当儿童团团长，站岗放哨，给红军送信。一年后李德生加入红军，所在部队番号为红11军31师3团2营4连，这个师的师长，正是日后成为四方面军总指挥的徐向前元帅。
由于李德生年纪较小，参加革命也比较晚，他在红军时期并没有达到特别高的职务，基本只是班长一级。抗战开始后，21岁的他在八路军129师担任通信排长，参加了夜袭阳明堡战斗，之后历任连长、副营长、营长、团长。
解放战争期间，李德生在晋冀鲁豫野战军（中野）6纵担任17旅旅长，这是王近山、杜义德的部队。在此期间，李德生的战功日益显著，和尤太忠旅长、肖永银旅长并称为6纵的三把尖刀。无论是挺进大别山、陇海、定陶、襄樊，还是淮海战役中的双堆集围歼战，他都有着非常亮眼的表现。
1949年2月，李德生升任二野3兵团12军35师师长，参加渡江战役，然后千里追击，攻克重庆，决战成都。
新中国成立后，李德生率领35师参加抗美援朝战役第五次战役，在金城防御战、上甘岭战役中打出了威名，一时间成为全军著名的青年将领。当时他才35岁。回国后，李德生升任12军军长，并获得开国少将军衔。
战争结束后，李德生还如何进入毛主席和中央的视野的呢？那是1967年8月，李德生奉命率领12军进入安徽执行稳定社会秩序的任务，这期间，李德生的表现出色，各组织大联合非常成功，很多老干部被保护了起来，安徽的钢铁、煤炭和农业也都得到了恢复和发展。
1968年，中央任命李德生为安徽省革委会主任、安徽省委第一书记兼安徽省军区司令员，也就是人们说的“三个第一”。同年10月的八届二中全会上，毛主席当众询问了李德生，他是如何解决安徽问题的，李德生的回答令毛主席非常满意。
毛主席对青年干部是非常呵护和栽培的，1969年，李德生当选中央委员，政治局候补委员，进入中央军委办事组和国务院业务组工作。1970年，他担任解放军总政治部主任。由于他在九届二中全会上光明磊落，不跟风，不起哄，回到北京后，毛主席让他参与主持军队日常工作，并以“挖墙角”的名义任命李德生为北京军区司令员。和他搭档的军区政委，正是纪登奎。
1973年春，中央决定筹备召开十大，在讨论提名候选人的时候，毛主席指出，现在的候选人中，有“老的”，有“青的”，但是还有“中的”。按照当时的规定，39岁以下为青年，60岁以上为老年，讲究一个“老中青三结合”。周总理于是说：我觉得李德生同志可以作为一个候选人，毛主席表示同意。
当时李德生也在现场，他觉得自己能力有限，害怕承担不了这样的重任，于是提议李先念同志代替自己，李先念拉了拉他的衣服说：“毛主席已经表态了，你不要再说了。”就这样，在十届一中全会上，57岁的李德生当选为党的副主席。由于走到台前，李德生此后遭到了一些人别有用心的指责和无端的批评。
1973年12月，全国八大军区司令员对调，北京军区的李德生和沈阳军区的陈锡联对调，李德生越来越感觉到形势复杂。再者，他调离北京后，实际上已经不再参加中央活动，因为他认为有必要主动辞去政治局委员、常委和副主席的职务。中央派李先念和纪登奎和他交谈后，同意他辞去其中的两个职务，仍保留政治局委员的职务。李德生向中央写信后，毛主席批示同意。
此后，李德生在沈阳军区担任司令员，一直到1985年。从这个职务退下来后，李德生调到新组建的国防大学担任政委、党委书记，和校长张震搭档，继续为军队建设做出了贡献。1990年4月，李德生从这个岗位上退休。