1975年，在毛主席的提议下，陈永贵被任命为副总理，负责农业方面的事务。陈永贵为人正直，不谋取公家私利，平时生活简朴节约。然而，尽管他的个人品德无可挑剔，他的工作能力却显得有些欠缺。 陈永贵出身贫困的农民家庭，早年没有机会接受正规的教育。凭借自己的努力，他成了一名能干的农民，精通农业生产。直到新中国成立后，他才有机会进入扫盲班学习，掌握了一些基本的文字知识，能认识大约一千个字，勉强能够看书和报纸。尽管他的阅读能力足以应对日常的阅读，但面对中央政府的文件，特别是涉及国家政策和理论的文件，他常常感到吃力。很多时候，他的工作依赖秘书的帮助，由于自身的知识限制，他容易受到他人的误导。

在政治局会议上，大多数人建议对陈永贵进行停职检查，毕竟他确实做了一些不合时宜的事情，也说了一些不利于党和国家的话，需要承担责任。邓小平听取了大家的意见后，长叹了一口气，说道：他本来可以成为一名出色的农村基层领导人，为什么要把他放在副总理的职位上，这不是让他受罪吗？为了帮助陈永贵不带着污点离开领导岗位，邓小平决定与他进行一次单独谈话。 在见到陈永贵后，邓小平直入正题，明确指出：作为党员，你可以保留自己的观点，但必须服从党的纪律。如果背着组织搞阴谋，就要按照党纪国法处理。陈永贵听后似乎意识到问题的严重性。 见他仍然没有完全明白，邓小平接着说：对于你的缺点和错误，你能认识多少就检查多少。陈永贵当即表态：我服从党的纪律和规定。随后，在1980年3月召开的第五届人大三次会议上，陈永贵的辞职报告得到了通过。 尽管陈永贵离开了领导岗位，中央对他的关怀并未减少。胡耀邦还专门安慰他说：你不是四人帮的人，不要背负思想包袱，好好休息。退休后的陈永贵享受了行政13级待遇，并过上了相对平静的生活，直到1986年去世，享年72岁。