1980年2月,十一届五中全会以前,中央常委经过多次讨论,一致认为应把国务院总理的职务进行调整。决定补选胡耀邦、赵紫阳为政治局常委,同意华国锋辞去国务院总理兼职,而由赵紫阳接任。1980年9月,五届人大三次会议接受了中共中央的提议,解除了华国锋的总理兼职。从权力配置上看,中共中央主席和国务院总理这样重要的职位由一个人兼任并不合适,这一变动,即使是在华国锋没有错误的情况下,也应属正常调整。在这一事关重要的总理人事变动同时,邓小平宣布他和李先念、陈云、徐向前、王震、王任重等人亦不再兼任副总理职务。而另一位副总理陈永贵也提出了解职的请求。
1980年11月19日,在中央政治局会议上,胡耀邦发言说:国锋同志是1938年参加工作的,也应该说是一个老同志了。国锋同志也是一级一级上来的,40多年来,国锋同志也是积累了相当丰富的工作经验,也有一定的水平,我看也是应该肯定的。国锋同志在粉碎“四人帮”这个问题上,确实是做出了很大贡献的。这是历史事实。粉碎“四人帮”后,全党、全国人民,包括老同志,确实是真心诚意拥护国锋同志的。但是,我觉得,国锋同志没有正确对待一个党员对党和人民应该做出的贡献。胡耀邦在谈到华国锋同党同人民的关系摆得很不正确的时候,将他的表现列举了五条,即:第一条,对个人在粉碎“四人帮”斗争中所起的作用的认识上,表现得很不正确。第二,粉碎“四人帮”以后,拨乱反正一开始,或者叫一起步,国锋同志就离开了当时全党、全国人民的迫切愿望。第三条,在干部方针上,脱离了全党绝大多数同志的意志。第四条,在对待毛泽东同志的问题上,确实采取了实用主义的态度。第五条,在突出个人问题上,造成了十分有害的影响。此外,胡耀邦也谈到了经济问题,认为一个高指标,一个大轰大嗡,华国锋也负有责任。鉴于此,1980年11月19日,胡耀邦在政治局会议上指出:国锋同志继续当党的主席、军委主席,看来党内多数同志是不会赞成的。因此,国锋同志自己提出要辞去这两个职务,我觉得好。这对党、对华国锋同志自己都有好处。
在1980年的11月12日的中央政治局会议期间,许多人都建议邓小平担任中央主席兼中央军委主席,邓小平婉言谢绝。他认为,在60多岁人当中,胡耀邦政绩显著,所以力荐胡耀邦担任中央主席并对胡耀邦说要“当仁不让”。1980年12月5日,是中央政治局会议的最后一天。华国锋发言,表示欢迎对他的批评,并再次提出辞去现任职务。1981年6月,在党的十一届六中全会上,华国锋正式辞去中央主席和中央军委主席的职务,但仍保持了中央副主席和中央常委的职位。1982年,中共十二大时,华国锋保持了中央委员的席位,但没有进入中央政治局。
1987年,中共十三大,华国锋继续被选为中央委员。党的十四大、十五大,华国锋继续当选中央委员,至此他已是连任七届中央委员。
邓小平评论华国锋时指出:“华国锋只是一个过渡,说不上一代,就是‘两个凡是’也是继承了毛泽东晚年的治国方略。他本身没有一个独立的东西。”晚年的华国锋,生活很有规律,心情很平静。偶而外出转一转,有时过年过节也看看老领导、老战友、老部下。