弼不和，富弼考虑不能和他争执，多次声称有病告退，数十次上章。神宗将允许他告退，问他说：“你告退，谁能够代替你？”富弼推荐文彦博，神宗沉默不语，很久了才说：“王安石怎么样？”富弼也沉默不语。八月，出授武宁军节度使、同中书门下平章事、判河南府。经富弼请求，改判亳州。
青苗法颁布后，富弼认为这样就会财利聚集于朝廷，而人心分散，坚持不执行。提举官赵济弹劾富弼不执行圣旨，侍御史邓绾又乞求将其交付有司处置，于是以左仆射之职改判汝州。王安石说：“富弼虽受责罚，还不失于富贵。从前鲧由于违命被诛杀，共工由于貌似恭敬而内心傲狠被流放，富弼同时犯有这两条罪行，只夺去使相之位，又怎能阻止奸邪呢？”神宗不回答。富弼说：“新法，臣下不知晓，不能用来在我的郡县实行，愿回洛阳养病。”神宗同意。不久后，富弼上疏请求告老回乡，神宗恢复其武宁军节度使及同平章事之职，命其以司空、韩.国公之衔致仕。
富弼虽然居住在家，朝廷有大事，他都知无不言。郭逵征讨安南，他乞求诏令郭逵选择有利地位以便进退，来保全军队；契丹争执河东地边界，富弼认为朝廷不能答应给地；星象发生变化，请求广开言路；又请求尽快更改新法，来解除百姓倒悬之急。神宗虽然没有全部采用，但眷念礼待没有减少，曾经因为王安石要推行某种新措施，神宗推辞说：“富弼亲手书写上疏称‘老臣无所告诉，只望着屋顶私下叹息’的那种情形，很快就会出现了。”神宗对他如此敬重。
同知谏院范纯仁曾写了一篇《尚书解》献给宋神宗，并解释道：“富弼蒙受三朝君主的恩顾和倚重，应当自己主动担当国家的重任，可他却为自己之事的忧虑超过了为众人之事的忧虑，为自己疾病的忧虑超过了为国家的忧虑，在报效君主和立身处世两个方面都有过失。”
元丰三年（1080年），“元丰改制”施行，富弼被任命为开府仪同三司。同年，前宰相王尧臣之子王同老上书朝廷说：“先父（王尧臣）任参知政事时，正当仁宗服药，曾经与富弼和文彦博商议立皇储之事，正巧第二天仁宗病愈，此事就作罢。”神宗向文彦博确认后方得知实情。神宗嘉奖富弼不自夸功劳，授他为司徒，并升其子富绍京为阁门祗候。
元丰六年闰六月二十二日，富弼在洛阳的家中去世，终年八十岁。亲手封存遗奏，让他的儿子富绍庭献给朝廷，其内容大致为：
陛下即位的时候，正是邪臣采纳进言任命官员的时候，听受不适宜，致使陛下失聪误明，逐渐养成祸患。如今上自辅臣，下到士人，都害怕祸乱图谋利益，长久以来成了一