就这样怀着几分惆怅几分失落，赵普第二次告别中书，来到距京城不算太远的邓州城。不过，他依然关注着朝廷的动向，没有将政治情缘完全了却。也倒是，赵普是典型的政治动物，愈老弥坚。离开庙堂后，没有闲情逸致，唯有韬光养晦。
雍熙三年（986）三月，太宗皇帝经过数年的准备，兵分三路，再度发动对辽朝的进攻，期望收复幽云十六州，建立盖世功业。但军事行动持续到五月下旬，就再度惨败。宋军班师后，损兵折将不说，又引起某些臣僚的非议。对此，太宗内心充满耻辱感，需要解脱，但还不得不强打精神对臣子们做出解释，以稳定众心。太宗再度陷于困境之中。这时，他突然想起赵普此前的奏疏。
当朝廷大军北伐期间，身在外地的赵普曾给天子连上两道奏疏，上奏中除了指出用兵殃及百姓生产生活外，又特别告诫兵久则生变的危险，提醒天子留心前代兵变的教训。到兵败班师后，赵普再次上奏，一方面恳请天子保养圣躬，另一方面建议无为而治，永罢兵革，如此则四方夷狄自会慕化归顺。最后还诚恳地表达道：为臣壮志未酬，虽年老体衰，无征伐之功，但愿意竭尽忠诚以报效天子。
太宗阅罢三份奏言，幡然悔悟不少，特别是读到要求追究北伐失败祸首罪责的一段话，马上意识到宿臣为自己解脱的苦心。明摆着，赵普虽然赋闲外地，却仍操心国运，主动替天子分忧。太宗深受感动，于是给赵普回复了手诏，表示同意放弃用兵的意见，又指出战败的原因都在于诸将不遵守圣命。消息传出，臣僚们也为这位老臣不屈不挠的精神感化，都称颂其忠心难得。
显然，赵普坚忍顽强的意志，春风化雨般的努力，终于打动了多疑的天子。太宗重新审视后，发现赵普身上有很多优点，特别是化解僵局的能力无人可比，忠诚度看来也没问题，遂淡忘了以往的过节，拉近了与他的距离。
次年二月，赵普调任山南东道节度使，改封许国公，迁至襄州（今湖北襄樊市），这表示朝廷没有忘记元勋宿旧。
端拱元年（988）正月，朝廷要举行皇帝亲自主持的籍田大礼。赵普遂上表请求入觐，获得批准。礼仪活动期间，君臣相见，赵普激动得呜咽流涕，太宗一再抚慰，场面感人。随后，皇子陈王元僖向父皇上奏，称赞赵普是开国元勋，厚重有识，实为本朝难得的良臣，可与唐太宗身边的名臣魏徵、房玄龄、杜如晦相比，因此请求恢复其相位。
至此，水到渠成。籍田礼结束后，太宗传旨将平庸的李昉调出中书，任命赵普为太保兼侍中，位列首相，次相则由太宗一手提拔的状元吕蒙正接任。这一年，赵丞相年已67岁。
老到的赵普第三度执掌国政，在群臣眼里分明是元老重臣，没有人不敬重不忌惮的。而他本人却自知在宦海的时日不多，故注意把握分寸，既要满足天子，也要做些事情。于是，他劝说太宗将注意力集中于内部，不在意边境尺寸之争，着力强化天子和朝廷的集权统治，整顿秩序，开展建设，营造盛世气象。他的这些大政方针主张，颇得太宗赏识，纵然出现某些异议，也不计较。甚至太宗亲信的佞臣侯莫陈利用，气焰嚣张，无人敢管，也因赵普的坚持，被贬官流放。