年过六旬的宋祁，已是疾病缠身，到底是都城的医疗条件要好于地方，他遂请求到京城治病。天子降诏恩准小宋回朝，拜他为翰林学士承旨，也就是首席翰林学士，并特许他在宫廷值班期间，可以带一个儿子陪在身边服侍，真是皇恩浩荡。无奈他有心无力，身体难以胜任持久的值宿辛劳，只得改任群牧使，最后一次与二府大门擦肩而过。群牧司是管理全国马匹的机关，小宋作为长官不必亲自过问各地的马儿起居，可以安心休养。但天不假年，他在这个最后的岗位上仅数月就溘然长逝，时年63岁。一代文坛巨擘就此消失，这一年正是仁宗嘉祐六年（1061）。
还是在九年前的皇祐三年（1052）三月间，因为侄子染上越国夫人门客伪造官方委任状的案子，宋庠被言官们弹劾罢相。此后，他在洛阳、许州（今河南许昌市）及河阳（今河南孟县）等地的地方官位置徘徊，他素来作风严谨，生活无可挑剔，就此过了六年多的清闲日子。嘉祐三年（1058），他奉诏入朝，62岁年纪上又被二度任命为枢密使，并获封莒国公爵位。
大宋年事已高，官位显赫却不揽权，他主管全国军政，但对国防建设少有作为，一句话便是维持现状，因此引起一些朝臣的不满。宋庠又与枢密副使程戡关系不和，大概是副职看不起正职的昏老无为，冲突的结果是程枢密被迫离职，不过大宋也遭到御史们的弹劾，罪名是昏聩懒散，他只得再次上奏请辞。此后，他身披使相的优渥头衔到地方衙门养老。
大宋在郑州养闲期间，小宋病死于京城的家中。噩耗传来，当哥的自然伤感不已。宋祁临终前给天子留下了遗奏，乞求一直没有子嗣的陛下选择宗室填补东宫空缺。小宋还亲笔为自己写下墓志铭，为子孙留下《治戒》的遗训，要求十四个儿子在自己死后不必为流俗所扰，三日内装殓，三月后下葬，棺材用杂木即可，勿用金铜贵重物件陪葬；墓冢高三尺就行，上植五株柏树，不设石翁仲之类；不得向朝廷申请谥号，不接受朝廷赠典。最后告诫道：唯两个儿子幼小，可托付给大伯，只要大伯在，就不会成为孤儿。
获悉这些情况，大宋自愧不如，回想到当年占据兄弟的状元头衔，再回顾这许多年妨碍兄弟的仕途，他更感到歉疚。能做的和能补偿的，只在那两个无知的小侄子身上。
治平三年（1066），有福的宋庠也死于病榻，享年69岁。朝廷追赠太尉兼侍中的隆高官衔，定谥号为元献，新天子英宗皇帝还亲自为其墓碑撰写了忠规德范之碑几个大字。