至德二载闰八月，诗人离开临时首都凤翔，北归鄜州羌村探望妻儿，这促发他写下了被成为古今绝唱的叙事诗《北征》。苏东坡感叹说：古往今来的诗人很多，而唯以杜子美为首，为什么呢？那是因为老杜虽然饥寒流落，但一饭未尝忘君。《北征》就是一首识君臣大体、忠义之气可与秋色争高的佳作。后世书生常说老杜“每饭不忘思君”，也就是从这里开始的。不过，更让普通读者感动的诗篇，还是老杜见到家人后所写的《羌村三首》：
峥嵘赤云西， 日脚下平地。柴门鸟雀噪， 归客千里至。妻孥怪我在， 惊定还拭泪。世乱遭飘荡， 生还偶然遂。邻人满墙头， 感叹亦歔欷。夜阑更秉烛， 相对如梦寐。
晚岁迫偷生， 还家少欢趣。娇儿不离膝， 畏我复却去。忆昔好追凉， 故绕池边树。萧萧北风劲， 抚事煎百虑。赖知禾黍收， 已觉糟床注。如今足斟酌， 且用慰迟暮。
群鸡正乱叫， 客至鸡斗争。驱鸡上树木， 始闻叩柴荆。父老四五人， 问我久远行。手中各有携， 倾榼浊复清。苦辞酒味薄，黍地无人耕。兵革既未息， 儿童尽东征。请为父老歌， 艰难愧深情。歌罢仰天叹， 四座泪纵横。
“重剑无锋，大巧不工”，描述的就是这种诗篇。豪华落尽，返璞归真，才是诗歌的最上一层，这也就是前辈们常说的“笔力高古”，“遭乱生还，事出意外，仓卒情景，历历叙出。叙事之工不必言，尤妙在笔力高古，愈质愈难。”（《杜诗集评》）所以连乾隆都盛赞它“真语流露，不假雕饰，而情文并至”（《唐宋诗醇》）。至于那些分析其起承转阖的评论，总让人觉得是皮相之谈。
这年九月，朝廷光荣收复长安。探亲假满的杜甫率领妻子儿女浩浩荡荡地回到长安，继续担任他的左拾遗。不过，虽然诗人还在兢兢业业地工作，但还是难以弥补所失掉的圣上的恩宠与欢心。次年六月，又因房琯的牵连，杜甫被贬为华州（陕西华县）司功参军，这使他内心充满了委屈。一年之前，他从金光门成功逃亡，进入了中央政府；一年之后，长安光复，他却作为待罪之身被撵出金光门。这又如何让他不伤感，在诗中他含蓄地说“近侍归京邑，移官岂至尊？无才日衰老，驻马望千门”。那些得到圣上恩宠的官员纷纷从流亡之地回到首都，而自己这个在艰苦岁月中追随皇上的有功之臣却被流放到地方。眼看着自己一天天衰老，诗人骑着马儿驻足在都城之外，内心百感交集。