既一心投入御辽事业，呼延赞便思索对付敌方的阵法，有机会就献给天子。他还自己设计兵器，先后打造出降魔杵、破阵刀和铁折上巾等特殊武器，破阵刀两面都开成利刃，皆重达十几斤。显然，这些兵器是为针对辽军铁甲骑兵而设计。日后，宋仁宗朝的一位武官杨偕也向朝廷献神楯劈阵刀，在对付西夏重装甲骑兵中发挥了作用，杨将官的劈阵刀便是效仿呼延赞之破阵刀。
自出任马步军都军头之后，又时隔三年，也就是淳化三年（992），呼延赞终于获得赴前线的机会。这一年，太宗天子降诏，调任他为保州（今河北保定）刺史，兼任冀州（今河北冀州市）副都部署。保州地处对辽边界，属于防御要地，刺史作为地方长官既要负责军务，也要管理民事，而冀州副都部署则是这一带数州防区的副总指挥官。
当此之时，辽军虽偶尔还会南下，但大都不过属于骚扰掠夺性活动，宋辽双方间激烈的大战已结束。本朝则实施了全面防御的战略，终止了大规模的出师行动，更不允许武将擅自出击。如此一来，呼延赞到任后的主要职责便是管理日常兵营事务，诸如点名考勤、发放粮饷以及案牍之类的事情，他对此显然并不热心也不擅长。故不久，他被改调到内地的辽州（今山西左权）任刺史，而这一新职属于纯粹管理地方民事的行政长官，真正是角色错位，恰如猛张飞绣花，如何能有好结果。因此，在辽州衙门任内，呼延赞又因不善治理民事，大概闹出些笑话，结果被奏报到朝堂。淳化五年，他被召回京师，结束了两年困惑的外任经历，重返昔日军头司都军头的闲散职位。随后，他获迁团练使的加官头衔，地位又有所提升。
到本朝第三代天子真宗皇帝登基后，呼延将军已近暮年，当年的小尉迟也早已熬成老尉迟，其雄心壮志即将消磨殆尽，那些专为对付辽军铁骑而打造的兵器长期搁置，几乎生锈，惯用的一副沉甸甸的铁鞭也难得派上用场。看起来，通往战马嘶鸣的疆场之路似乎要消失于视野之外。
但老将要完全熄灭内心深处的激情斗志，却不容易，每每酒后梦里，炽热的战斗场景总挥之不去。大概南宋辛弃疾的《破阵子》最能吻合其心头感受：醉里挑灯看剑，梦回吹角连营。八百里分麾下炙，五十弦翻塞外声，沙场秋点兵。马作的卢飞快，弓如霹雳弦惊。了却君王天下事，赢得生前身后名。可怜白发生！
咸平二年（999）十二月间，辽军大举南犯，年轻的真宗皇帝不得不下决心率百官亲征。在天子亲征行动之前，呼延赞与另一位武将王潜被朝廷选中，出任扈从大军的先锋之职。深冬季节的寒风，止不住老将再度澎湃的热血，他兴奋地收拾起沉寂已久的自制装备，披挂上阵。然而，九五之尊的天子亲征，从来并非直抵前线战场，故真宗北上抵达大名（今河北大名）行宫后就驻跸下来，就此坐镇指挥。呼延赞遂由先锋官改任行营内外都巡检，也就是参与承担皇帝行宫内外的保卫任务，从而失去了最后一次参战的机会。