赵秉钧对有人将他与刺宋案联系起来极为愤慨。据《亚细亚日报》报道，就在北京国民党本部开会当日（3月28日）下午，赵秉钧进谒袁世凯，愤言：
我不愿为总理，实以总统委托，不敢放弃国民责任。受职以来，朝夕劳苦，发白齿摇。不意区区苦衷，无人见谅。现在宋钝初一案，外间某党竟疑秉钧主使。此事毫无公理，秉钧万难缄默，拟请即行辞职，前往上海，与凶手对质，以期水落石出。[76]
《大公报》也报道，赵秉钧闻听张继演说内容后，不胜愤懑，随即进谒总统，大声疾呼，谓：
总理一席，我原不肯承认，因被总统追令就职，我劫于公义私情，乃勉力担负。今宋遯初被刺远在上海，与我无丝毫关系，而外间竟有疑我之语，令人愤恨。我今无以自明，今日惟有求总统准我请假，以便赴沪与应夔丞对质。[77]
3月30日，赵秉钧复向总统前坚请辞职，谓无论如何，已决计不任总理。总统谓：临时政府已为日无多，国务员中无论被如何之嫌怨，万不能再有更动。且刺宋案之传说种种，实属外间无稽之言，何足深信。乃赵氏执意甚坚，总统慰留再三，毫不为动，且迫请总统即日下命令，准其辞职，总统亦坚不允许。赵氏最后谓：总统如不下命令，我即在此坐守，不赴国务院。总统竟亦无法。[78]当晚，张继与《民立报》特派员往访赵秉钧，向赵说明自己并未发表过刺宋案与赵有牵连的演说，称该消息为《亚细亚日报》捏载，面揭该报之诬，兼探赵辞职确否。[79]赵谓：
余昨今两日（指3月29、30日;引者）见袁总统决意辞职者，原因甚多，尤以宋钝初死，且悲且惭。缘宋在京时，相处最久，相契更深，宋所主张，余极表同意。今宋果为政见死，余又〔有〕何心谈国事。且此案佥谓系洪述祖主犯，而洪为余属僚，余亦处嫌疑地位，余今犹不辞职，又何以谢国民。故决欲辞职赴沪，与凶犯等对质。至该报捏词挑衅，可不辩自明云。[80]
据此，赵秉钧在3月29日也曾向袁世凯提出过辞职，3月30日是继3月28日、3月29日之后连续第三天提出辞职。同日（3月30日），内务次长言敦源在给河南都督张镇芳的信中写道：国务院存五日京兆之心，已料理交代，无复有人热心及此，此又政府之现状也。[81]所谓国务院，即指国务总理赵秉钧。