1927年8月13日,他发表了一篇辞职声明。声明中说:
“老百姓的视力和听力已开始失去往日的敏锐和灵敏。在近三个月至四个月的日子里,北伐几乎进展到山东边界。为什么我们向前推进得那么快?而为什么我们现在的速度又这样慢?请静静地想一想,细心地考虑一下吧,原因是很容易理解的。”
至于他本人,他一直在考虑辞职这件事,但在时机还不成熟时,他不能过早辞职。如果他过早辞职,“那么,我党将承受如下苦难。第一,我们将失去灵魂,只留下肉体。星星将脱离自己的位置,事物将相互转换,我担心就连国民党这一名称恐怕也不复存在……”
他说,他希望武汉的同僚们能够加入到南京方面来,北伐重新开始,湖南、湖北和江西的共产党被“彻底地消除”。并说,尽管他已辞去了所有的职务,但作为国民党党员和一名中国公民,他将继续履行他的职责,“只要我还有一口气。”
最后这句话有点不吉祥。但是,听到最后这一句誓言的人很少。在蒋看来,而且他也一直这样认为,他的辞职表明他是一个必不可少的人,一个唯一可信赖的“中国的救世主”。
但是,蒋的离职确实缓和了当时的紧张局势。冯将军提出的召开安庆会议的建议现在看来已没有任何意义了。
1927年8月14日,以胡汉民为首的南京方面的五位主要政客以带有讽刺意味的古文体联合给冯玉祥写了一封信。他们问道:当双方仍在激战的时候举行会谈是不是太荒谬了?“玉石和丝绸——友谊的赠品——加上刺刀和长矛——战争的武器,被交替和同时使用,这不成了全世界的笑柄了吗?”
当蒋的辞职被宣布的时候,他已于8月12日前离开了南京,踏上了返回家乡奉化的路程,随行的保镖二百人。他在上海逗留了几天;随后,胡汉民等人一路跟随着他。
家乡的群山挺拔宁静,深深地吸引了他。他把住所安置在雪窦寺。这是浙江一座山脊上的佛教寺院。随行人员住在溪口,这里是他的出生地,离蒋的住地约六英里,地势低3000多英尺。
蒋向追随而来的美国来宾声称,他打算在今后的五年里走访国外,学习政治、经济和军事战略,这话或许带有瞬间的诚意。
一个新闻记者写道:“他的引退是一个神话,”
蒋身披中国式的长袍,显出一种学者的风度和守旧的外观,这与军事政治家那种生气勃勃的形象颇为不符。大量的信件送到他的手里。