这些军阀最不能接受的一条就是：他们应该下台，接受制宪政府的领导。此外，北方的亲日势力十分强大。因此，等待孙中山的既有争吵，又有危险。
于是，孙博士将他的追随者召集到广州开会，想听听他们的意见。这些人都想说服孙中山不要北上，但他为了完成自己崇高的使命，仍决定去北京，1924年11月12日，孙中山启程前往北京。11月13日，孙中山乘坐的船只经过黄埔，当晚他在黄埔军校过夜。他对蒋介石说：“我就要去北京了，是否能活着回来还很难说，不管怎么说，我是去那里进行斗争。看了黄埔军校表现出来的精神面貌，我感到它能完成我的革命任务。
这样，我就是死也可以瞑目了。”
在孙中山启程北上之前，鲍罗廷曾邀请他去莫斯科访问。
孙中山就这件事征求蒋介石的意见，蒋介石对此事的评价不高，他认为，与俄国人的合作是中国争取自由和独立所必须迈出的一步，但共产党总是抓住一些事情大作文章。如果孙中山去访问莫斯科，那么俄国人肯定会就此事散布一些有害的谣言。孙中山静静地听着，不加评论。
孙中山的健康在北上途中急剧恶化，终于在天津卧床不起，但他在新年前夕又挣扎着离开了病床。他到达北京后又碰到了挫折，亲日派根本就没有象孙中山所希望的那样拒绝签署那些不平等条约，他们已经与列强交换了对那些条约的外交承认。
由于伤心失望加上癌细胞已扩散到他身体的要害器官，孙中山于1925年3月12日在北京逝世。他的逝世不但使他免于经历更大、更令人心酸的失望，而且，使他被追认为中华民国的国父，这个称号既得到了国民党的承认，也得到了共产党的承认。
在孙中山逝世后，国民党内部展开了一场争夺继承权的斗争。在开始的时候，蒋介石算不上一个真正的竞争者。
一方面，人们认为他大年轻了，他当时还不到40岁；另一方面，他是一个军人——而不是一个搞党务的人（尽管他是一个党员）。
汪精卫，胡汉民和廖仲恺三人则是真正有实力的竞争者——孙中山对他们三人几乎都给予了同样的信任，此外，他们三人还有一个有利条件，他们都是广东人，这一条是蒋介石所欠缺的。人们都知道孙博士对他的广东同志较为偏心，他与大多数广东人一样，认为自己的同乡比其他省的人更聪明更富于革命性，那些不幸的外省人免不了在孙中山的背后议论说他不能摆脱“老乡观念”。