蒋介石只在长江下游的五个省里享有无可争议的权力。
裁军成了蒋介石最关注的问题，因为地方军阀依靠的是军队。蒋介石争辩说，既然国家已经统一，战争已经结束，大部分军人都应该复员，回到他们的百姓生活中去。他的这些话不无道理，只是所有的军阀心里都清楚，将自己的军队遣散，就意味着失去自己的权力源泉。于是，他们坚决反对蒋介石的复员计划。他们这种自私的愿望最终挫败了蒋介石的企图。
当时的局势既荒唐又具有某种悲剧性。在国民军占领北京后，中国全国共有220万军队。如果把各式各样的正规军及杂牌军加在一起，那么，这支军队在当时相对和平的世界上可以算得上是人数最多的一支军队。
在这支庞大的军队中，根据蒋介石的估计，差不多有200万人在名义上是隶属于国民政府的，其余的则是一些流匪和一些不服从国民政府的军阀的残余部队。如果霍灵顿·唐的数字可信的活（这些数字也不过是个估计而已），那么，这200万隶属于国民政府的军队每年要花费国民政府财政收入约4亿美元的75％。
蒋介石对复员人员安排早已胸有成竹，这些复员军人应该变成一支劳动大军，去从事修路、植树、开发矿山等这类工作。
1929年1月中旬，蒋介石在南京召集所有高级将领开会，讨论有关复员的问题。
当时，广西的将军们拥有一支23万人的军队，冯玉祥手下拥有22万人，阎锡山有20万人。至于国民政府——也就是蒋介石本人一拥有大约42万军队。李宗仁、冯玉祥、阎锡山等人很快就意识到蒋介石的裁军建议是大规模地裁减他们的军队，同时又加强他自己的军队（这些军队在名义上隶属于中华民国中央政府）。
冯玉祥回忆说，在这次会议开始的时候，蒋介石将所有的与会者领到一幅孙中山的画像前，坚持要每个人都向画像宣誓效忠。
然后，他提出各路军应该只保留12个师，然后将其余的人员遣散。这时，一个小军阀指出，根据蒋介石的提议，那些编制不足12个师的兵团、不得不再招六、七师才能凑足12个师。
蒋介石对这个小军阀提的问题未加理睬，而他自己的部队则刚在北京附近扩编了十几个师。
会议就一件事正式取得了一致，那就是将全国划为6个裁员区。这件事使人感到别扭，有点象是在做交易，故军阀们心中渐渐感到不安。
一天下午，蒋介石邀请冯玉祥去南京郊外洗温泉浴。当他们洗完用毛巾擦身的时候，蒋介石说：“人们常说，谁控制了北京、广东、上海和武汉，谁就控制了全中国。”冯玉祥认为蒋介石这是向他暗示，让他对控制着这些地区的军阀采取行动，他含糊其词地回答说：“作为一个全国性的领导人，你必须大度一些，只要你能赢得军队和民众的支持，他们占领了这些地方也无关紧要，他们也都将是你手下的兄弟，”