鲍罗廷很快赢得国民党领导人的信任，这不仅是由于他的个人风度、他的真诚，而且是由于他的个人信念及对三民主义的完全支持。
蒋介石12月中旬才返回广州。他回到中国后，先回了溪口。孙中山再次对蒋的目无纪律感到不满。1923年12月24日他发了封电报给蒋，说他此行苏联责任重大，应速回广东报告旅苏情况，详细制定中苏合作计划。他还写到，我们尊重你关于政治形势的意见和你的建议，我们想与你商讨此事。
蒋介石不甚情愿地中断了他的个人安排，回到了广州。他向孙中山解释说，在他去苏联之前，他十分相信俄共是真诚的，是愿意帮助国民党的。但是，苏联之行使他失望了。从短期利益来看，“联俄容共”可能会形成反对西方殖民主义者的力量；但是从长远来看：苏联的世界革命计划比老的殖民者对中国的独立具有更大的威胁。
同以往一样，孙中山又一次拒绝了蒋介石的建议。他认为，目前的革命形势迫切需要国共合作，对待共产党的唯一办法是，将他们置于国民党的领导和控制之下。这样，就能进行北伐，而一旦北伐胜利，就能实现三民主义。
蒋介石徒劳的努力使国民党领导人开始有所戒心，回答他的是一连串的反问：难道苏联没有承认国民党是唯一能领导民族革命的党吗？难道不是苏联敦促中共党员加入国民党并接受其领导吗？越飞不是承认共产主义不适合于中国吗？
根据国民党的官方档案，孙中山的最初政策是“联俄容共”，但是中共按照自己的做法，将其理解为“联俄联共”。
蒋回到广州后不几天，国民党第一次全国代表大会在广州召开。忧心忡忡的蒋介石参加了大会，他发现国民党党员已经开始受新加入的共产党员的影响。
这些中共党员很好地利用了他们与苏联的特殊关系，第一个加入国民党的中共党员李大钊在大会上发言说：
“我们作为个人而不是组织加入国民党。也许有人说我们是双重党籍，但是不能说国民党是党中有党……我们加入国民党并同时保留中共党员的资格，这是公开的值得赞扬的行为，而不是偷偷摸摸的行动。”
蒋回忆说，李大钊的讲话起到了预期的效果。国民党的所有疑虑都消失了，国民党没有采取任何预防措施。然而，中共党员通过秘密组织，迅速扩大了它的影响范围。
大会正式通过了鲍罗廷起草的章程，李大钊和毛泽东等八名共产党员被选进国民党中央执行委员会和中央监察委员会。1月24日，大会即将闭幕时，蒋被任命为陆军军官学校筹备委员会主席，筹划在距广州14英里处的黄埔岛开办学校，并被提名为军校校长。蒋对与共产党合作越来越表示怀疑，再次提出辞职，并将筹备工作留给廖仲恺，自己回溪口老家去了。孙中山又一次发信和拍电报催他，提醒他要服从革命的需要。直到4月份，蒋才听从催劝，返回广州。
孙中山认为军校是国家统一不可缺少的工具。他迫切需要一支训练优良的队伍去扫除军阀势力。