在孙中山逝世后，国民党内部展开了一场争夺继承权的斗争。在开始的时候，蒋介石算不上一个真正的竞争者。一方面，人们认为他大年轻了，他当时还不到40岁；另一方面，他是一个军人——而不是一个搞党务的人（尽管他是一个党员）。汪精卫，胡汉民和廖仲恺三人则是真正有实力的竞争者——孙中山对他们三人几乎都给予了同样的信任，此外，他们三人还有一个有利条件，他们都是广东人，这一条是蒋介石所欠缺的。人们都知道孙博士对他的广东同志较为偏心，他与大多数广东人一样，认为自己的同乡比其他省的人更聪明更富于革命性，那些不幸的外省人免不了在孙中山的背后议论说他不能摆脱“老乡观念”。

蒋每日凌晨5时起床，清理卧室后便开始巡察，严厉地叫醒仍在蒙头大睡的人。首期500名军校学员是从3000名申请者中通过公开考试入选的，他们在军校正式开学五、六个星期前的5月5日就被录取了。军校资金缺乏，教员素质参差不齐，蒋的俄国朋友加伦将军领导着这支苏维埃式的学员队伍，并采纳了鲍罗廷的意见，即以托洛茨基的红军为模式训练军队，使之能在正式操练中正步行走，而且熟悉现代战争的技能——所有这一切都是有政治目的的。

权力在汪精卫、胡汉民和廖仲恺三人中角逐，因为孙中山生前认定他的同乡广东人比其他省份的人更聪明，更富于革命性，不想外省的一匹“黑马”取得了最后的胜利。

廖仲恺被任命为黄埔军校国民党党代表，他的副手是留法的年轻有为的中共党员周恩来。

蒋介石最后同意出任黄埔军校校长，他提出由加伦将军作他的参谋长。苏联方面同意了这个要求，这样加伦来到了中国。

根据国民党的官方档案，孙中山的最初政策是“联俄容共”，但是中共按照自己的做法，将其理解为“联俄联共”。

蒋介石在返回上海的途中，把这些都写了出来。1924年3月14日，他从奉化给一个国民党高级官员发了一封信，信中写道：苏联共产党不值得信赖，并且他在苏联遇到的党员，对于孙先生惟有诋毁与怀疑而已。他继续写到：俄党对中国之唯一方针，乃在造成中国共产党为其正统，决不信吾党可与之始终合作，至其对中国之政策，在满、蒙、回、藏诸部，皆为其苏维埃之一，而对中国本部，未始无染指之意。蒋介石的这封信在国民党常务委员中进行了传阅。但是，他的信和报告在国共合作的热烈气氛下，丝毫没有产生作用。当蒋介石不在广州时，鲍罗廷正好到来，在廖仲恺的建议下，孙中山任命鲍罗廷为国民党的政治顾问。孙中山看来完全被鲍罗廷的个人风度和性格迷[...]

使蒋介石吃惊的是，许多苏联领导人都十分敬重孙中山，而且最真诚与国民党合作的多是犹太人。

他们会晤了一些部长及一些地方官员并参加了莫斯科苏维埃全体代表大会。蒋写道：“我很快就察觉出苏联社会各部门及苏联共产党内存在的公开的和秘密的激烈斗争。我比以往任何时候都确信苏联政治体制是独裁和恐怖主义的统治工具，它与以三民主义为基础的国民党的政治体制完全不同，这是我出访苏联所得出的结论。如果我们一直呆在国内，我们恐怕永远不会发现这些。”

使马林认识到国民党是中国民族主义的主要代表。

1927年秋，臭名昭著的“青帮”头子杜月笙资助陈洁如去美国。陈洁如在美安顿下来后，进入纽约哥伦比亚大学学习，获得了博士学位。之后，她前往西海岸，在旧金山附近买了一幢房子居住下来。1967年她写完她的自传，交给纽约的一个出版商出版，但是台湾当局不惜巨款买下了该书的版权，使其出版计划夭折。

在北伐期间，陈洁如在蒋的生活中的某些方面扮演了日后宋美龄在蒋的生涯中扮演的角色。陈洁如容貌娇艳，且知书达礼，蒋的朋友和部下都十分尊重她。“青帮”成了蒋的保护人。

孙中山决定联俄联共，派蒋介石去苏联考察。在莫斯科时，蒋介石读到一份共产国际关于国民党的文件，立即说到：“我太绝望了！看看它都说了些什么？这么忽视一个友好的党，它怎么能成为世界革命的中心呢？”蒋介石写道：“……我比以前任何时候都确信苏联政治体制是独裁和恐怖主义的统治工具，它与以三民主义为基础的国民党的政治体制完全不同……”。

蒋介石闻讯立即由沪南下，继续追随孙中山。他们在舰上呆了56天。舰上闷热难熬，又缺乏食物和淡水。一到晚上，蒋介石就上岸寻找食物，天亮则回到舰上睡觉或在甲板上警戒。

正如蒋所判断的那样，陈炯明开始背叛革命。1922年3月21日，粤军高级军官、蒋介石的朋友邓铿被暗杀。陈炯明涉嫌很深，但没有确凿的证据可以指控他。陈炯明有很大的可能暗杀邓铿，因为邓铿非常忠心于孙中山。陈炯明计划排挤或除掉孙中山周围的高级军官，使其孤立无援；然后他再逼迫孙中山推迟甚至放弃北伐计划。