孙中山决定联俄联共，派蒋介石去苏联考察。在莫斯科时，蒋介石读到一份共产国际关于国民党的文件，立即说到：“我太绝望了！看看它都说了些什么？这么忽视一个友好的党，它怎么能成为世界革命的中心呢？”蒋介石写道：“……我比以前任何时候都确信苏联政治体制是独裁和恐怖主义的统治工具，它与以三民主义为基础的国民党的政治体制完全不同……”。

蒋介石闻讯立即由沪南下，继续追随孙中山。他们在舰上呆了56天。舰上闷热难熬，又缺乏食物和淡水。一到晚上，蒋介石就上岸寻找食物，天亮则回到舰上睡觉或在甲板上警戒。

正如蒋所判断的那样，陈炯明开始背叛革命。1922年3月21日，粤军高级军官、蒋介石的朋友邓铿被暗杀。陈炯明涉嫌很深，但没有确凿的证据可以指控他。陈炯明有很大的可能暗杀邓铿，因为邓铿非常忠心于孙中山。陈炯明计划排挤或除掉孙中山周围的高级军官，使其孤立无援；然后他再逼迫孙中山推迟甚至放弃北伐计划。

执信忽然殂折，使我如失左右手。计吾党中知兵事而能肝胆照人者，今已不可多得，惟兄之勇敢诚笃，堪与执信比，而知兵则尤过之。兄性刚而嫉欲过甚，故常龃龉难合，然为党负重大之责任，测勉强牺牲所见而降格以求，所以为党、非为个人也。

但是此时，蒋介石与陈炯明的矛盾已不可调和。1920年11月，孙中山写了一封情真意切而又严肃的信给蒋介石，劝他留下来并努力与陈炯明搞好关系。

他的领袖天赋是无可非议的，但良好的判断并不能说明一切，他对军事和战略的分析在地缘政治方面不无道理，但他对政治的领悟还远远不够，他主要是从军事上来理解权力，而一旦他靠操纵他人对自己的忠诚来行使权力时，他就将自己的那种对政治的理解如实地、毫不掩饰地付诸行动。最后，他也就无法理解权力赖以维持的社会和政治因素。他最终失败的原因盖源于此。

他的性格中有不少自相矛盾的东西。他的谦逊由来已久，决不是装模作样作出来的，他终生反对别人过分赞扬自己，而且还不愿和他人开口谈论自己。

这时的蒋介石已29岁，性格已完全成熟了，在此值得多说几句，溪口的这个“顽皮小子”已成为一个好冲动和冒险的大人了。他勇敢得可以说到了莽撞的程度，他常常去冒些异常可怕的生命危险。但每次都安然无恙。

随着陈其美的死，蒋介石在领导层中的地位提高了，他成为孙博士的亲信。陈被刺不到三个星期，世人憎恶的袁世凯也在潦倒之中一命呜呼。他的帝制复辟的梦想被带进了坟墓。

尽管蒋介石经常被通碟缉拿，但他似乎颇有逃遁之术，总能躲过袁世凯巡警的追捕。当时他在上海混迹于下流社会之中——这个社会是由冷酷无情而又臭名昭著的青帮统治的天下，它是黑手党在中国的变种。

这次失败使蒋深受打击、可能由于神经衰弱，也可能是由于得了一种身心病——心理情感的原因而引起的身体上病症——他开始卧床不起了。他仍隐匿在上海，他母亲得知这个消息后，长途跋涉赶来护理他，好让他恢复健康

蒋介石爬到另一幢楼上才得以脱险

但记日记的习惯已缠住了他。他一直将这个习惯保持到死。

看来又得等很长一段时间了。蒋介石回到东京，开始整天钻研中国哲学和军事著作，并且开始每天晚上在日记己中记下白天所干的错事。

蒋介石失败了，但并没因此而失宠，在孙逸仙眼里，他甚至变得更坚强了。要说孙中山是个成功的革命领袖，似乎不太恰当，但蒋介石对他身处逆境所表现出的勇气倍加钦佩。