广州国民党二大召开之后不久，蒋介石于1926年3月20日以其校长座舰“中山舰”出现“异动”迹象，宣布紧急戒严，软禁苏俄顾问，并逮捕一批共产党员，制造出有名的“中山舰事件”（亦称“三二〇”事件）。在此之前，国民党内包括怀疑和反对“容共”政策、主张“分共”乃至反共的人，其策略和手段基本上是“文”的而非“武”的，而“中山舰事件”直接诉诸武力，意味着国共纷争的进一步升级。
中山舰事件发生以前，共产国际和中共中央将蒋介石定性为国民党“左派”。五四时期，蒋介石称得上是一个思想开通、追求进步的新派人物。据蒋介石日记，青年蒋氏不仅阅读《新青年》《马克思学说》《共产党宣言》《列宁丛书》《法国革命史》《俄国革命史》和《俄国共产党史》等激进刊物和书籍，而且流露出对社会主义的同情和对十月革命后俄国的向往，多次萌生赴俄留学考察之念，并为此开始学习俄语。1920年3月，他上书孙中山，用俄国革命成功的例子，曲言批评孙中山的外交政策，建议孙中山放弃对欧美日本的期待，“以苏俄自强自立为师法”。
1923年8月，蒋介石受命率团赴俄考察，在苏联居留近三个月。苏俄之行对蒋介石最大的影响，是他比较深入地了解了苏俄的军政制度，开始接受了“中国国民革命是世界革命的一部分”这样的观念，认为中国必须在反对帝国主义运动上与苏俄合作。从苏俄回国后，蒋介石的思想言论明显“进步”，如公开主张民族斗争与阶级斗争同时并举，声称“中国的革命，要在阶级斗争之中，来求民族独立；在民族独立之中，来求革命成功”。但蒋介石访俄之后，对苏俄也有些不满：一是共产国际强调无产阶级和农民在中国国民革命中的重要性，而蒋认为中国不能过早地实行无产阶级革命，只有等中国独立之后，才能宣传共产主义；二是苏俄反对孙中山在西北建立军事训练基地，认为国民党应将工作重心放在政治宣传上，而不应计划在外蒙古进行军事行动，这使蒋介石怀疑苏俄有意染指外蒙，而不让国民党的势力进入。故蒋介石此次苏俄之行，既留下了好的印象，也存有负面观感。
蒋介石是一个具有强烈抱负心的人，对自己在孙中山心目中的形象和在国民党内的地位，一向十分敏感。蒋介石访俄之际，正值孙中山紧锣密鼓地改组国民党之时。联俄、师俄本是孙中山改组国民党的中心主题，作为国民党内唯一一个率团访俄的人物，蒋介石难免踌躇满志，盼望访俄归来后能得到孙中山的重视和重用，未料孙中山对苏俄顾问鲍罗廷寄予莫大的信任，将国民党改组设计的重任委付鲍罗廷。而蒋介石从上海寄给孙中山的游俄报告书却如石沉大海。蒋感到未获孙中山信任，颇为怀怨。他致信廖仲恺称：“党中特派一人赴俄，费时半年，费金万余，不可为不郑重其事，而于弟之见闻报告，毫无省察之价值，此弟当自愧信用全失，人格扫地，亦应引咎不遑也。”他曲言指责孙中山、廖仲恺及中共“只崇拜外人，而抹杀本国人之人格”。更让蒋介石不快的是，国民党一大召开，他不仅未能跻身国民党中央委员行列，连大会代表都不是。自尊心极强的蒋介石为此感到十分郁闷。他描述自己的心情说：“到粤月余，终日不安，如坐针毡，居则忽忽若忘，出则不知所往，诚不知其何为而然也。”他致书孙中山，缕陈一己委屈，指责孙中山“置旧日系统于不顾”，而所信任者“皆不过趋炎附势、依阿谄谀之徒”；自诩“如吾党同志果能深知中正，专任不疑，使其冥心独运，布展菲材，则虽不能料敌如神，决胜千里，然而进战退守，应变致方，自以为有一日之长，断不致临时纷乱，以陷危境”。他在对孙中山人事任命极度不满之余，亦提醒廖仲恺等不要“过信俄人”，认为对于俄党，“应有事实与主义之别，吾人不能因其主义之可信，而乃置事实于不顾”，认为“俄党对中国之唯一方针，乃在造成中国共产党为其正统，决不信吾党可与之始终合作”；声称苏俄的国际主义与世界革命，与凯撒的帝国主义名异而实同。
蒋介石性格暴躁，好猜疑，易激愤，情过境迁之后又反复反省忏悔。当他对孙中山“过信俄人”而不信任自己的做法极度不满时，负气辞去黄埔军校筹备委员会委员长一职，并指责“俄党殊无诚意可言”。等他心平气和，正式就任黄埔军校校长之后，对联俄容共政策又甚表赞成，军校办学体制悉仿俄式，军事教官亦大量聘用苏俄军事顾问，并广纳共产党员任政工人员，对党代表制度极为推崇。与此同时，蒋的言论亦日趋左倾，在各种场合公开宣传世界革命的观念及其与中国革命的关系，申言“中国革命应被视为世界革命的一部分，不应视为中国内部之事。因是吾党对于世界各国革命党之联合，应速谋实现”。对内主张上，蒋不仅宣传反帝反军阀，而且常用阶级斗争的观点来鼓动和教育官兵，申言“‘节制资本，平均地权’,明白地说，就是打倒资本家，反对大地主。这明明白白是为无产阶级而奋斗的……所以民生主义到最后一步，就是共产主义。”蒋介石也很快切身感受到了联俄容共政策带来的实际效果，正是由于有了包括军校经费和武器装备在内的苏俄援助，以及共产党人的倾力支持，黄埔军校才得以顺利建立并发展起来。蒋将黄埔军校视作自己安身立命的资本，以此为基础建立了第一支真正属于国民党的“党军”，也第一次拥有了隶属于自己的嫡系部队。蒋很快成为国民党内最具实力的人物。
1925年8月，廖仲恺被刺。在鲍罗廷的提议下，由汪精卫、蒋介石和许崇智三人组成一个“特别委员会”，“授以政治、军事及警察一切全权，应付时局”，实际成为国民党的最高权力中心。胡汉民、许崇智相继被排挤出局，蒋介石一跃成为汪精卫之下的国民党第二号领袖人物。此时，蒋的言论更趋左倾。随后“西山会议派”有意离间蒋汪关系，提出分共、驱鲍、惩汪主张，试图拉拢蒋介石，蒋未为所动。蒋不仅在日记中对“西山会议派”的分裂行为深表“痛恨”，而且发表《告国民党同志书》，谴责“西山会议派”的所作所为违背了孙中山的意旨与党的纪律，并为鲍、汪及共产党人辩护。
1925年10月，蒋经国从上海启程赴苏，11月底入莫斯科中山大学学习，12月，蒋经国加入中国共产主义青年团。蒋介石获悉后写信给儿子：“你于入何党，随你所愿，余不限制，但说要革命急进，有革命性之团体为重也。”蒋经国在出国前夕已经加入了国民党，蒋介石对此并不知悉。他写信给儿子说：“你从前未入国民党，今既加入了共产党，你就拿共产主义为你的事业，你拿革命为你的生涯。我虽然未加入共产党，而为纯粹的国民党员，但我自认我一生的事业是在革命。所以我们父子两人始终是立在革命战线奋斗的。我对于你名称虽为父子，在革命上说起来是一个同志，我实在是很满足的。”
1926年1月，国民党二大在广州召开。蒋介石第一次参加全党的这种盛会，并当选为新一届中央执行委员，兼中央常务委员会委员、政治委员会委员、军事委员会委员和国民革命军总监。大会前后，蒋介石的言论仍表现出相当左倾。他重申拥护联俄、容共政策；对于黄埔军校内部的青年军人联合会与孙文主义学会之间的摩擦和纠纷，蒋尽量从中调解，或采取各打五十大板的做法；允许共产党员在黄埔军校内活动，但要求一切动作均得公开。
1926年2月，鲍罗廷离粤回国，途经北京时，对新从莫斯科来华考察的布勃诺夫使团报告和介绍广州形势时，特别提到蒋介石是国民党的“左派信徒”，甚至是“极左派信徒”。
在国民党二大前后蒋介石的日记中，未见他对共产党人在国民党内的活动有何不满表示，相反还任命共产党人高语罕为军校政治教官，熊雄为军校政治部主任，包惠僧为教导师党代表。但自国民党二大召开之后不久，蒋之心境开始变坏。蒋在日记中总结二大开成后，自己事绩“固可喜慰，而痛苦则非人所知也”。此时蒋氏“痛苦”之源与国民党一大前后截然相反。国民党一大之际，蒋介石是因未获党中高位而备感失落，而二大之后，蒋多半是因为“高处不胜寒”而自我危惧，忧心权位不稳。2月1日，军事委员会任命蒋介石为国民革命军总监。蒋在日记中写道：“权位愈高，责任愈重，因之心思愈苦，而危险之程度，亦愈增矣，可不懔哉。”国民党二大闭幕后，支持、扶助和信任蒋介石的鲍罗廷突然辞职回国。而接替鲍罗廷的苏俄军事总顾问季山嘉在对中国革命的看法和主张上本来与鲍罗廷存有明显分歧。而季山嘉的言谈态度常令蒋介石难以接受和忍受。如季山嘉与蒋谈论中国政局和军队时，提醒蒋要以土耳其凯末尔为殷鉴，批评“中国军人尽为贪劣者”。在蒋介石听来特别刺耳，以为季山嘉有意规讽自己不要“习成军阀”。在此前后，共产党人高语罕亦在多次演讲中宣称：“我们团体里，有一个段祺瑞，要打倒北方的段祺瑞，就先要打倒这里的段祺瑞。”此话传入蒋介石的耳朵后，以为中共方面亦暗讽他为“军阀”。蒋于是表示不就军监职，继又表示辞去军事委员会委员及广州卫戍司令职，并在日记中慨叹：“苏俄同事疑忌我、侮弄我”。但蒋的这种辞职表示，显然非出乎本意，故在草拟好辞职通电稿后，又犹豫起来，是“积极进行，冲破难关”呢？还是“消极下去，减轻责任，以为下野地步”呢？苦思的结果，决定还是“忍辱负重”。但几天后，蒋又萌生赴俄考察的念头，并呈请解除东征军总指挥职，有意试探汪精卫和季山嘉的反应。汪精卫对蒋的辞职，一再表示挽留，蒋有所感动。但当蒋再次表示想赴俄时，得到了汪的同意。蒋向季山嘉透露游俄的想法后，他观察季山嘉“状似不安”。
蒋介石与季山嘉的分歧，因北伐问题而趋于激烈。蒋极力主张北伐，而季山嘉却主张北伐从缓。季山嘉之所以反对北伐，乃因莫斯科有阻止广州进行北伐的明确指示，不明就里的蒋介石对季山嘉的武断干涉深表不满，以为季山嘉“厌我”，故意与自己作对。
北伐之结未解，军事委员会忽然削减了已经定好的黄埔军校经费，并将减下来的经费拨给第1军第2师。该师师长王懋功自代理广州卫戍司令以来，与季山嘉和汪精卫过从甚密，令蒋猜疑和不满。几个月前，鲍罗廷等人曾策划利用蒋氏卫戍广州之便，赶走许崇智，然后将蒋推上权力中心。蒋介石对此记忆犹新，怀疑季山嘉又将故伎重演，“思利用（王懋功）以倒我”。2月24日，国民政府成立两广统一委员会，在原有的6个军的基础上，将广西军队改编为第8军和第9军，而无故空出第7军的建制。季山嘉等人的这一奇怪举动立即引起蒋介石的高度警觉。蒋猜疑季山嘉想把王懋功的第2师从蒋的第1军中分离出去，另立第7军，进而削弱自己的力量，并夺取广州的控制权。蒋发现这一“重大阴谋”后，决定先下手为强，迅速采取行动，于2月26日将王懋功扣押，随即遣送上海。蒋在日记中写道：“一月以来，心坎憧扰，时自提防，至此略定，然亦险矣哉！”
自认为粉碎了季山嘉的“阴谋”之后，蒋于次日找到汪精卫，要求处置季山嘉，力陈季山嘉“专横矛盾，如不免去，非惟为害党国，且必牵动中俄邦交”。下午，汪告知蒋，季山嘉已知错误，并愿辞退。蒋虽然有些半信半疑，但觉得宽慰许多，在日记有些自鸣得意地写道：“凡事皆有要着，要着一破，则一切纠纷不解自决。”
然而，仅仅过了一天，蒋又因一件“不测”之事而复起戒心，申言“最后决用强制手段，否则为害于党国不可名状也”。因蒋在日记中没有明言，不知所称是何“不测”，但此事说明蒋之神经又处于高度紧张状态。随后接连数日，蒋猛看《革命心理》一书，从中得知“革命心理皆由神秘势力与感情作用以成者，而理智实极微弱条件”。3月5日蒋又在日记中叹曰：“单枪匹马，前虎后狼，孤孽颠危，此吾今日之环境也。”蒋以“前门驱虎，后门进狼”来形容其处境，说明他又有了新的假想敌。
3月7日，刘峙、邓演达前来告知外间有人分送反蒋的油印传单，更增加了蒋的危机感，觉得有人想陷害他、打倒他。蒋暗自忖度是谁在背后倒他，但没有在日记中明言。3月8日，蒋介石与汪精卫商讨“革命大方针”。蒋表示：“一切实权非可落外人之手，虽即与第三国际联络亦应定一限度，要当不失自主地位。”这表明他对共产国际怀有戒惧心理。3月9日，蒋在日记中慨叹：“共产分子在党内活动，不能开诚相见，办世界革命之大事，而内部分子复杂，貌合神离，则革命未有能成者，故决意辞职。“3月10日蒋听到“种种不堪入耳之谣言”，联想到近来各种反蒋传单，感到“疑我、谤我、忌我、诬我、排我、害我者，渐次显明”。“前以政治组织信人太过，故未加注意，亦毫不防范，今后若欲脱人羁绊，免受束缚，则非事事详思熟虑不可。”从这段日记看，蒋可能怀疑反蒋传单是中共所为。此后接连数日，蒋又为“进退问题扼腕终日，夜不成眠”。实际上，这些反蒋传单是“西山会议派”和广州孙文主义学会所使的离间之计。他们四处散布谣言，挑拨汪蒋关系，意在制造广东国民政府内部的不和，煽起蒋介石的疑忌之火。
3月12日，蒋介石与季山嘉因北伐问题再度发生激烈争执，以致公开“反脸”。季山嘉力陈北伐之不利，劝他往北方练兵。蒋怀疑季山嘉心怀叵测，意欲设计使他离开广东，“以失军中之重心，减少吾党之势力”。令蒋更为不安的是，3月14日，蒋与汪精卫谈话，觉得汪也“有讽余离粤意”，怀疑汪“受谗已深，无法自解”。蒋更陷入极度焦虑之中，想到汪精卫已不信任自己，中共在背后倒自己，季山嘉从中怂恿策划，后果岂堪设想。3月15日蒋在日记写道：“四面皆敌，肘腋受制，陷于重围垓心，只有奋斗决战，死中求生耳。”生性多疑的蒋介石进而怀疑此前王懋功事件中，汪精卫很可能与季山嘉串通一气，后悔自己未能察言观色，审慎周详，竟没有看出汪精卫其实早就卷入了这场反蒋阴谋之中。思虑及此，蒋的神经几近崩溃，难以自制。17日日记云：“近来所受苦痛，至不能说，不忍说，且非梦想所能及者，是何异佛入地狱耶！”
正在此时，又一个误会使蒋介石本已绷得至紧的神经再也无法承受。他终于将自己逼上了梁山。
3月18日傍晚，一艘由上海开往广州的商轮被土匪抢劫，停泊于黄埔上游。有人求助黄埔军校调舰保护，因军校无舰可调，军校值班人员电请军校驻广州办事处派舰援助。办事处主任欧阳钟（孙文主义学会骨干）谎称“奉蒋校长命令”，有紧急之事，要求海军局派两艘战斗舰开赴黄埔，听候蒋校长调遣，并称已通知“宝璧”号预备前往，要海军局再派一艘。其时海军局还有两艘舰，一为“自由”号，一为军校校长座舰“中山”号，而“自由”号刚从海南回省，机件有所损坏。海军局代局长李之龙（共产党员、青年军人联合会骨干）只好派中山舰前往。19日晨，宝璧舰与中山舰受命出动，开赴黄埔。中山舰于上午9时驶抵黄埔。当日中午，李之龙获悉俄国考察团想参观中山舰，于是用电话请示因公滞留在广州的蒋介石，告以俄国考察团想参观中山舰，可否将中山舰调回广州。是日上午，恰好汪精卫已多次询问蒋介石是否去黄埔和何时去黄埔。蒋正疑心汪的用意，一听说中山舰没有他的命令已开去黄埔，顿觉内中必定有诈：“既没有我的命令要中山舰开去，而他要开回来为什么又要来问我？”“中山舰到了黄埔，因为我不在黄埔，在省里，他就开回省城。这究竟是什么一回事？”在此之前，蒋已听到伍朝枢等人编造的谣言，说汪精卫和季山嘉想强掳他去莫斯科“受训”，又联想到自己的赴俄护照刚刚得到了批准，蒋于是怀疑汪精卫等人想将他劫持到中山舰上，然后强逼他去海参崴。
蒋介石怒不可遏。他最初的反应是，离开广州，退到他所掌握的东征军总指挥部所在地汕头。行至半途后，又自忖悄然溜走，反予人以口实，而且有失气骨，于是蒋又折回东山寓所，召集部下连夜开会，商议对策，最后决定布置反击，先发制人。20日凌晨4时，蒋下令镇压“中山舰阴谋”：在广州部分地区实行戒严，逮捕海军局代局长李之龙，占领中山舰，包围省港罢工委员会，收缴工人纠察队的枪械，解除苏俄顾问卫队的武器，拘押了卫戍广州的第2师党代表中的共产党员。
十几个小时之后，未见任何反抗，蒋感到自己的反应可能过当。事变当日下午，在初步判定并不存在特别的危险和阴谋后，他就取消了戒严，交还了收缴的武器，并释放了被软禁的中共党代表，一切恢复常态。
这就是有名的“中山舰事件”。