1922年5月和1924年9月，孙中山曾两次举兵北伐，因种种牵制皆半途而废。到了1926年初，广东革命根据地得到巩固，两广归于统一，形成了一个相对集中的势力范围，国民革命军的实力大增。在这种情况下，蒋介石有意再举北伐大旗。4月3日，蒋正式向国民党中央提出，以3个月为准备期，拟于6月底出兵北伐。
苏俄在华顾问对北伐的意见不尽一致。1925年9月，苏俄在广州的军事总顾问加伦曾提出北伐和进军长江的主张，并就北伐的必要性、可能性和总的战略设想，拟定过一个详细的计划。1926年2月中旬，鲍罗廷在北京向前来中国的布勃诺夫使团汇报工作时，亦提出北伐是一个刻不容缓的问题，并主张北伐的口号不能仅仅是反对帝国主义和反对军阀，而且要提出土地问题纲领。但是加伦回国后，接替加伦担任总顾问的季山嘉主张北伐从缓，并因此引起蒋介石对季山嘉的强烈不满。在季山嘉看来，国民党中央不够团结和稳定，军队缺乏完善的政治组织，还不具备北伐的实力。中山舰事件发生后，布勃诺夫撤换了季山嘉的职务。布勃诺夫为了统一在华顾问的认识，在即将返国之际，于3月24日向广州的苏俄顾问团作了一次长达6小时的讲话，其中谈到，北伐问题不是要不要进行的问题，而是进行的时间和方式问题。他也强调北伐应与解决农民土地问题联系起来。
但是莫斯科方面并不主张广州革命政府迅速出师北伐。从1925年12月到1926年5月，联共（布）中央政治局曾多次作出决议，坚决阻止广州国民政府的北伐之想。莫斯科方面声称，广东政府不要热中于扩充领土，不要急于同帝国主义国家建立正式关系，要坚决摒弃进攻性的军事征讨，目前时期应该集中全力于内部工作，应该先进行土地改革、财政改革和政治改革，动员广大人民参加政治生活，加强内部防御能力，抛弃任何足以惹起帝国主义军事干涉的行动。苏俄方面始终顾及在华中和华东方面军阀的军事力量在数量上的优势及其资源实力，顾虑军阀集团之间的结盟以及英国和日本直接干预的可能性。
莫斯科方面之所以采取这种态度，与当时苏俄所处的国际环境及其对世界革命形势的估计有关。苏俄认为，在欧亚新的革命浪潮到来之前，中国革命顶不住帝国主义的联合进攻。1926年初，冯玉祥的国民军在北方失败后，苏俄对国际环境和中国革命形势的判断更加悲观，以至认为：为了使中国革命争得喘息时间，也为了延长苏俄的喘息时间，必须向帝国主义作出让步。坚决反对进行北伐，正是这种“喘息政策”的产物。
中共方面最初对北伐具有很高的热情。1926年2月下旬，中共中央在北京召开特别会议。会议分析了当时的国内形势，认为直、奉军阀将联合向国民军和国民政府进攻，如果直、奉势力取胜，全国政局必将转向极反动的局面，到那时仅广州政府孤军作战，也许失败；如果现时广州政府开始准备北伐，与北方革命势力相结合，革命的胜利则更有把握。而且广东政府只有向外发展，才能增强自己的声威，才能维持自己的存在。会议决定，现时的主要任务，是从各方面积极准备北伐，包括组织和发动北伐必经之省的农民。会后，中共各级组织开始通过各种方式推动和促使广州国民政府出师北伐。中共中央支持北伐的态度，是受鲍罗廷等人的直接影响，但共产国际在4月底5月初致函中共中央，认为目前提出北伐的问题，无论从政治角度还是从宣传角度，都是根本错误的。从政治角度看，如果广州号召北伐，那就意味着广州政府不愿维护和平，反而想要战争；从宣传角度看，这可能给予工农群众极为不良的印象，他们会认为共产党人好战。5月20日联共中央政治局再次决定：“责成广州同志保证实行政治局不止一次重申的坚决谴责在目前进行北伐或准备北伐的指示。”
根据莫斯科的指示精神，共产国际远东局主席维经斯基于6月上旬抵达上海不久，就说服陈独秀及中共中央委员会放弃支持北伐的主张。维经斯基还批评鲍罗廷对蒋介石采取妥协退让的方针，认为鲍罗廷将全部希望都寄托在蒋介石的身上，使蒋介石变得有恃无恐，得寸进尺。维经斯基认为，在国民党左派和中共还没有在工农群众中牢牢站住脚跟的情况下进行北伐，北伐必败无疑。
但是，当维经斯基还在为自己轻而易举说服中共中央接受其主张而洋洋自得的时候，中共中央内部包括陈独秀本人实际上又很快改变了态度。6月30日，远东局在上海举行会议，就北伐问题长时间交换意见，中共中央成员多数仍然倾向于支持北伐，认为北伐是使广州摆脱内外威胁的唯一出路。陈独秀还决定以个人名义致电共产国际执委会，说明中共中央委员会一致支持北伐的主张。
对中共中央在北伐问题上的摇摆不定，维经斯基深感不安。他在与陈独秀作了一次长谈后，似乎又一次说服了陈独秀。7月7日，陈独秀在《向导》周刊上发表文章，公开表示反对北伐。据称该文的基调是维经斯基与陈独秀协商确定的。文章申言北伐只是讨伐北洋军阀的一种军事行动，不能代表中国民族革命的全部意义。北伐“必须是革命的势力向外发展，然后北伐才算是革命的军事行动；若其中夹杂有投机的军人政客个人权位欲的活动，即有相当的成功也是军事投机之胜利，而不是革命的胜利”。文章认为，北伐时机尚未成熟，当前的问题是防御吴佩孚南伐，防御反赤军扰害广东，防御广东内部买办、土豪、官僚、右派响应反赤。文章甚至批评广东国民政府因北伐而增筹战费，搜刮及于平民，并剥夺人民的自由。
7月中旬，中共中央召开第三次扩大会议。会议显然受到了维经斯基的影响，对北伐几乎只字未提。在7月12日公开发表的对时局的主张中，仍旧主张召开国民会议来解决中国的政治问题，申言广东国民政府出兵，只能是防御反赤军攻入湘粤，而不是真正革命势力充实的彻底北伐。
陈独秀的文章引起了国民党人的不满。国民党中央政治会议决议，由张静江出面致函陈独秀，解释北伐是国民革命的唯一先着，批评陈文对北伐出师造成不良影响。蒋介石亦指责陈独秀诽议北伐，“其意在减少国民党信仰，而增进共产党地位”。
与莫斯科方面不同，国民党人对北伐的前景大都充满乐观，并寄予莫大希望。高级将领大多表示拥护，中下级军人更是摩拳擦掌。商人和市民也为北伐而高兴。当然，北伐对不同的人群和不同的阵营有着颇不相同的意义。“右派希望蒋介石率领军队北上，部分左派和部分共产党人鉴于有必要对群众进行革命的动员，幻想把恢复原来局面的希望同战争联系起来。蒋介石则指望利用这场战争把反对派将领派到华北去和筹集资金。”商人和市民指望广东军队北上后，他们的负担可以减轻。客籍军人对广东人的排外早有不满，觉得困守广东一隅，难有用武之地，希望借北伐之机向外拓展，或可建功立业；有些粤籍将领亦不免想到如果这些外省人离开，他们就可成为广东的真正主人了。蒋介石虽然以继承总理遗志相号召，但在当时一些人看来，他更多地是想乘北伐之机，奠立个人的军事独裁地位。
在国民党的对外宣传中，北伐是以统一全国为号召的，但北伐对许多人来说实际上是一种解决内部矛盾的权宜之计。以北伐求生存本是广东革命根据地一个长期存在的战略思路。孙中山1924年北伐的主要考虑即是“在粤有三死因”，急宜北伐谋出路。在中共看来，1926年的北伐仍是使广州摆脱内外威胁的唯一出路。这意味着前后两次提出北伐的动机并无太大差异。
尽管国民革命阵营内部对北伐的意见不尽一致，但并未妨碍北伐的准备工作。蒋介石和国民党中央没有理会莫斯科方面反对北伐的意见。鲍罗廷因不愿在北伐问题上激化与蒋介石的矛盾，也没有坚决贯彻莫斯科的指示。据蒋介石日记，鲍罗廷和蒋介石在5月1日进行了一次长达4小时的谈话，对北伐问题多有争执，但是蒋介石固持己见，争论最后以鲍罗廷妥协而告终。
北伐前夕，中共中央根据蒋介石的政治取向，将蒋介石定位为国民党中派和新右派。此时中共口中的中派与新右派相等同，有“新右派即是中派”之说。7月中旬召开的中共中央扩大会议认为，国民党内有四种力量：一是共产派，二是以冯自由为代表的右派，三是以汪精卫为代表的左派，四是以蒋介石为代表的新右派（即中派）。会议决定今后应联合国民党左派与中派向右派进攻，扶助左派而不能代替左派，控制中派使之左倾，而不能希图消灭中派，必要时还要扶助中派，公开的反对右派。会议还提出要“与资产阶级争国民运动的指导……保证无产阶级政党争取国民革命的领导权”，但会议没有明确提出对蒋介石的方针。
通过中山舰事件和《整理党务案》，蒋介石逐走了自己的对手汪精卫，适度扼制了中共在国民党内喧宾夺主、咄咄逼人的态势。中山舰事件之后，苏俄军事顾问团主张妥协退让，主张满足蒋介石追求个人尊荣的欲望，协助他取得“比较现实更为伟大之权力与实力”，其具体位置即为国民革命军总司令。6月1日，蒋介石当选为国民党中央组织部部长。4日，国民党中央政治委员会及国民政府任命蒋介石为国民革命军总司令。蒋介石奉命后，着手组建总司令部：参谋长李济深，副参谋长白崇禧，秘书长邵力子，兵站总监俞飞鹏，政治部主任邓演达。6月29日，国民党中央党部召开会议，决定应蒋介石的要求，赋予总司令部以特权，可以监督、检查和支配宣传、印刷、运输机关，并指导农会、工会、商会、学生会等各民众团体。7月2日，公布总司令部组织大纲。大纲规定：凡国民政府下之陆、海、空各军，均归总司令统辖；总司令兼任军事委员会主席；出征动员令下达后，即进入战事状态，凡国民政府所属军民财政各机关，均须受总司令之指挥，秉其意旨办理各事。
7月4日至6日，国民党在广州召开第二届中央执行委员会临时全体会议。会议决定：常务委员会主席张静江因足疾请辞，改推蒋介石为国民党中央常务委员会主席，但在北伐期间，仍由张代理；任蒋介石为国民党中央军人部部长，有任免所辖各军及军事机关党代表之权。7月9日，举行总司令就职及北伐誓师典礼。以北伐出师为契机，蒋介石初步建立起了以他个人为中心、凌驾于党权和政权之上的军事独裁体制。
1926年7月1日，蒋介石下达北伐部队动员令，宣布其北伐战略为：“先定三湘，规复武汉，进而与我友军国民军会师，以期统一中国。"7月9日发表北伐宣言，亦以统一中国为目标。中共认为，北伐出师的政治主张仅揭举“统一中国”四字，不够明确具体。鲍罗廷建议在北伐宣言中提出土地政纲，如土地清丈、减租等，但蒋介石不赞成。鲍罗廷对北伐的前景提出四种假定：一、国民政府迁都武汉，与国民军及其他分子组成联合政府；二、一直往北打，最后定都北京；三、打到武汉后，经营云、贵、川；四、打到武汉后，只整顿内部。至于哪种前景最具有可能性，鲍罗廷亦不敢预测。