蒋介石把共产党视为心腹之患，一心想要消灭共产党，但面对日本的步步入侵，他又不能不考虑抗日的问题。此外，他还面临着一些地方实力派的分庭抗礼。蒋介石坚持“攘外必先安内，统一方能御侮”的方针，其理由是在国力未充、准备未周、中日两国强弱悬殊的情况下，实现安内、统一是攘外和御侮的一个重要前提。蒋介石所谓的“安内”不仅限于“剿共”，还包括削弱地方割据势力。这一方针中包含着深层的政治考虑，也表明其政策实施中先后轻重的次序安排。从两广事变的平息到绥远抗战的发动，就可以很清楚地看出这一点。
两广事变的爆发与平息，说到底还是中央与地方、统一与割据势力之间的一种较量。自1932年1月陈济棠就任西南军分会委员长兼执行部和政委会常委、把广东党政军大权集于一身之后，广东事实上就半公开地同南京中央政府在分庭抗礼了。广西李宗仁、白崇禧同样想要保持广西的半独立局面，因而便与陈济棠联合一气，支持陈济棠与蒋相抗衡。由于相当长一段时间里，南京国民政府的重心在“剿共”和应付日本蚕食进攻，因此一直没有对陈济棠和李宗仁等西南派采取行动，而是尽可能地想要通过羁縻的策略，消除西南派精神领袖胡汉民的敌意，许胡以高位，如提议胡为中央常务委员会主席等，拉胡入京，从而达到瓦解西南派的目的。不意胡汉民始终坚持与蒋为敌，并不惜公开在广州抛头露面，支持半独立的西南政务委员会和西南执行部，抨击南京政府的内外政策。正在蒋介石极为头疼之际，胡汉民于5月12日突然因脑溢血去世，蒋介石当即转守为攻，要求两广取消西南执行部和西南政务委员会，改组广东省政府。陈济棠为维持广东半独立局面，便拉上李宗仁、白崇禧，利用日本发动华北事变、南京政府一味退让从而引起国内舆论广泛批评的情势，趁机打出抗日大旗，以要求中央领导抗日的名义，出兵北上，以进为退，逼迫蒋介石承认两广半独立地位。
两广这时有兵力约30余万人，包括陈济棠的第1集团军和李宗仁的第4集团军，再加上广东和广西的9个空军中队，以及广东的少量海军。事变的发动，是以中国国民党西南执行部5月27日《反对日本增兵华北》的通电为信号的。6月1日，西南执行部和西南政务委员会召开联席会议，决定命令第1、4集团军北上抗日，同时吁请南京国民政府和国民党中央领导抗日，并据此呈文和通电布告天下。电称：“日本侵我日亟，一面作大规模走私，一面增兵平津，经济侵略、武力侵略同时迈进。瞻念前途，殷忧曷极……时危势急，敝部等认为非立即对日抗战，国家必无以求生……乞一致主张，即行督促中枢，领导全国从事抗日。"3天后，陈济棠和李宗仁又领衔率两广将领数十人发出通电，表示要率部北上抗日。随即，西南执行部和西南政务委员会通过决议，一面成立军事委员会，一面把两广部队改称为“中华民国国民革命抗日救国军”（亦称“抗日救国西南联军”），以陈济棠为军事委员会委员长兼总司令，李宗仁为副司令，进而大张旗鼓地向湖南进军。
这个时候，中央军已经利用“剿共”之名，先后进入过去被各地方实力派严密控制的川、黔、滇、康和晋、陕、甘等西南、西北边远省份，南京国民政府的行政权力已经可以达到除东北、新疆和西藏以外的内地绝大部分省、区。这时在关内唯一还可以成为国民政府统一障碍的，也就是两广。因此，对两广称兵，不要说国内各界颇不谅解，就连两广内部也意见分歧。以广东方面为例，因胡汉民去世，最有声望者只有邹鲁。陈济棠称兵反蒋，想请邹鲁出面主持，邹得讯后即于5月16日早早跑去香港，并公开发表谈话，主张全国各党派团结对外。而其他如萧佛成、唐绍仪等亦持反对立场。至于具有全国影响的军政元老如冯玉祥、阎锡山、许崇智等，对陈济棠之举也公开表示不赞成。在这种情况下，虽然两广事件发生之际中央军正分散各地，有的用于“追剿”红军，有的用于驻防川、黔、滇、康以完成军政统一，有的以防堵红军东征为名进入山西，有的集结于洛阳、潼关一带准备调入陕甘协同东北军“剿共”，但这并没有让蒋介石手足无措。因为他不准备马上诉诸武力，他一面调兵防备衡阳以拦截西南联军，一面却更多地采取政治的手段来平息事件。
事变刚一发生，蒋介石就接连公开致电陈济棠等，强调“今日救亡图存，必以整个国力，取一致之步骤”，劝告两广，如有大计，当可派代表进京相商；国民党中央决定于最近期内召开五届二中全会，任何意见均可提交会议讨论，希望所属部队勿以轻率之自由行动，致误救亡大计。与此同时，蒋介石以40万元作为对何键服从中央的奖赏，促使10万湘军不受两广蛊惑而站在中央军一边。再加上中央军抢先进据衡阳，已经推进至零陵和祁阳的广西军队，遂不得不半途而止。西南执行部因此不能不一面激烈抨击蒋介石不对进兵华北的日本用兵，反而调集重兵压迫粤、桂；一面明确表示，西南当局并非要对中央兵谏，不过要求中央出面领导抗日，并请定北上路线、集中地点和给予军辎军火接济而已。至16日，眼见借道湖南北上不成，陈济棠和李宗仁便明令粤、桂军撤出湘境，同时通电要求蒋介石调攻击粤、桂的中央军北上抗日。
两广既不敢对中央军用兵，蒋介石自然不必用武。他马上开始通过各种渠道，对内部本来就不巩固的广东势力实施瓦解术。广东空军最先弃陈而转向南京，所有飞行员均得晋升，且发给赏金12万元。李汉魂为首的部分广东军政人员随后也纷纷离穗赴港，公开致电陈济棠，批评其假借抗日，危害国家。粤军主力第1军军长余汉谋很快也决定服从南京。余汉谋在7月7日径飞南京，向蒋介石表示愿意出面收拾粤局。蒋介石当即委任余汉谋为第4路军总司令，统辖广东军队，迅速回粤倒陈，并拨给军费200万元，外带活动经费100万元。余于9日通电粤军各将领，要求他们抗拒陈济棠的命令，服从南京，支持国家统一。面对这一危险局势，陈济棠和李宗仁等在广州召开紧急会议，宣布成立第1、4集团军联合司令部，陈济棠为抗日救国军第1、4集团联军总司令，李宗仁为副司令。粤、桂两军同时迅速缩短防线，采取守势。
7月10日，国民党五届二中全会在南京召开，蒋介石公开批评广东军事当局自由行动，破坏党国纪律，动摇革命根基。13日，国民党五届二中全会通过决议，宣布撤销西南执行部和西南政务委员会。蒋介石并以军事委员长的名义发布命令，取消第1、4集团军，但任命李宗仁、白崇禧为广西绥靖正、副主任，却免去陈济棠本兼各职，以余汉谋为广东绥靖主任兼第4路军总司令。次日，余汉谋在大余通电就职，声明拥护中央。其电称：“外患日亟，非御侮不能图存，非统一不能御侮，中央之力图和平统一，实为集中力量之救国要图。”“我广东当国难日亟之际，忽然称兵，阴结外寇，进窥邻省，发动内战，破坏统一”，实祸国殃民之行为。随即，余汉谋下令所部回师广东，而驻守韶关的第2军和驻守大坑口的巫剑虹部先后不战而退，余汉谋部顺利进至英德、军田一带，逼近广州城。紧接着，第3军第9师3个团也通电倒陈，陈济棠大势已去，不得不于17日派私人代表飞往南京面谒蒋介石，表示可遵命下野。18日，广东空军150名飞行员、72架飞机在司令黄光锐的率领下通电倒戈，陈济棠更失去了讨价还价的条件。当晚，陈被迫携带家眷乘英国军舰赴港，并被通电下野。
广东瓦解，广西便呈孤立之势。7月20日，李宗仁、白崇禧也不得不通过黄绍竑等向南京表示愿意接受新的任命。但蒋介石自然不会放弃这一根本解决两广半独立局面的大好机会。25日，国民政府宣布撤销国民党五届二中全会对李、白的任命，另委李宗仁为军事委员会常务委员，白崇禧为浙江省政府主席，另委黄绍竑、李品仙为广西绥靖正、副主任。与此同时，蒋令中央军一部由湖南威胁桂林，以一部由黔南压向广西宜山，并派两部进入广东，一路由北江、连山向广西富川、贺县、八步方向开进，一路由广东肇庆沿西江而上，向广西梧州开进，表面上是向广西施压，实际上正如蒋自己所言，此不过一石二鸟之计：“中央对桂军之目的，乃在借此入粤兼安粤局耳。”
李宗仁、白崇禧并不了解蒋介石葫芦里卖的什么药，相信非逞强不能逼蒋让步。他们迅速下达全民动员令，并发表告军民书，扬言“宁为玉碎，不为瓦全”；同时还电邀各反蒋派团体和人士入桂，包括请在港反蒋派要人李济深出来主持大计，请蔡廷锴、区寿年等来桂重组第19路军。于是，7月底，李济深、蔡廷锴、翁照垣、胡鄂公等先后入桂。全国各界救国联合会、华南救国会、第三党等均有代表到南宁，并扬言要于8月初组织独立的抗日政府。
蒋介石原本对桂用兵就含有复杂意图，并非真想与广西全面开战。眼见事态不妙，他又转而先后派人前往南宁进行疏通。于是一触即发的战端又出现了转机。双方人员频繁往来后，解决的症结最后归结为人事安排和中央军撤兵两项上。蒋介石坚持，李、白两人必须有一人离开广西到中央任事。经过讨价还价，李、白最终同意有条件妥协。
9月2日，程潜、居正、朱培德飞抵南宁，与李宗仁、白崇禧等正式谈判。双方达成如下协议：（1）重申开放抗日救国运动及言论、集会、结社自由；（2）撤退南下各军，恢复各方交通；（3）确定抗日计划及时期，务求在最短期间实现；（4）李宗仁任广西绥靖主任，并保留第4集团军；（5）白崇禧以国民政府军事委员会常务委员名义出国考察；（6）广西党政人事一仍其旧；（7）广西军队保留3个师，军费由中央支付；（8）以上各条除第（3）条保密外，其余均请蒋委员长以谈话方式宣告国人。
6日，南京政府发表命令，改任李宗仁为广西绥靖主任，白崇禧为军事委员会常务委员，黄旭初为广西省主席，黄绍竑回任浙江省主席。14日，李宗仁、白崇禧发表和平通电，说明因“痛念国家危亡，激于良心职责驱使，爰有前次请缨出兵抗战救亡的举动……无如抗敌之志未伸，而阋墙之祸将起……所幸中央当局……一再派大员入桂观察，对桂省一切爱国之真相，已彻底明了，同时对宗仁等救亡等项意见，并全部俯予接纳。今后一切救亡工作，自当在中央整个策略领导之下，相与为一致之努力”。两天后李宗仁、黄旭初在南宁宣誓就职，两广事变至此和平解决。
两广事变根本解决，意味着南京国民政府的统一与安内的工作取得了巨大的进展。尽管这个时候西北陕甘地区还有“剿共”的工作尚在进行，但是，多数国民党人和舆论界显然都相信，统一和安内的工作接近于大功告成，攘外和御侮的工作应该可以提上议事日程了。《大公报》记者对南京政府前期的工作即颇肯定，其文称：“这五年当中，除了共产党一个问题未曾安排好以外，我们未曾打过重大的内战，尤其是今夏两广问题的解决，使我们的国家发现一个统一的规模。我们试打开地图看看，中自江浙赣鄂起，南至闽粤桂湘，西至黔滇川陕甘宁青，北方的鲁豫晋绥，莫不在同一的行政组织之下，这些省的军队也莫不在同一的军令系统之下。行政院的命令可以通行全国，中央的军令可以动员全国的军队。这种情形是民国以来所未有的。”
事实上，广东陈济棠的势力刚被瓦解，国民党五届二中全会就成立了以蒋介石为议长、汪精卫为副议长的国防会议，用蒋介石的话来说“就是希望各地方的军事当局，能够共同一致，来中央参加讨论，对于各项决议办法，大家可以彻底明了。一旦发生事变，也可以团结一致，共同负责来抵御外侮”。也正是在这次会上，蒋介石公开发表了《救亡御侮的步骤与限度》的报告，具体说明：“中央对外交所抱的最低限度，就是保持领土主权的完整。任何国家要来侵扰我们的领土主权，我们绝对不能容忍，我们绝对不订立任何损害我们领土主权的协定，并绝对不容忍任何分割我们领土主权的事实。再明白些说，假如有人强迫我们签订承认伪国等损害领土主权的协定的时候，就是我们不能容忍的时候，就是我们最后牺牲的时候。”蒋介石在这一报告中还说：“我们如遇有领土、主权再被人侵害，如果用尽政治、外交方法而仍不能排除这个侵害，就是要危害我们国家民族之根本的生存，这就是我们不能容忍的时候。到这个时候，我们一定作最后的牺牲。”据此，二中全会通过宣言亦强硬宣称：“中国目前形势，非以决死之心求生存，则不能得安全之保障；非举国一致以整齐之步骤谋挽救，则将无逃于各个击破之危机。”今后，“吾人对内惟有以最大之容忍与苦心，蕲求全国国民之团结，对外则决不容忍任何侵害领土主权之事实，亦决不签订任何侵害领土主权之协定。遇有领土主权被侵害之事实发生，如用尽政治方法而无效，危及国家民族之根本生存时，则必出以最后牺牲之决心，绝无丝毫犹豫之余地。”绥远抗战的发动，就是在这样的背景下展开的。
进入1936年以后，此前曾在日本华北驻屯军策动下一度风声鹤唳、高度紧张的平津地区一时归于平静，而属于日本关东军目标范畴之内的察绥地区却再度陷入危机之中。深受“满蒙计划”影响，以控制经营整个满蒙为目标的日本关东军，在实际控制了察哈尔东部地区之后，又利用蒙古地方自治政务委员会（简称“蒙政会”）委员长德王要求高度自治的心理，秘密策动德王在内蒙古造成独立局面，进而统一内外蒙古，建立蒙古国。为此，日本不仅加紧向察哈尔全境乃至绥远地区实行渗透，而且接连运用伪军李守信等部制造事变，逼迫中国方面撤出了察哈尔省长城以北地区。到1936年初，李守信伪蒙军已经侵占了察东的张北、宝昌、康保、尚义、沽源、商都、化德、崇礼8县，并控制了察东的正蓝、镶白、正白、镶黄、太仆寺等8旗，在张北设立了伪司令部。德王随即与李守信公开合流，在察东成立了察哈尔盟公署和蒙古军总司令部，德王自任总司令，李守信任副总司令。4月间，在日本的推动和帮助下，德王在锡盟乌珠沁右旗索王府召开了名为内蒙古王公全体大会、实为蒙古建国会议的分裂会议，公开提出了建立蒙古国的政治目标。5月12日，德王与李守信等更公开在嘉卜寺（今化德）成立了“蒙古军政府”，德王亲任总裁，掌军政大权，李守信兼参谋部长，并聘日本人村谷彦治郎、山本信亲、崛井德五郎等分任主席顾问及军事、财政、外交、教育等顾问，并且编制完成了2个军共8个师的伪蒙军。以德王为总司令兼第2军军长，以李守信为副司令兼第1军军长，总兵力1万人。德王所部驻嘉卜寺，李守信所部驻察哈尔张北及庙滩，王英所部驻尚义、商都，伪蒙军第2军第7师穆克登宝都所部驻百灵庙。日本关东军并从伪满洲国抽调骑兵5000人入驻察北多伦、沽源、平定堡一带。在这样一种情况下，日本关东军和伪蒙军自然要把夺取内含西部内蒙古的乌兰察布盟和伊克昭盟的中国绥远省，视为完成“蒙古建国”的下一阶段战略目标。察绥一带局势渐趋紧张。
还在华北事变之际，蒋介石就已经注意到日本有西进之势。但他当时估计，日军西进的主要目的是造成对苏联合围的态势，以应对对苏作战之需。因此，最初蒋对绥远防御问题尚未给予足够的重视。他相信，以绥远的地理条件和军队的布防，守难攻易，如果真有日军来攻，几乎没有全面坚守之可能，因而他明确告诉对晋绥负有守土之责的太原绥靖公署主任阎锡山说：“绥远守弃方针，弟意小敌来扰，则迎头歼灭之；若其大敌正式来攻，则扼要据守，并择最重要几个据点固守之，如能固守三个月之时间，则事无不成。故绥远不可全部放弃，亦不宜处处设防。”蒋所以相信只要扼要固守3个月“则事无不成”，就是估计日军西进的目的绝不是因为这块土地具有怎样重要的价值，日军的主要目标其实还是为了夺取外蒙，并对付苏联。所以，蒋深信苏联对此也心知肚明，绝不会眼见日本的阴谋得逞而无动于衷。在蒋看来，“倭势西进愈力，则俄取攻势亦愈速”。3月29日苏联与外蒙签订互助条约，便印证了他的观察。他当时甚至开始考虑如何设法从日苏冲突中获取实际利益，即就势向日本要回东北主权的问题了。
但是，蒋介石对日伪西侵意图和日苏战争前景之估计，始终未能得到事实上的印证。相反，注意到日苏形势“始急终缓”，德王竟公然召集“蒙古建国会议”，以后又受到6月初爆发的两广事变的刺激，发现深处日本威逼之下的冀鲁守将宋哲元、韩复榘等也或明或暗地在与两广反蒋派相应和，蒋不能不担心华北诸省有脱离中央的严重危险，其对绥远的方针明显地开始强硬起来。
5月26日，蒋介石公开任命陈诚为晋陕甘绥边区“剿匪”总指挥，意在加强中央对整个西北地区的控制。蒋同时明确要求阎锡山调遣兵力对整个包绥地区增兵布防。他为此亲自致电阎锡山，说明此举对山西安危之利害。电称：“弟意于此省府改组以及四省边区名义发表时，一面应对包绥从速增兵布防，以示决心，则彼必不敢轻窥绥远，至少亦有交涉之地位。否则，彼必待我布置未完，即向绥急进。万一包绥动摇，则晋失屏蔽，虽有天险，亦无以为计。预请当机立断，迅即增防。”
蒋此番布置，都是基于这样一种考虑：“内蒙德王独立，为时间问题，果不能设法消弭乎？冀鲁叛变，图谋脱离中央，将成事实，或可及时消弭乎？”显然，对日苏战争的期待，渐渐不再置于其对绥远守弃策略的中心了。他清楚地意识到，绥远与冀鲁其实是互为作用、同等重要。德王若盘踞绥察，宣告独立，冀鲁之地位以及整个军心民心，亦必彻底动摇。问题是，山西刚刚在中央军的协助下才将由陕北渡河东进的红军击退，不仅余悸未了，而且相当兵力不能不向西防御。受此实际情况的影响，阎锡山深感兵力不足。与众将领反复商量的结果，仍“以为如此增兵绥远，使山西空虚，非固根本计也”。故虽获蒋电，阎锡山方面却迟迟不能有所决定。
至7月间，因伪蒙军进犯的规模越来越大，中央许诺之防务拨款迟迟不见踪影，原增援山西的中央军关麟征等部也因两广事变南调离境，晋绥两省顿感兵力捉襟见肘，故阎锡山和绥远省主席傅作义这时频频向蒋告急，担心“伪蒙图绥”，“恐短期间内有卒然发动之可能”。但蒋这时因应付两广事变，分兵无术，难以驰援晋绥，不得不密电阎锡山，要其克服困难，火速增援傅作义。好在日伪军这时并未发动突然的进攻。
8月初，南京方面再度得到消息，称日本准备趁两广事变、桂系进军广州之际，推动察北伪军攻绥，然后宣告冀察自治。察绥这时的情报也显示，伪蒙军正蠢蠢欲动，有内外响应进占绥东之计划。这说明，绥远的形势不仅相当危险，而且其影响将直接威胁整个华北的安危。注意到这种情况，蒋介石已经在密谋趁敌准备未周，主动出击，打击日伪军了。他明确告诉阎锡山：“弟意欲使匪伪不敢再来扰乱绥远，则我军仅主守御，不能达我目的，必须于其击溃之时，或侦知其后方司令部与结集所在地，我军出其不意猛力袭击，予其一大打击后，适时退回原防固守，则匪伪以后必不敢轻来矣。此兄必操胜算与一劳永逸之计。”
在蒋介石再三催促之下，阎锡山等反复会商后，终于决定向绥远增兵了。阎电称：“此间自前次接奉钧电后即在雁北绥远布置三十五军傅作义之六团，七十师王靖国之六团、六十八师李服膺之七团、独立第七旅马延守之三团、又补充团两团、骑兵六团、炮兵两团，共三十二团，内除王靖国之四团暂在雁门关上担任工事，绥境一有事故，三两日内即可加入外，其余均到绥同一带。有此兵力，似可作当头之棒。而晋绥军兵力亦只能如此布置也。”但实际上，晋军这时很大部分兵力仍集中于晋西与陕北在做两面防御的准备，故其对绥远用兵实难做到全力以赴。特别是注意到张国焘、徐向前所指挥的红四方面军由川康北上甘肃之后，阎锡山更加担心红军会合陕甘后会重演2月东征山西的战略，因此他坚持要求蒋介石调中央军援绥。
相对而言，这个时候傅作义对蒋介石主动出击的建议，态度要比阎锡山积极一些。根据侦察的情况，他知道察北伪蒙军并不具有很强的实力。李守信在张北有骑兵4个师、炮兵1个团，伪军包桂亭有6个团驻化德和尚义，伪军王英亦有3个师并2个旅驻商都。除此之外，于志谦、马子祯、胡贝勒、李子静、吕存义、金甲三以及卓世海的伪保安队，都只是些土匪而已。所有这些兵力，全部加起来也不过1.2万余人。而且，他“判断敌之发动，日方仍不露面，先驱使匪部分路进犯，不攻我坚阵，亦不与我大部拼战，取择隙窜扰、有空即入之手段，以分我兵力，疲我应付。成则将匪西推，日伪占地；否则所损为匪，与彼无伤”。唯一的问题是，绥远的地理条件有利于敌伪窜扰，却不利于大军围击。若尊蒋意，“取攻势直捣察北，扫其巢穴，比较易作，又恐时机未至，有直接对日之虑”，因此，傅作义这时的计划是，组织有经验的无职军官老兵参加境内各县村、围、堡之守备，另组乘汽车的机动部队准备在敌伪来袭时“迎头痛剿”。
面对晋绥将领对自己建议的犹豫态度，蒋介石相当不满。他一面向阎锡山保证“俟桂事解决即可抽兵北上协防”，一面在内心里批评他们“无定识与定力”，进而甚至要求外交部在对日交涉中不得退让，必须坚持他7月在五届二中全会上所宣布的最大让步限度不动摇，称“如逾此限度，当不惜决战”。他相信：“对倭方针，在现时非万不得已，不可放弃忍痛一时之策略，但应抱定牺牲抗战之决心，所谓忍痛，非屈辱之谓也。盖余始终认定倭寇不敢与我正式战争，不久彼必觅旋转之途径矣。”因为他相信，倭寇现在纯粹是外强中干。“盖彼用其全力，持久三年，决不能亡我中华，我之危险，已较前减少过半矣。况彼内在之矛盾，与其国际环境之孤立，而树敌太多，决不允许其如五年前之荒伪放浪。”
由于不能得到晋绥将领的赞同，再加上随着8月24日和9月3日先后发生日人被杀的成都事件和北海事件，日本政府的态度顿趋强硬，蒋在军事上趁机出着的条件已失，只好决定“暂缓”他的“察绥进攻计划”，转而指示外交部长张群加紧与日本驻华大使川越谈判，以成都、北海两地日人被殴杀事件为由，说明目前国人对日本情绪之激愤，强调中日两国缓和关系之重要，试图再次尝试与日本达成全面解决中日关系问题的方案。
中日南京谈判从9月15日开始，接连几次交涉之后，双方的分歧就已经显露无遗。19日，日方以最后通牒方式要求中方同意共同防共、协定关税、聘用日本顾问、开通福冈至上海航空线以及引渡不法朝鲜人等。23日，中方则答以5条希望事项：（1）取消上海停战协定，（2）取消塘沽停战协定，（3）取消冀东伪组织，（4）取缔走私，（5）取缔日机之自由飞行。结果可想而知。
鉴于双方条件明显没有接近之可能，蒋相信事态可能趋于严重。为此，他一方面分别电告军政长官何应钦、吴铁城、韩复榘、沈鸿烈、阎锡山、刘峙、周至柔等，要求他们务必做好应变准备。蒋称：“据昨今形势，对方已具一逞之决心，务令京沪汉各地立即准备一切，严密警戒，俾随时抗战为要。”另一方面，则决定赶回南京，亲自接见日本大使，做最后之努力。他在25日当天的日记中写道：“对倭方针，在现时非万不得已不可放弃忍痛一时之策略。但应抱定牺牲抗战之决心，所谓忍痛，非屈辱之谓也。盖余始终认定倭寇不敢与我正式战争，不久彼必觅得旋转之途径矣。今川越与张群谈判，形势已等于决裂，且彼只有片面要求，不许我提条件，是则不可忍者。余决回京，亲与川越周旋。”
10月8日，蒋介石亲自出面找川越会谈。川越根据日本政府的训令，明确提出了共同防共、华北特殊化和限时降低关税等要求。蒋对此除声明“华北之行政必须及早恢复完整”外，并不与其直接讨论日方的各项条件，坚持其他问题仍由张群外长与川越大使继续商讨。会谈结束之后，蒋介石已经决心重提其“察绥进攻计划”，准备在绥远采取行动了。
8日，蒋介石通知阎锡山说：日方攻绥在即，王英部骑兵3000人将在10日内窜扰绥西，察北伪蒙各军俟王部到达绥西后即会合袭击绥东。蒋要阎务必“严密注意，并切实防范”。几天后，鉴于张群与川越的交涉仍旧完全不得要领，蒋介石进一步加紧策划对绥远的军事行动。12日，蒋介石决定抽调汤恩伯部3个师应援绥远，并电汤恩伯立即与阎、傅联系部队行进问题。由于有消息称关东军调兵两团加入攻绥伪蒙军，因此蒋甚至还想增厚援绥兵力。只是他对关东军是否加入攻绥仍有怀疑，同时何应钦也“恐日人侦知为虑不主急办”，故未付诸行动。
日本关东军会不会卷入攻绥行动，这是蒋介石和南京政府这时最为关注并需要谨慎对待的问题。在关东军已经接连占领了东北与热河，并部分侵占察哈尔之后，这时已经很少有人能够轻率断言其不会进一步寻找借口侵占绥远了。但蒋介石依旧估计日本政府并没有做好与中国开战的准备，关东军在绥远的行动不会是大规模的战争行为，更多的还是关东军少数将领的越轨行动。要阻止其“弄假成真”，中国方面就必须迅速表现出强硬态度，使日方不能不三思而行。鉴于此，蒋介石还是决定先发制人。
21日，蒋致电阎锡山，重提在绥远采取攻势，先发制人，以显示中国方面保卫绥远的决心。其电称：“本日岳军（即张群——引者注）与川越谈判仍无进展，默察情势，绥远敌在必得，预料其攻绥时期当不出下月初旬，我军不如乘敌准备未完以前，决以优势兵力由平地泉附近向东取积极攻势，并以有力部队由丰镇进至兴和，遮断匪伪南北二路之联络，迅速扑灭匪军，以绝其占领绥远之企图。若此时徘徊莫定，坐令匪势庞大，交通完成，则我处被动地位，终陷不利也。”蒋介石断言，此役若能一举击溃其匪伪，使倭军增援不及，则其侵绥企图受此打击，一入冬季，至少半年内不能再侵西北了。
阎锡山等人看问题的方式明显与南京方面不同。南京蒋介石等越注意到日军有卷入的可能，就越是相信必须用强硬的态度使日本人知难而退；阎锡山等人却越是注意到日军有卷入的可能，就越是担心太过强硬反而会惹恼日本人，为其大规模军事介入提供口实。从这样一种考虑出发，他们当然会怀疑蒋介石的方案。前山西省主席徐永昌的观点反映了山西多数领导人的想法。他说：“盖我工事不够，准备未周，共匪又近在侧背，能再延宕敌人一年，于我最利。”目前唯一可行的战法，就是趁伪军王英部进至百灵庙之际，“一举灭之，并将百灵庙附近之能资军用等地毁烧之，只表示不容匪部之入绥境，而表面上不使日人过于难堪”。即便是对这种战法，众人也认为应当十分审慎小心。结果是阎锡山的增援行动与作战计划迟迟不能出台，蒋介石不得不接连去电询问阎锡山：“对匪伪军之进攻计划未知能否实行？”他还决定亲自去太原见阎，“面商一切”。
自10月21日起，中央军汤恩伯部第4师、第89师以及所辖第72师已开始由陕北清涧、延川一带向府谷、神木方向移动，高桂滋第84师各部亦奉命向吴堡、绥德、安定地区转进。蒋并调门炳岳师集结咸阳，随时准备开赴绥远。南京政府援绥部署业已展开。负责实施援绥计划的晋陕甘绥边区“剿匪”总指挥陈诚根据蒋介石令飞往太原，与阎锡山等会商，劝说晋军将领实行出击。陈诚到后，提出可由汤恩伯部中央军化装成晋军模样袭取张北，另由傅作义部攻取商都。阎锡山等对此仍表示怀疑。阎锡山等人甚至认为：目前“绥境内并无伪匪军，我军现已在绥边之兴和、陶林等县驻有重兵，并做国防工事，其沿边之红毛营、玫瑰营、大六号、高家地等处亦并分扎军队”，绥远暂时看不出有太大危险。而主动向察北出击，一来已经集结甘北的中共红军会不会重演2月东征山西之局面，趁机打着增援绥远抗战的旗号堂而皇之地进入晋绥地区，令人忧虑；二来大战一起，晋绥工事、部署准备不周，万一关东军大举介入，红军又近在肘腋，实难料想最后结局。故他们的意见是：“非万不得已不可寻敌。”
10月底，阎锡山、傅作义等均聚集西安和洛阳为蒋介石祝寿，蒋趁机又反复劝说阎、傅等加紧准备攻势。他与傅作义具体讨论了在绥远实施军事防御的方案问题，说明我不攻敌敌必攻我，届时我将更加被动的道理。对阎锡山所担心的中共红军背后威胁之事，蒋也详细介绍“剿共”军事形势，他保证有十足把握能将红军围困消灭，断不致给绥远抗战带来麻烦。但是，阎锡山的态度并没有改变。他在回到太原后，对于蒋建议“精研”进兵德王在绥之据点百灵庙一事，复电蒋：他发动对伪蒙军进攻，难免会成为德王宣布独立之借口。届时德王以独立为由，要求日军协助抵抗，他“不免有挑动对日真面目战争之虑”。考虑到此举利害关系，他的意见是，既然蒋估计伪蒙军必会来攻，不如“俟其发动再由政府下令，较为有词”。
11月上旬，伪蒙军陆续开始由察北向绥远境内之百灵庙、商都、南壕堑大举调动，意在进攻陶林、兴和和集宁，绥远军事形势顿形紧张。5日，德王又发歌电致傅作义，强硬要求：（1）将察哈尔右翼四旗即日归还察哈尔省，并归本会管辖；（2）立刻解除对百灵庙的军事设施和经济封锁；（3）立即归还今春被诱骗叛变的原百灵庙保安队携去之武器弹药；（4）即拨付40万元以为蒙政会清偿债务；（5）今春百灵庙兵变为首人员及贵省袭击梅力更召之官兵，请一律拿解百灵庙，以便法办。电报声明：“以上五项系为蒙古生存逼不得已之要求，贵省以前种种压迫蒙古之错误即应一一承诺，如期实行，否则蒙古虽弱，亦不能不作最后之挣扎。设由此而演成事变，其责任均当由贵省负之也。”与此同时，10月刚刚编成的西北防共自治军改名为“大汉义军”，王英以司令的名义也于14日发表了所谓《告全国同胞书》，公开号召打倒国民政府和蒋介石。
伪蒙军的大举调动和德王歌电，清楚地显示日伪进攻迫在眉睫。傅作义除当即复电一一反驳以外，特告阎锡山：“彼方于最近期内向我进扰已无疑义，拟请钧座当机立断，迅将部队集结于适当地点，准备使用。彼一发动，即迎头予以最大打击，以壮我军威，寒彼贼胆。”他的看法与蒋相同：“倘出以迅捷手段，则日方或不及参加。”
眼见德王已掷下战书，阎锡山也不能不同意此乃伪蒙军“开衅之先声”，因而同意迅速集结部队准备应付。但他依然坚持要后发制人。11月7日傅作义与赵承绶联名电阎，主张：“绥东必出一战已无疑义，推敌袭我之期约为真日，我与其被动应付，不如先机袭击，打破其种种企图，或可戢敌之正式侵犯，似属一主动制胜之策。可否，祈速示遵，以便积极准备。”阎锡山却不为所动，坚持“俟其正式侵犯时，再依我原定计划相机应付可也”。
就在蒋、阎、傅还在就先发制人还是后发制人争论不休之际，商都伪蒙军已经在13日开始向兴和傅作义守军发炮袭击，并用飞机向傅部防地投弹。15日，伪蒙军正式开始对绥东门户红格尔图傅作义部守军发动了地面进攻。傅作义随即调董其武旅前往增援，经过数天激战，成功地守住了红格尔图。傅作义并向阎锡山报告称：“战端既开，我应换得主动或先机制胜之势，对百灵庙拟应奇袭解決，以除后患，且必要时对商都亦应相机攻下，打破敌之企图。惟此单就作战有利而言，至对整个外交有否顾虑，须加审慎。如蒙准行，职当相机而行。”
鉴于敌伪已先发制人，“正式侵犯”，阎锡山亦再难犹豫。他随即电告傅作义：“敌已进扰，我应以先机制胜甚是。已转电介公请示。”但他仍主慎重，强调：“我意此事应熟为计虑。希对百灵庙之兵力布置及工事程度详为探查，俟汤军门师全部集中，并得介公复电后，再相机办理可也。”
在得到傅作义电当天，阎锡山紧急召集各方领导人讨论应对办法。会上仍有争论。徐永昌认为不可急于做进攻的决定，提出：（1）我方攻百灵庙，德王是否仍不令伪匪由庙方出扰，毕竟德王尚未公开向中央挑战；（2）攻百灵庙是否将攻云王府包括在内，因云王府即在百灵庙左近，而攻云王府是否即是攻达尔罕旗；（3）能否以三几团人一攻即下，百灵庙日来布置虚实如何亦未侦察清楚，况此时绥远左近兵力能用于袭击百灵庙者不及一团，故应先请傅作义切实调查清楚，并告以上顾虑，得其回电后再为决定。但面对伪蒙军大举进犯，与会多数亦不敢掉以轻心，阎锡山犹豫再三，还是主张转请蒋介石来做裁决。
蒋介石得到报告后态度一如既往。他当即回电，毫不含糊地表示：“应即令傅主席向百灵庙积极占领，对商都亦可相机进取，对外交决无顾虑，不必犹豫。以弟之意，非于此时趁机占领百灵庙与商都，则绥远不能安定也。”蒋既有令，阎锡山虽心存犹豫，但亦照转给傅作义，只是提出：“我意袭击百灵庙，须以三倍以上之兵力，出其不意，当日完全占领。否则，必多顾虑。希仍详侦熟计，俟汤、门两部集中完备后再相机进行可也。”
17日，为坚定阎锡山等人的抗战决心，蒋介石决定亲自飞往太原。临行前他又得到正在与川越大使谈判的外交部长张群的来电，内中提到，日本有田外相及驻上海领事馆外交官员都明白表示，对察绥事日军并未介入，亦未援助，中国尽可迎击。此一消息自然更加坚定了蒋的信心。他特地要张群叮嘱日方：中国政府将对绥东事件作具体调查，并将给伪匪部队以痛击。电称：“对于绥东发生之案，我方态度宜先须查明蒙伪军攻绥之真相后，方能再定与川越续会之时期示之。并非正式声明或间接宣传，察省蒙伪匪部如一日不肃清，则绥远与西北一日不能安定。我军以保护主权与领土之职责所在，决不容蒙伪匪部存在察省之内，自当不顾一切对蒙伪匪部抱定彻底消灭之决心等意示之。”
18日午后，蒋介石返回洛阳，仍不断去电阎锡山和傅作义，强调“我军出击日期愈快愈好”。鉴于傅作义要求出动空军支持，蒋亦承诺“空军三日内即可在洛准备完毕，随时可以候令飞绥作战”。
不料，傅作义于19日电告蒋：进攻红格尔图之匪被我击溃后，商都目前已到大部增援部队，故袭击商都时机已失，目前只能先攻百灵庙，再行酌情夺取商都。傅作义进而加紧制订夺取百灵庙的作战计划，两天后即通知阎锡山并报蒋：“职已完成袭取百灵庙之计划，预定24日袭夺。”蒋对此甚感欣慰，他除详询部队行动情况与具体步骤外，仍然认为同时夺取百灵庙和商都为好。但由于中央军这时尚未到达绥远前线，以晋绥部队已有兵力，攻一百灵庙尚可，同时进攻商都几乎没有可能。不仅如此，即使进攻百灵庙，当傅作义要求蒋为部队提供空中掩护和攻击帮助时，蒋亦发现不仅空军准备尚未就绪，最早也要到26日才能飞抵战场上空，而且在何时及如何使用空军上，也远不如早先预想的那样简单。阎锡山、傅作义坚持空军必须给予支援，而空军毛邦初等则强调若现在就暴露我空军实力，以后对付敌人空军反为不利。结果蒋亦只能劝说阎、傅暂时不必坚持空中掩护与支援。在蒋看来，只要日本关东军不会马上介入，晋绥军对付伪蒙军实已有余。
阎锡山对蒋介石的意见却不以为然。他明确电告蒋介石：“昨得密报，日以飞机坦克车毒瓦斯等助伪匪军作战，如不得逞即以其正式军队加入作战，必得绥远雁北为旨。此事似只好信其有，不可信其无，为防备万一计，应恳钧座再备五万人驻扎相当地点，以备应战。”不仅如此，在晋绥开战，原非计划中事，各项开拔、粮草、补给和枪弹消耗的费用都需要大量款项。而以晋绥两省之力应付起来，不免会有相当困难。故阎锡山还明确要求中央提供600万元经费的补助，以满足此次作战行动之初步需要。蒋在对阎反复劝说之后，仍无法使阎锡山痛快出击，这不能不让蒋大为不快。
不过，无论如何，在蒋介石的反复督促之下，傅作义所部孙长胜的骑兵师、孙兰峰的步兵旅还是在11月23日夜按照作战计划，秘密到达指定地点，并于24日凌晨对百灵庙发起了进攻。激战至上午9时许，两部即成功地收复了百灵庙，拔掉了日伪安插在绥北的一颗钉子。当天，阎锡山即分报各方，称：“连日匪伪军大部集结百灵庙，谋犯绥北，昨晚开始向我守军进攻，我一面派兵迎头痛击，一面派出奇兵绕袭百灵庙。双方夹击，激战彻夜，卒将敌击溃，于今晨九时我军完全占领百灵庙。”绥远抗战因此乃得以写入历史。
阎锡山的顾虑不是毫无道理。傅作义这时有报告称，关东军发出通告称：“闻绥远军曾于十一月十八日侵入察省境内之互台，十九日侵入三道沟，原来在长城以北之察省区域依去年十二月十八日宋哲元与土肥原两氏之协定，曾有中国军队不得侵入该区域之一步之决定，绥远军此次之行动显系违反此项协定。故今后如再有此种行动时，则关东军不论出任何行动，其责任亦归绥远负之。”此则通告显示对商都，特别是对张北发动进攻，将冒相当风险。虽然傅作义根据南京中央和阎锡山的建议，公开否认有此协定，并表示：“际此大军进剿，当然对该通告应置之不理，以利军事。”但实际上阎锡山等人还是忧心忡忡。徐永昌就明确表示：“在我准备不足之今日，最忌贪功与浮躁。”阎锡山更顾虑到南京方面已经准备动用70架飞机参战，担心再打下去，战事势必扩大，“有惹起中日正式战争可能，当设法阻止之”。他甚至后悔当初不该把傅作义要求对日作战的那封电报转发给蒋介石。因此，他明确提出：“此时能用政治方法谋彼此停止攻击才好。”他的意见是，百灵庙之役后，目前已不是再度扩大战果的问题，而是应把防备关东军的报复放在第一重要的位置，“应防其大批飞机轰炸及放毒”和防其“从平绥路进攻大同，截断晋绥”。
对于关东军的通告，蒋介石的第一反应就是不能示弱。他当即致电外交部长张群，令其就察绥事件起草宣言，“大意以冀察为我国领土，任何人不得干涉，凡非法不正当之任何协议与未经中央正式承认者，概不发生效力。冀东察绥行政主权，中央必求其彻底完成，虽任何牺牲亦所不惜”。同时，蒋密告南京中央的何应钦等，要其做好日军卷入的准备，即“应预备察绥事态扩大，须准备一切，京沪与沪杭两方面尤应积极工作，并作（日军）进兵吴淞之准备，一面与外交部切商绝交之手续，并与冯（玉祥）程（潜）唐（生智）各同志密议筹备”。他并致电河北秦德纯等，提出：“望与明轩（即宋哲元——引者注）兄切商察绥事态扩大后办法。中意察北应趁机收复，请其积极戒备以防万一。”他进而电示阎锡山和傅作义：“对日本驻晋绥各特务机关人员，应准备监视与搜索其住宅。对其室内外所用之无线电机，尤应拆除。”显然，蒋此时并不想就此收手，并且横下一条心，有意要摆出不惜与日本一战的架势。
占领百灵庙后，一连几天得不到下一步进攻行动的指令，傅作义深感困惑，接连电催蒋、阎，询问结果。但蒋介石对阎锡山亦无可奈何，只能暗自在日记中痛斥“阎锡山怕牺牲，不愿进攻商都，只想人危己安，嫁祸于宋哲元，而又借战争之名，来索大宗款项六百万元，其心究何若？”而事实上，他已经知道继续争论下去不会有结果。
就在蒋介石已表示尊重阎锡山等人意见的几乎同时，日本关东军和伪满洲国国防部公开发表了谈话，威胁说“内蒙战事如危及满洲国或共党危及中国，将采取适当步骤以自卫”。对此，蒋依旧表示怀疑。他一面表示尊重阎锡山等人意见，一面还是强调日军不过空话威胁，其必不敢因此对我开战，认为夺取商都、南壕堑，对整个晋绥，特别是对绥远的安全将有极大利益。对此，阎锡山和徐永昌的态度也很坦率：“余意为不惜与日即时开战，或决其必与我开战，则可，不然仍以忍耐为上策。盖共党方张肘腋间，我力量不充，工事太差，统一亦未至表里，相信万一失利，国家殊有不堪设想者。”为证明自己的担心不虚，阎锡山还再度向蒋通报了他所得到的日本关东军正在增援商都的消息：“据报某方军队约三千人携有坦克车二十余辆，飞机三十余架经过多伦，向商都增加，日内即可到达。”
鉴于此，蒋介石也只好委曲求全了。其29日复电称：“对于此时政略，若对察北问题我方已有可进可退之余地，攻守皆可自如，至在外交立场言，当以收回察北为有利也。惟以顾虑引起敌方整个之战争，则准备当须待时，弟意以后战略之攻守当决之于兄，而政略之成败则由弟负其责也。但无论如何，惟须速决为盼。”当然，蒋内心里还是相信这时是千载一时之机，即使日本关东军有心干涉，亦需相当时日，若能即时进攻商都与南壕堑，渐次收复张北各县，不仅对晋绥安全有益，且于外交利益特大。但是，既然蒋已明确表示绥远军事上的战略部署交由阎锡山来决定，阎自然也就懒得多费口舌了。他对蒋的这种看法只是支吾其词，再不做正面回应。阎锡山态度如此，蒋介石亦无法可想。