淞沪抗战虽然最终在军事上未能取得成功，但是中国军队以弱抗强，成功抵抗日本大规模进犯30余天，却极大地激励了全国民众的爱国热情，推动了抗日救亡运动的形成。上海各行各业几乎都成立了各种旨在援助中国军队抗日的组织，如义勇军、救护队、消防队等。上海中华国民救国会、上海市总工会、上海市木业和上海市商会组织了数千义勇军和童子军投入前线。而为抗日将士举行的各种募捐和捐款，实业界自发成立的上海地方维持会，上海以及全国各地大学生和各社会团体所举行的各种形式的支持抗战的活动，都清楚地反映出国人救亡意识的空前高涨。就在这样一种形势之下，国民党却很快把其政治的重心重又转向了“剿共”战争。蒋介石、何应钦分任豫鄂皖“剿匪”总司令和闽赣“剿匪”总司令，开始对红军发动第四次“围剿”。他们的一个重要理由就是，淞沪抗战期间中央苏区红军围攻赣州，牵制中央军北上增援，说明“倭寇深入，赤匪猖獗，吾人攘外，必须安内。”蒋介石在庐山召开的鄂豫湘皖赣五省“剿匪”会议上明确认为：鄂豫湘皖赣几省为全国中枢，“必须早日将匪类肃清，然后始能充实力量对外”。这是因为，中国要抵抗日本，必须要有自强的空间和机会；把“匪区”收复过来，才能得到足够的空间，供未来对日战争时在军事上与日本进行周旋。这一点，就连上海的各大报刊也多表认同，声称“沪战无援，误在共党”，“匪患一日不除，政府一日不能专心对外”，等等。但事实上，蒋介石这时大举“剿共”，大张旗鼓地将第19路军，中央军第87师、88师，以及战争期间驻防上海近郊第二线的约10万部队，悉数调往福建、湖北、江西和安徽等“剿共”前线地区，也还有另外一种目的，那就是告诉日本，国民政府的矛头并非针对日本，而是针对共产党，想借此延缓日本方面的侵略步伐。
然而，就在蒋介石开始对鄂豫皖和湘鄂西苏区全面“围剿”之际，日本关东军却秣马厉兵，又开始着手进攻热河了。热河原本为内蒙古昭乌达盟与卓索图盟的牧场，地处辽宁、察哈尔两省之间，南界河北，北界蒙古，既是东北的重要屏障，也是沟通关内外的咽喉之地，1929年划入东北，合称“东四省”，对满洲而言战略地位极为重要。特别是东北被日本占领后，留在东北的30万义勇军，都要通过山海关和热河省得到关内的补给，而这支义勇军对“满洲国”的威胁极大，非遏制住这种抗日武装，日本人在东北就绝无宁日。因此，还在1931年11月，日本关东军策划成立伪满洲国时，就把热河省划入了未来伪满洲国的版图。只因淞沪战争爆发和国联调查团碍手，而未能采取行动。淞沪战争刚一结束，日本军部就应关东军的要求，向满洲增兵5个师团10个混成旅，使关东军得以抽出以第6、第8两个师团为主干的2万兵力用于进攻热河。热河形势已危若累卵。
1932年6月7日，蒋介石亲赴汉口，发动对鄂豫皖苏区的第四次“围剿”。这时，他已清楚地意识到日本关东军的必欲夺取热河的企图。6月中旬，蒋介石、汪精卫在庐山会商形势，汪精卫提议命令张学良务必首先解除曾派代表参加伪满洲国建国会议的汤玉麟的热河省主席职务，并进兵热河，以确保热河不失。然而汤玉麟为张学良父执辈，张身为东北军大家长，不想因撤汤而伤了内部的和气，故只要汤保证不投靠日本人，他就不愿对汤采取行动。何况张学良对派东北军主力去直接守卫热河也颇多顾虑，深知热河防守在军事上颇多困难，故更乐得让首鼠两端的汤在自己与日本人之间做一缓冲。故他与汤达成的妥协是，汤让张学良派嫡系第6、第7旅进驻热河，张对汤过去的动摇则既往不咎。汪精卫庐山会商之后即转赴北平，一面与国联调查团会晤，一面与张学良讨论热河防守问题及撤换汤玉麟问题。不料，汪、张二人竟因此闹得不欢而散。据张回忆称，汪声称中央决定要在华北与日军一战，胜负在所不计，张当时即问：中央是否有与日本决战的准备？汪答：尚无充分准备，但为应对国内舆论必须如此做。张对此明确表示反对，称自己断然不会为了这样的目的去牺牲东北军将士的性命。
蒋介石对张学良的态度极为不满，因他深知汤不仅政治上动摇，而且其带头贩卖烟土，克扣军饷，致使其数万兵力中真能作战者寥寥。故蒋不仅再三要求张务必解除汤玉麟职位，且注意到张学良担心独力对日损失太大的心理，7月初就委婉建议张派3个旅进驻热河附近，他亦派中央军开到热河附近，待两军部署妥当之后，即迅速开入热河，把汤逼出热河，从而加强热河的防守。但张对此不仅没有接受，而且坚持非得汤同意不能派兵进入热河。张对处置汤投鼠忌器，下不了决心，还有一层原因，就是怕把东北军主力调入热河作战会便宜了觊觎其位的阎锡山和韩复榘，弄丢了平津。何况东北军主力北上，同时将中央军引入热河，这也是张学良的大忌。一旦中央军入热，则意味着中央的势力不仅进到华北，而且进到东北，这难免会威胁到其对东北的控制。故张借口派兵入热，反易引起日本关东军进攻，对向热河增兵一事迟迟无所动作，只在7月底日军进占朝阳后，才在汤的同意下派了2个旅增防热河。对此，就连并不懂得军事的一些知识分子也看出问题来了。丁文江即接连公开撰文批评：“热河部队，只有四步兵旅、六骑兵旅，合计不过两万枝枪……朝阳北票的守兵，一共不及四千多枪，日本如在锦县义县进兵，该地防军，就没有抵抗的能力！……我们现在将二十旅兵力，全放在冀察两省，而将热河交给汤玉麟去防守，这是什么战略？我不懂！”蒋介石也气得在日记中不止一次地斥责张学良畏怯胆小，“总是纨绔公子耳”，“诚等于卖国矣”。
汪精卫对张学良推诿拖延更为不满。眼看热河形势紧急，各界批评之声不绝如缕，他不惜借张学良为出兵向中央催要巨额军费一事，于8月6日一连发表5则辞职通电，公开将张的军。他声言自己坚持要辞去行政院长一职，实在是因张学良抗命不遵。而张学良“去岁放弃沈阳，再失锦州”，如今热河告急，不仅按兵不动，且“欲借抵抗之名，以事聚敛”，让人忍无可忍。为不使热河、平津为东北锦州之续，他愿辞去行政院长一职，以换取张学良同时辞职让贤。对此，张学良自然不能接受，亦通电回击，且为自己向中央要钱进行辩解，称“自卫必先准备，准备非财莫举”。汪精卫辞职原本就是想借机将地方实力派抗命中央的内情曝光，张学良的答复正中其下怀。他因此复电历数张执掌河北、热河、察哈尔等省军政以来，一切国家税收悉被截留的情况，称“一旦疆场有事，中央责以防御，则请饷之电，来如雪片”，“请而不遂，则一切责任归之中央”，此情此理何在？在他看来，“今日而欲抵抗强敌，惟一办法在打破各省军人割据之局面，使中央能聚全国之财，运全国之兵，以为全国争存亡”。因为事实很清楚，正是因为各地军政不能统一，两广扣留税款，东北军经费取之于华北，山东、湖北、福建等各省均截用或擅扣税款，而中央政府财政基本上只能靠关税和统税的收入。他之辞职，其实不过是希望中央能就此免去张职，“以为打破军人割据局面之发轫”。
汪、张内讧之时，蒋介石正在“剿共”前线。他一面电汪，强调“剿匪正在进行之中，北方倭寇方张，热河危在旦夕，如我中央政局动摇，不惟有碍剿匪，而且徒张寇焰”，要汪收回辞意，回京主持；一面电张，提出三策：（1）不辞职而带兵入热抗日；（2）辞职而带兵入热抗日；（3）辞职而改组北平绥靖公署。在他看来，无论张辞职与否，都应于3日以内亲率所部急趋热河，以最秘密、最敏捷之方法行之，不宜稍涉游移，如此对内对外才有说辞。但张因受汪指责实无台阶好下，故对蒋电同样不能接受。他公开表示：除非政府筹集大宗现款，使东北军的粮秣饷糈足三五个月之用，并有充足之飞机、枪弹等军实到手，否则他断难率士卒出关应战，宁愿辞职。时至于此，蒋介石亦不得不请张辞职。16日，国民政府明令准张辞去北平绥靖公署主任职。汪精卫目的已达，遂于17日返京，出席中政会。想不到17日以宋哲元为首的57名将领联名通电留张，扬言要与张同进退。大敌当前，蒋介石不得不再给张以代行国民政府军事委员会北平分会委员长职，仍旧主持北平军政。张的明去实留，让汪无论如何咽不下这口气。他重新表示不再回任。蒋慰留不成，也不同意汪辞，而是继续保留了汪的行政院长一职，暂以财政部长宋子文来代理。
1932年底，日本驻榆关铁路守备队队长落合甚太郎，因不满犬养毅内阁惧于国联调查团，不敢夺取热河，遂仿照“九一八”事变，自令宪兵于1933年1月1日在其司令部门前和附近分投数枚炸弹，然后指称东北军守军何柱国旅所为，要求该旅交出山海关南门，并撤出榆关。未得中方守军答复，日军即于次日晨发起攻击。3日，日军第8师团8个中队，连同守备队，在海空军配合下，夺取了山海关，守军石世安团伤亡过半。
山海关轻易失守，平津地区门户洞开，蒋介石当即电张称：“榆关既失，情势愈重，不可以寻常视之。此后倭寇必以真面目攻取平津，我方不能不迅下决心，从速处置。”加以社会各界舆论对此强烈关注，张学良不能不开始关注热河的防守问题。他一方面宣布向热河增兵数旅，一方面则敦请蒋介石北上统筹。蒋介石这时却不肯轻易停止正在进行的“剿共”战争。他估计东北军既已增兵热河，除非日本再从国内调来几个师团，以关东军现有兵力应当不会再大举攻热。故蒋并未离开“剿共”前线，而是派陆军大学校长杨杰代其前往北平，协助张学良。同时，蒋还让代理行政院长宋子文前往北平为张打气。宋子文特地与张学良一道赴热河前线进行了视察。回到北平后，两人还联名发表通电，慷慨激昂，声称：“舍牺牲无以救死，但有一兵一卒，亦必再接再厉。”然而，宋、张两人联名通电不数日，日本关东军即于2月23日下达总攻击令，不足10日即轻取北票、开鲁、朝阳、下洼子、凌南、凌源及赤峰。热河的东北军多半望风而逃，汤玉麟临逃时还不忘征集卡车把他藏在热河首府承德的烟土悉数拉走。日军一部仅128人，未经任何抵抗，**地于3月4日开进了热河首府承德。整个热河保卫战，守军不下8万人，不仅挡不住1万余日军，而且仅10天即告全省沦陷，此种情形与淞沪抗战大相径庭，故完全出乎国人预料。一时间国内舆论大哗，群起而攻。张学良早就因不抵抗受人指责，如今10天即丢热河，自然状极狼狈。
日军攻热，蒋介石即秘密调中央军3个师北上，并将何应钦从江西“剿共”前线派往北平负责指挥。随后，蒋自己亦动身北来，以期督促张学良入热督阵，却不料中央军尚在途中，东北军早已放弃了热河。3月7日，在各界舆论的强烈谴责下，张学良被迫提出辞呈。蒋次日亦赶到石家庄，决意接受张学良辞职，且有心取消北平军分会，设平津察戒严司令部，以何应钦为司令，从而使平津直隶于中央控制之下。对此，何应钦极为慎重，深恐东北军将领不服，蒋随即放弃了这一提议。9日，蒋介石在保定见张学良，正式表达了愿意看到张下野的意见。两天后，张学良正式发表通电引咎辞职。12日，国民政府下令批准张的辞呈，何应钦正式兼代国民政府军事委员会北平分会委员长之职。
张学良辞职后，东北军重组为4个军，以于学忠、万福麟、何柱国、王以哲分任各军军长，归北平军分会指挥。蒋介石同时再调两个师增援，并先后召见了太原绥靖公署主任阎锡山、山东省政府主席韩复榘、河北省政府主席于学忠，以及宋哲元、庞炳勋、秦德纯等将领，商谈抵抗日军进一步向长城以内推进的问题。据此，中央军徐庭瑶第17军驻密云，守古北口、南天门、石匣镇一线；西北军宋哲元第29军等援喜峰口，守罗文峪；王以哲、何柱国、万福麟等东北军分守滦东、冷口、界岭口一线。长城抗战由此拉开帷幕。
日军占领承德后，即乘势向长城一线推进，试图控制长城东段各关口。就在张学良见蒋当日，日军混成第14旅一部已追击东北军万福麟部至喜峰口，恰逢宋哲元第29军先头部队赶到，并于当晚组织大刀队发起攻击，才夺回了被日军占领的口门各制高点。随后两天，第29军与进攻日军展开激战，宋哲元再度利用大刀队夜袭日军，成功地守住了喜峰口，取得了长城抗战的第一个胜利。
日军进攻热河之际，日内瓦国联特别大会首次通过全体决议谴责日本，故日本内阁乃至于天皇，都对热河之战用兵范围有所限制，不赞成越过长城界限，顾虑招致国联的进一步干预。但日本军方对此颇为不满，日本参谋本部密令奉天特务机关长板垣征四郎去天津组织天津特务机关，同时收买煽动华北地方势力在平津一带制造事端。为配合此一计划，3月下旬，日本关东军司令官武藤信义不顾日本内阁的规定，下令关东军越过长城线向滦东地区进攻。31日凌晨，日军第6师团岩田支队由九门口、义院口向石门寨猛进，守军何柱国部稍事抵抗后退守海阳、秦皇岛一线，日军次日即占领了石门寨。一周后，日军第6师团主力第33旅团在混成第14、第33旅团各一部的配合下，对冷口、界岭口方向中国守军发起猛攻，中方守军顽强抵抗，经过将近3天的激战，日军才突破了中国守军的防线，迫使商震部退过滦河。日军随即向纵深发展，占领了建昌营和迁安，进一步威胁到滦河西岸守军阵地侧背，其主力更绕到喜峰口后背，对防守喜峰口的宋哲元部形成了前后夹击之势。结果，宋哲元的第29军、驻守界岭口的第53军杨正治部，以及东北军何柱国部和王以哲部，均先后被迫退向滦西。4月17日，日军全部占领了滦东地区。但就在日军准备自昌黎、抚宁、留守营、建昌营至抬头营建立一阵线时，在日本天皇的干预下，关东军司令部不得不于20日晚下令所部全部退出滦东，返回长城一线。
但是，日本关东军对中国长城守军的进攻并未因此停止。就在其东线越过长城的部队受命退回长城一线之日，板垣征四郎密报已策动张敬尧等计划于4月21日在北平发动变乱。为了牵制平津中国守军，并促反蒋的地方实力派发难，武藤信义下令第8师团猛攻中央军防守的南天门阵地。南天门这时是由徐庭瑶所属黄杰的第2师担负防守任务的，该师奋勇抗击数天，终因伤亡严重，于26日交防于刘戡的第83师。第83师接连抵抗了3天，最后亦因伤亡过大，被迫于28日放弃南天门，退往新开岭防守。而板垣所报所谓张敬尧等将发动叛乱的消息却无一实现。但武藤信义仍顽固地想要推动华北地方实力派的分化，他依据参谋本部的意见于30日下令，为使中国华北当局屈服，促使华中、华南分裂，第8师团应向石匣镇、新开岭进攻，第6师团应向桃林、石门寨、建昌营进攻，以迫使中国华北当局与日本关东军订立一项有利于确保“满洲国”安全的停战协议。这一协议主要应包含以下内容：（1）中国须将其军队自动撤至宣化、顺义、三河、玉田、滦县、乐亭各县之西南，并不得对于撤退地方再有进出。（2）中国对于事实上之排日取缔，必须保证。得此命令后，日军5月11日即强渡滦河，迅速击破了于学忠、王以哲两部的防线，扫清了长驱平津的主要障碍。至此，武藤信义于15日公开发表声明威胁称：“假如中国军队断绝并放弃其从前之挑战态度，则我军有即速开回长城线之可能，因本军本务，只在维持满洲国内之治安……但若中国军队仍不改变其态度，则本军亦不得不反复地继续作战。”
实际上，还在日本关东军第一次退出滦东前后，中国方面就秘密开始了与日方的停战交涉。最初由武官根本博提出停战线在永平、玉田、顺义一线。至南天门阵地丢失，日本关东军再度提出停战线，已进至密云、平谷、玉田与滦河之右岸。不料日本驻北平武官永津佐比重对此坚决反对，强调华北的中国军队派别分歧，军心不稳，何应钦无力统帅，关东军应全力拿下密云，同时增兵向平津示威，迫使中国军队进一步后撤，于是才有了参谋本部要求中国军队撤至宣化、顺义、三河、玉田、滦县一线的提议。不仅如此，日方一面派驻上海武官根本博与黄郛接洽，派驻北平武官永津佐比重与何应钦手下参谋熊斌进行接洽，一面却对中国守军跟进追击，先后占领了丰润、沙河、密云、三河、遵化、蓟县、唐山、香河等地，北平门户大开，危在旦夕。5月21日，何应钦不得已而召开军事会议，决定由徐庭瑶固守北平，其他军政机关全部移往保定。汪精卫则明白告诉谈判代表黄郛：“除签字于承认伪国、割让四省之条约外，其他条件皆可答应。”其实，日本军部并不想此时占领北平，故已突然刹车，于22日电令武藤迅速与中国华北当局签订停战协议。而中方对此全不知情，深恐日军会大举进攻。
日方这时由武藤转达永津的停战条件为：（1）中国军队速撤至延庆、顺义、宁河、芦台线之西之南，此后不得越线前进；（2）中国军队照线退却，日军不续追击；（3）日方于确认第一项条件实行后，自动撤退至长城线。据此，永津等密邀受命到北平组成行政院政务整理委员会并任委员长的黄郛，当夜与日方举行秘密会谈。因担心事机迫切，深信永津等关于日军天明即将大举进攻的威胁，黄郛在反复商谈不得结果的情况下，于凌晨时分最终依据日方条件与永津等达成了口头协议。当天，何应钦等将日方条件分别电告了蒋、汪。汪精卫态度坚决，回电表示：“弟决同负责，请坚决进行为要。”蒋介石则稍有顾虑，但也仅限于强调此种条款“形诸文字总以为不妥”。他亦深信：“事已至此，委曲求全，原非得已。”
在蒋、汪认可日方条件后，5月31日，中日双方代表，即中方代表熊斌中将，日方代表冈村宁次少将，在塘沽举行了正式谈判。冈村宁次的态度极为强硬，声称日方协议是最后方案，没有更改的余地，中方只能回答“是”或者“否”，且必须在两小时之内作出回答。在这种强力威逼下，中方代表屈辱地在日方提案上签了字。该协定内容为：
一、中国军即撤退至延庆、昌平、高丽营、顺义、通州、香河、宝坻、林亭口、宁河、芦台所连之线以西、以南地区，不得前进，又不行一切挑战扰乱之举动。
二、日本军为确悉第一项协议实行之情形，可用飞机或其他方法施行视察，中国方面应行保护，并予以便利。
三、日本军确认中国军已撤至第一项协议之线时，不超越该线续行追击，且自动概归还至长城之线。
四、长城线以南第一项协议之线之北，及以东域内之治安维持，由中国警察机关任之。右列之警察机关（该文件为竖排，故前句为右列——引者注），不得以刺激日本军感情之武力团体担任。
五、本协议签字后，即生效力。
协定签字后，根据中方代表的要求，日方只同意在协定之外补充说明一条，即“万一撤兵地域之治安发生扰害非警察力量所能镇压，应由双方协议之后再作处置”。
“塘沽协定”的文字，充满了日本关东军对中国军队的轻蔑和污辱。它的签订，不仅承认了长城一线为日军占领线，在事实上认可了日本对东北四省的非法侵占，而且使中国失去冀东滦县、昌黎、乐亭、抚宁、迁安、卢龙、宁河、丰润、玉田、遵化、宝坻、通县、三河、平谷、怀柔、香河、蓟县、密云、顺义、都山和兴隆等20余县的完全治权。在此区域内，中国不得有军队，即使地方警察也必须于事实上仰承日方旨意，否则必受“刺激感情”的指责，承担破坏停战协定的责任。它无疑以协定的形式，为日军进一步向华北扩张打开了方便之门。这样一种协定的签订，不可避免地会引起社会各界和民众的广泛不满。