自1926年4月段祺瑞执政府垮台后，直、奉两大势力围绕中央政权的组建，展开了一场明争暗斗。双方虽然均同意元首空缺，由内阁代行总统职权，但内阁如何组成，双方意见颇不一致。先是由颜惠庆组阁，名义上是由直奉两系共同掌控，实际是以直系人马为中心，奉系自然暗怀不满。两个月后，颜惠庆辞去总理及外交总长兼职，改由海军总长杜锡珪兼代国务总理摄政。杜阁仍为直系吴佩孚所操纵。奉系为了表示与直系合作，也为了在军事上形成共同“反赤”的局面，只好默许由吴佩孚主持。当时舆论认为，自段祺瑞政府垮台后，北京的中央政府即已名存实亡。《大公报》的社评写道：“北京之无政府也久矣。杜阁虽为吴子玉（佩孚）所卵翼，实则吴本身即未曾以政府相待，任免疆吏，且以大帅一道电令行之，并备案手续亦未履行。此种现象，乃民国成立以来所未有。”社评还申言：“今日任何人组织政府，实质上决不能有异于军阀之副官。”
内阁既有名而无实，组阁者之兴味也大不如前。此时中央财政早已负债累累，甚至借债度日也几乎告贷无门。军警政教各方索薪索饷，使内阁穷于应付。吴佩孚军事上的惨败更加重了杜锡珪内阁的信誉危机。1926年中秋节前军警围攻国务院的闹饷风波，使早萌退意的杜锡珪决定立即辞职。据当时舆论分析，此次杜锡珪通电辞职，其意迥非寻常官僚以退为进者可比，而确有其不愿续留之原因。因“军事无终止期，军阀不能无款供应，而以言筹款，政府能力实等于零”。又因吴佩孚挫败于湖北，孙传芳有事于江西，杜锡珪背后之两大势力的地位均非复昔比。奉系成了北方唯一的实力派。与奉系向少渊源的杜锡珪自觉无可再留，不如通电辞职，较为体面。
杜锡珪几次三番地劝说顾维钧出面收拾残局。顾维钧派人赴沈阳探询奉系意图。奉系主要谋士杨宇霆、郑谦等主张对中央不取虚名，专收实权，对各省则得寸进尺。张作霖采纳此议，表示对中央政治仍守盟约，不加过问。顾维钧又派人征询吴佩孚的意见。吴佩孚正当兵败之余，听说接替人选是与直系素有渊源的顾维钧，自然没有意见。10月1日，北京内阁再次改组，由顾维钧代国务总理，内阁人选进行了局部调整：原外交总长蔡廷幹辞职，顾维钧兼任外长；原内务总长张国淦坚辞，由汤尔和接任；财政总长由张宗昌保举潘复担任，潘复未到任前，由财政次长夏仁虎暂行代理。内阁其余人员未动。顾维钧的用意是，以潘复应付直鲁联军，以夏仁虎交涉奉系，“如两无办法，政府亦可告无罪”。当时各方视内阁为无足轻重之摆设，仅靠它对外维持外交，对内筹措饷款，所以一息尚存。
据顾维钧称，他决定出马接任的一个重要考量，是修约交涉已进入关键时刻，不容政府中断。其时，清政府同比利时、日本、西班牙等国签订的不平等条约均先后满期。顾维钧内阁试图通过外交谈判的途径，解除不平等条约对中国的束缚。在期满各约中，《中比通商条约》首当其冲。该约签署于1865年，规定每10年可修改1次，到1926年10月，第6次10年期满。是年4月，北京政府外交部曾照会比利时政府，声明旧约到期失效，要求缔结平等新约，但比利时方面有意推宕。顾维钧主阁后，再次照会比国政府，要求6个月内订立新约，仍遭拒绝。北京政府在一再催促无果的情况下，乃自行宣布条约失效，并将中比交涉案一系列文件公之于众，并陆续颁布了一批法令，废除比利时在华特权。此举乃自鸦片战争以来，中国政府首次不顾列强之危言恫吓，毅然决定废止的一项不平等条约。而这个政府却是一个脆弱不堪的政府。《大公报》发表评论说：“北京政府既无法律根据，又无实力后援，要算天下最没有办法的了，却是自从宣布比约失效，忽然同国民一致起来。”评论认为，在北方没人敢出来负责的时候，顾维钧内阁要是敢做，或许能长久干下去，因顾维钧本靠外交上台，或许能借着外交而不下台。
不过，形势的发展并不尽如人所料。当吴佩孚、孙传芳相继被北伐军击败后，北方为奉系所独控。京津一带，全在奉军势力之下；长江以北，亦唯奉系马首是瞻。在这种情况下，北方政局自然落入奉系一派之手。当时舆论多以为张作霖将为总统，或先以王士珍或段祺瑞为过渡。不过，当时舆论分析，张作霖虽欲总统自为，亦有其难为之处，即“政府无法产出是也”。“欲选举乎，无其机关；欲推戴乎，不易多数。”“况登台以后，外交如何应付，战事如何进行，军饷如何筹措，均皆问题繁难，煞费脑力。“11月10日，张作霖由奉天启程入关，次日抵达天津后，邀请北洋各派代表商讨对策。张宗昌、吴俊升、汤玉麟等奉鲁系将领及吴佩孚、孙传芳、阎锡山等人的代表均有出席。会谈结果，决定先军事，后政治。政治方面，对中央政局采取不干涉主义；军事方面，直鲁联军援孙传芳，奉军援吴佩孚，共同对付“南赤”。虽然张宗昌等对南下扩张地盘早已跃跃欲试，但张作霖感到北伐军气势逼人，北洋各派之间暂不宜自伤元气，故决定先争取吴、孙对奉鲁军南下的赞同。11月19日，孙传芳微服至天津，与张作霖磋商奉鲁军南下问题。20日，在孙传芳的提议下，推张作霖为全国讨赤联合军总司令，吴佩孚、孙传芳、张宗昌、阎锡山为副总司令。杨宇霆认为，“讨赤”二字，范围太狭，建议改称“安国”，众皆赞同。22日，顾维钧鉴于天津方面各实力派协议改造中央，准备退职，特赴天津晤张作霖，请张氏速觅人替之。张氏表示慰留。26日，财政部长潘复与杜锡珪之间因借款计划发生剧烈争执。顾内阁有难以为继之势。28日，顾维钧及全体阁员联名致电各实力派巨头表示辞职。
由于内阁成了为军阀筹措军饷和办理外交的附庸，中央政府的地位大为跌落，最终导致列强亦不愿承认。11月初，当英国新任驻华公使到任时，英国政府训令其公使，须俟中国选出大总统后，方可将所携国书呈递，而对目前北京之摄政内阁，只能递交一国书抄本。据《京津泰晤士报》社论的解释，英国政府的这一做法，“系英政府对所谓代表中国中央政府之摄政内阁，已不予承认。”其他如日本、比利时、美国等国事实上亦有不承认北京政府之意。与此同时，列强对日益强大之广州国民政府，虽仍以地方当局视之，实则态度有渐渐南倾之势。
11月30日，孙传芳领衔通电，推戴张作霖为安国军总司令。12月1日，张作霖在天津就任安国军总司令职。安国军本是一军事联盟，而张作霖却摆出一副问鼎政府元首宝座的姿态。12月10日，安国军总部发表其组织机构和人事名单，以杨宇霆为总参谋长，下设三厅八处，俨然军政府。12月27日，张作霖由津赴京。入京时的仪式，张氏秘嘱军警以迎接元首之礼行之。据李大钊当时的分析，张氏此次入京，本拟以临时总统或临时大元帅名义，在1927年元旦宣布主政，而且准备于元旦之日在太和殿接受外交团各国使节之贺礼。孰料入京之后，坏消息接踵而至，一是吴佩孚将靳云鹗解职，而张作霖原有将靳云鹗收归己用之意，因靳云鹗与南方党军及西北国民军均有相当之联络，张作霖想借靳氏而为南北间之缓冲。而吴佩孚将靳氏解职，张作霖觉得是故意与他为难，也暗示直系不支持他主政。而更为重要的，是外交团方面丝毫没有支持张作霖主政的意思，各国公使为了避免正式承认之嫌，拒绝了元旦赴太和殿出席张氏就职典礼的邀请，而只答应各自以私人身份赴张作霖所寓的顺承王府祝贺新年。至此，张作霖的主政之念被暂时冷却。
张作霖被迫取消主政计划后，决定暂时维持顾维钧内阁。1927年1月12日，顾内阁实行改组，由胡维德、汤尔和、张景惠、杜锡珪、罗文幹、任可澄、杨文恺、潘复分别出任内务、财政、陆军、海军、司法、教育、农商、交通各部总长，顾维钧本人以外交总长兼署国务总理。1月20日，张作霖在安国军总司令部设立外交、政治、财政三讨论会，聘请孙宝琦、陆宗舆、曹汝霖、叶恭绰、梁士诒等各界名流耆硕数十人为三讨论会的正、副会长及委员。2月7日，三讨论会正式成立。张作霖成立三讨论会的目的，当时舆论曾有如下分析：“张作霖去岁入京，本挟有极大之野心，欲攫取大总统之地位，嗣见形势不佳，杨宇霆乃为之划策，力主张氏坐镇北京，乘机观变。张氏见其总统目的既不能达到，极形愤懑，遂拟于去腊回奉。杨宇霆及张学良等恐张氏回奉，则总统之梦想更无万一之希望，杨等乃包围张氏，力止张行。杨氏又为之划策，组织政治、经济、法制三讨论会，即将梁士诒、曹汝霖、陆宗舆、颜惠庆等百余人，罗网于三讨论会中，或为委员长，或为委员，意欲即就伊等改组内阁，而作张作霖取得总统地位之准备。”张作霖最初拟就颜惠庆、梁士诒二人中择一人为国务总理，尤希望梁士诒、曹汝霖为之聚敛民财，不意颜、梁、曹等深知在此民穷财匮之际，力尽搜刮，亦必无成，即能获得少许，亦将尽入奉系囊中，故皆相顾莫前。不仅如此，颜、梁、曹等欲借三讨论会以分掠张氏之实权，并有意拥戴段祺瑞复出。张氏见颜、梁、曹等不能为己所用，遂以敷衍了之。总统梦既无由实现，三讨论会亦形同虚设。顾维钧内阁遂得以苟延残喘。
顾维钧内阁改组的当天，便宣布自1927年2月1日起，征收华盛顿条约附加税，普通进口货征收2.5%,奢侈品征收5%。北京内阁不再等待遥遥无期的关税会议的批准，独自决定开征附加税。至于征收办法，北京政府想通过由外国人管理的海关统一征收，但遭到海关总税务司安格联的断然拒绝。北京政府亦不示弱，毅然宣布将安格联免职，改派易纨士代理。中国政府独自宣布将海关总税务司免职，是总税务司任用外国人以来的头一次。一个软弱不堪的政府竟扳倒了一位操纵中国金融财政的洋巨头，国人于惊愕之余，大呼痛快。《晨报》发表评论说：“安格联向有太上财政总长之称，既握海关全权，又负保管内外债之责，操纵金融，左右财政，历来当局，无不仰其鼻息。而安格联之允诺，可以生死内阁；安格联之言动，又可以高低公债。虽安之滥用职权有以致此，而官僚、财阀迷信外人，实为主因。举国人心之愤慨，已非一日，此次当局毅然罢免，无不痛快！”
北京政府罢免安格联之举，遭到列强各国驻华公使的强烈抗议和抵制。国内金融界也因罢免安格联命令公布后各项公债暴跌而对政府施加压力。在这种情况下，北京内阁被迫让步，同意不强迫海关执行征收附加税的命令；安格联准假回国，一年内仍予以总税务司待遇；在此期间，安格联的工作由易纨士接替。
再说奉系内部，杨宇霆的党羽，希望由杨氏出而组阁，冀得利益均沾。张学良察觉后，恐杨氏专权，将有尾大不掉之势，乃进言其父阻之。张作霖一度动念将杨宇霆免职。杨宇霆在组阁无望的情况下，又转而想自组一新国民党，俟势力壮大后，离张作霖而独立。但其表面则仍敷衍张氏。
张学良见乃父之总统目的未达到，自己极欲一试身手，遂向其父自告奋勇攻打河南，解决吴佩孚，以扩张奉系的势力范围。张作霖征求杨宇霆的意见，杨氏期期以为不可，相反力主联合吴佩孚。无奈张学良固执己见，张作霖终以爱子情切，姑容允之。张学良出师后，直渡黄河，长驱入豫。此次奉吴的河南战争是北洋军阀史上最后一次较具规模的混战。奉系依靠优势兵力和利用吴军内部裂隙取得了胜利，但在战争中也受到了重创。吴佩孚的直系残余自此土崩瓦解。奉系成为硕果仅存的一支军阀势力。
奉系军阀自掌控北京政局后，对“赤化”势力的镇压不遗余力。1926年4月26日，奉系军阀以“宣传赤化”罪名查封京报馆，逮捕并枪杀了该报社长邵飘萍。同年8月6日，《社会日报》主笔林白水因在文章中触犯了张宗昌等人，也被扣上“宣传赤化”的罪名而被处死。1927年3月1日，苏俄商船赴汉口装运茶叶时，在浦口被张宗昌的直鲁联军查出载有鲍罗廷之妻及苏俄外交官员数人而被扣留。
1927年4月6日，京师警察厅出动武装警察、宪兵等300余人，包围位于北京东交民巷的苏俄驻华使馆，逮捕苏俄使馆工作人员及国共党员50余人，内有著名共产党人李大钊。4月28日，安国军总司令部成立的特别法庭宣布将李大钊等20人判处死刑。
南方革命阵营的分裂、宁汉之间的严重对立与激烈斗争，给奉系军阀提供了一个喘息的机会。蒋介石清党反共后，奉系总参议杨宇霆力主南北妥协，张学良等年轻一辈将领亦主张与晋阎、宁蒋合作，改换招牌，并请阎锡山在奉系和南京政府之间斡旋。奉系新派将领希望以此稳住残局，但旧派将领反对与南京和谈，主张将奉军撤回关外。
6月3日阎锡山宣布易帜后，将斡旋宁奉和议当作自己最重要的政治筹码。阎锡山向奉方提出，宁奉合作的先决条件，是奉方易帜，除赞同三民主义外，应悬挂青天白日旗，改称国民革命军。但奉方坚持与宁方对等议和。为了与国民党的三民主义相抗衡，奉系也抛出一个“四民主义”，即在民族、民权、民生之外，增加“民德”。
6月16日，在奉系主持召开并有孙传芳、张宗昌等人参加的高级将领会议上，杨宇霆提出，为了抵御北伐军，各派军队应统一于安国军的旗帜之下，一致服从安国军总司令的命令。孙传芳立即表态说：军事与政治相联贯，即政治方面亦应受总司令的统一支配，建议对北京政府进行改组，组建强有力的“安国军政府”，由张作霖出任政府大元帅。张宗昌亦极力鼓动张作霖道：“今日之事，战亡，不战亦亡，不如痛快干去；且升格之后，即或退出关外，有此大元帅之称号，犹可仿孙中山在广东办法，易于号召。”于是有人提议拥戴张作霖为临时总统，有人主张仍用临时执政的名义。会议最后决定，即日由孙传芳领衔发表通电，拥护张作霖为陆海军大元帅，将从前的直鲁军、苏军、镇威军、吉军、黑军等名目，一律取消，统称安国军，由张作霖重新编制；同时决定在大元帅之下设一内阁，特任潘复正式组阁。6月18日，张作霖在北京怀仁堂就任陆海军大元帅，正式登上了国家最高权力的宝座，其政府的正式名称为“中华民国军政府”。
依照张作霖颁发的《中华民国军政府组织令》，陆海军大元帅除统率中华民国陆海军外，并于军政时期代表中华民国行使行政权。军政府设国务员辅佐大元帅执行政务，国务员包括国务总理以及外交、军事、内务、财政、司法、教育、实业、农工和交通等部总长。军政府之上没有任何代议机关或民意机构。大元帅总揽大权，不对任何机构负责。所有国务员均由大元帅任免。大元帅的权力显然高于此前的总统。张作霖继袁世凯之后建立了一种新的军事独裁制度。
1927年6月20日，张作霖组建的新内阁出笼：外交总长王荫泰，军事总长何丰林，内务总长沈瑞麟，财政总长阎泽溥，司法总长姚震，教育总长刘哲，实业总长张景惠，农工总长刘尚清，交通总长潘复兼任。从名单可以看出，旧有的内阁成员几乎均辞，连相对独立的外交系名流，也放弃了因袭外交部长的传统，拒绝执掌外交部。新内阁班子除沈瑞麟、姚震两人外，余均为奉系人马。
张作霖新政府急于得到外国列强的承认。张氏在宣誓就任陆海军大元帅之当日下午，亲自约请各国公使到外交部举行茶话会。各国公使收到请柬后，十分踌躇，为避免造成觐贺新元首的印象，他们均穿便服前往参加。数日之后，他们以同样谨慎的态度，回答了外交部关于大元帅就职及新内阁组建的正式公文，在简短的外交照会中，公使们小心翼翼地避免了任何承认新政府的词句，其冷淡程度超过了以往历届北洋政府的遭遇。
列强对北京政府的法理地位事实上早已漠视。据《大公报》的看法，“北方自执政制度消灭，国际上已陷于取消承认之地位。中外政府仅为事实上之往来，而公式之交际，殆已等于停止。”
由于连年内战，北洋政权的统治区域越来越小，财政税收随之锐减。大小军阀虽竭泽而渔，无奈民穷财匮已至极限。财政危机使张作霖军政府濒临穷途末路。为解燃眉之急，张作霖请号称“财神”的梁士诒出面向天津银行界借款。各银行纷纷以闭门停业来应付。在内外交困的情况下，张作霖只好请阎锡山出面继续“斡旋南北，议和罢兵”。
奉系的求和表示，得到了蒋介石的积极回应。蒋在致张宗昌函中，声称讨共宗旨，大体既同，自无不可商量之处，但坚持必须以改旗易帜为先决条件。而奉方则提出：宁、奉各自成一团体，国家大政可以合作，内部之事彼此不过问，宁方不自居正统，奉方亦不自称中央。奉方的意图，是要与宁方对等合作，并提出以长江为界，划江而治，遭到宁方的拒绝。
就在张作霖谋和无果之时，南京政府方面因内部纷争，蒋介石于1927年8月13日宣布下野。张作霖获悉后，决定重整旗鼓，乘机反攻。8月24日，孙传芳命令郑俊彦、刘士林、马玉仁等，率部兵分三路由浦口、大河口和扬州三处渡江，进击南京国民革命军。南京方面调集兵力组织抵抗。双方在龙潭展开了一场激战。最后以孙传芳军的彻底失败而告终。
龙潭战役后，张作霖估计南京国民党军一时无力大举北进，决定在津浦路南段采取守势，转而向河南方面进攻冯玉祥。冯玉祥为摆脱困境，以许诺直隶、京津地盘为条件，争取与阎锡山结盟，共同对付奉军。9月29日，阎锡山发出誓师讨奉通电。10月4日，张作霖亦明令讨伐阎锡山。晋奉关系彻底破裂。
晋奉开战后，冯玉祥为配合晋军作战，也于10月中旬向张宗昌的直鲁联军展开攻击。晋军对奉作战，先胜后负，最后双方在娘子关、雁门关一线形成相持状态。西北军对直鲁联军之战，则先负后胜，在兰封一战中俘获直鲁联军3万余人。在徐州战役中，西北军与何应钦的国民革命军联合作战。张宗昌、孙传芳率残部北逃。
1928年2月，重新上台的蒋介石在南京主持召开了国民党二届四中全会。会议决定继续北伐。4月7日，蒋介石以国民革命军总司令的名义下达总攻击令。北伐军进入山东后，进展顺利，5月1日一举占领济南。未料日本以保护其侨民为借口，悍然动武，于5月3日制造了震惊中外的“济南惨案”。日本的侵华行径激起了中国各界的民族义愤，也导致奉系内部发生分化。常荫槐、潘复等奉系人物鉴于国内政争致外人乘隙，劝张作霖顺应潮流，停战言和，免为后世唾骂。孙传芳亦表示不能再负责前线军事：“现在济南事变，日人侮我太甚，本人受良心之督责，不愿再事内争。”在战场失利和一致对外的舆论压力下，张作霖于5月9日发表了停战议和通电。
张作霖通电言和，主要是为了保持奉系在华北的残局。但是，日本政府企图乘机迫使奉系退出关外。日本的意图是，既不允许关内势力染指东北，也不希望奉系向关内发展，对于张作霖试图控制北京并组阁一事，并不热心支持，反而一再警告他克制武力扩张倾向，专力于东三省的整顿，反对一切可能加强中国东北与内地联系的政治军事行动。
自二次北伐再起，日本政府即决定乘机向张作霖进一步逼索满蒙特权，同时强迫奉军出关，以免南京国民政府势力乘胜推进至东北地区。5月16日，日本内阁会议决定：必须绝对阻止北伐军进入关外。17日，日本公使芳泽向张作霖递交备忘录，劝告奉军立即自动撤回东北。
在日本武力恫吓和南京北伐军步步进逼的情况下，奉系内部主张和谈撤军的新派势力渐占上风。当时奉系将领中，主战最力的是其旁系鲁军首领张宗昌。他为了夺回失去的地盘，不惜引狼入室，公然声称欢迎日本出兵华北，以阻止北伐军占领京津，并反对张作霖的息争议和通电，决心拼命再打。张学良、杨宇霆则主张有条件地与南京政府言和撤兵。他们与南京方面代表秘密接触，一面轮番向张作霖进言。一直在和战之间游移不定的张作霖作出最后抉择。5月30日，张作霖在北京怀仁堂召集高级将领会议。张学良、杨宇霆、张作相、孙传芳、潘复等军政要人出席。会上，张作霖决定以大元帅名义下达总退却令。6月2日，张作霖发表通电宣布：“整饬所部退出京师，所有中央政务暂交国务院摄理，军事归各军团长负责。此后政治问题，悉听国民裁决。”奉系对北京中央政权的控制就此结束。
6月3日，张作霖乘专列离京回奉。4日凌晨，专列行至沈阳近郊皇姑屯时，被日本关东军埋设的炸弹炸毁。张氏身受重伤，旋即殒命。张作霖被炸身亡的消息在奉系内部引起极大恐慌，京津一带的奉军斗志全无，纷纷溃退。张学良与杨宇霆率部于6月4日当天退出北京，撤往冀东滦州一带。同日，蒋介石任命阎锡山为京津卫戍总司令，令其早日收复京津。6月6日，阎锡山所属孙楚、商震两部先后进入北京。6月12日，阎军傅作义部接管天津。孙传芳只身逃奔关外。
6月15日，南京政府发表宣言，宣告北伐胜利结束，统一已告完成。
张作霖被炸身亡后，张学良于7月4日宣布就任东三省保安总司令，接掌东北统治大权。南京政府鉴于日本在东三省的势力根深蒂固，担心对关外用兵会引发中日战争，因此决定用和平途径解决东北问题。张学良虽对与蒋介石南京政府的合作前景不甚乐观，但权衡当时的内外情势，特别是与日本之间不共戴天的杀父之仇，他在“自治”与“易帜”的问题上，最终选择了后者。12月29日，张学良、张作相等联名通电全国，正式宣布东三省及热河“易帜”。