为了有效地管理湖广一带，元璋还专门设立了湖广行中书省，以枢密院判杨璟为参政。
元璋吸取了元朝的教训，强化了中央集权，因此不在行中书省设置太高的官职，也不赋予其过大的权力，所以较之元朝在行省设置左丞相、平章等高级职位，元璋只是设置了参政等职衔。而陈友谅就没有吸取这个教训，比如说他在江西行省就以胡廷瑞为丞相，如此一来就便于胡廷瑞营造自己的独立王国，当形势对胡廷瑞不利时，他就容易摆脱中央的控制独行其是。
几天以后，元璋带着徐达、常遇春等人慕名来到了黄鹤楼上，在饱览了一番山川美景之后，元璋又情不自禁地感慨道：“咱自起兵以来，已经一十二载，其间几多坎坷，几多困苦，几多屈辱，又几多凶险，如今总算都一一坚挺了过来，又取得今日这番成就，足见天命之不容假借！”
常遇春对此毫不怀疑，当即欣喜道：“主公得的是真命，我等大概也是武曲星下凡了！”
毕竟有小明王在，元璋便示意道：“我主才是真命，我等不过是臣下！”接着，他便试着切入正题道：“你们之中谁还记得咱前几天写的那首诗？”
“哪一首？莫不是主公那首《率师征陈友谅至潇湘所写》吗？”徐达试探着问道。
“对，天德可还记得吗？”
“当然铭刻于心！”徐达笑了一下，吟诵道：“马渡江头苜蓿香，片云片雨渡潇湘。东风吹醒英雄梦，不是咸阳是洛阳。”
“遇春，你可晓得咱的意思？”元璋转向常遇春问道。
常遇春本人虽然不太明白这首诗具体是什么意思，但经过幕僚私下为他讲解，对此早已了然于胸，于是他笑道：“您老人家是在洛阳跟楚霸王苦斗的高祖，不是在咸阳坐享一统成就的始皇帝嘛！”
“嘿，遇春果然是个有心人！”元璋一笑道，“而今我等虽然消灭了陈汉这个劲敌，可以睡个安生觉了，但还是不能松懈，还要再鼓余勇、再接再厉，争取把蒙古人赶回草原去，以光复我华夏正统，以雪我华夏四百年奇耻大辱！”
徐达有志于光复中华，忙拱手道：“行百里者半九十，咱们如今才走了五十里。主公放心，下一步我等就可分兵三路，一路南下湖南，一路南下赣州，另一路北上攻取襄阳诸郡！”徐达说的这几个地方都是陈汉尚未归附的地区。
元璋摆了摆手，道：“那些都不急，咱已经跟刘先生他们都商量过了，下一步咱们先把庐州老左给收拾了。这厮可是咱们的劲敌，去年也让他把咱们给坑苦了，差点让咱们铸成大错，今年定要报此一箭之仇！待收拾完老左，天德，你跟遇春就可以分兵去攻取湖南和赣州了！”
“那襄阳诸郡呢？咱们何时攻取？”常遇春问道。
“安陆、襄阳一带跨连荆、蜀，又是南北之喉襟，乃英雄必争之地！一旦咱们攻取了赣州、湖南诸郡，在两湖彻底稳住了阵脚，再兵发襄阳不迟！”元璋缓缓说道，“襄阳等地可不好打，况且那里形势也复杂，王保保、李思齐等人有可能要算计咱们，此事必须周密谋划。遇春啊，我等且不可操之过急，如今已犯不着打那无把握之仗，以免白白牺牲将士！”
“主公教训的是，想当年蒙元攻打襄阳，就花了整整六年呢！”常遇春感叹道，“说到王保保等人，咱们还没有跟他们交过手，他们也是百战之余，又以骑兵为主，想来有两下子吧！”
“不是这个意思，你想岔了！”元璋一摆手道，“我等用兵襄阳不可草率，必须做好各方面准备，尤其兵力、粮草一定要厚实。且一旦确定好何时攻打襄阳，那动作务必就要快，力求一鼓作气拿下襄阳，不可拖延太久，否则夜长梦多，容易让王保保等人有机可乘！你想想，一旦襄阳战事陷入胶着，那岂不是要影响整个北伐大业？”
“哦，还是主公见得远，遇春明白了！”常遇春服气道。
“遇春啊，别怪咱说你，你如今虽然嘴上明白了、服气了，但心里未必明白，也未必服气！你这好勇斗狠的心性，难改！”说到这里，元璋爽朗一笑，“现在咱就给你出个题目，你今日务必答上一答！”
“主公请说，什么题目？”常遇春当即问道。
元璋见常遇春这猴急的模样，忍俊不禁道：“你觉得我部当如何收服张九四？”
“这个，这个……”常遇春有些疑惑，“张九四如今已是秋后的蚂蚱，咱们直接杀到平江去不就完了嘛！”
“怎么样？你这个心性还是不改吧！你如今就回去好好想一想吧，到应天之后再把你的想法告诉咱！”元璋生怕伤了常遇春的自尊，忙又解释道，“当然，如今也是咱们顺风顺水惯了，自然难免有些轻敌之心！这一点，连咱也不能免俗，就说去年攻打庐州之役吧，你说犯得着先跟他老左过不去吗？真是一时头脑发热，险些酿成大错，至今想来也是后怕啊！当时咱就是太骄矜了，老左一旦招惹了咱，咱就想立马还以颜色！也是太轻敌了，幸好他陈老四没有像首战应天时那般部署！”
“那我们回到应天以后，就先把老左收拾了，给主公出了这口恶气！”常遇春心里越发服气了，只是也越发有些疑惑，忙又问道，“老左的事毕竟已是小事，那么主公于千秋大业究竟是如何盘算的呢？今日不如就和盘托出，也让我等心里都有个数！”
“好吧，这个容咱先想一下！”元璋装作有些为难状，他凭栏远眺，将目光投向了浩浩长江，思忖了一番后方道，“这个嘛，应该这么看，如今陈氏既灭，咱们的心腹大患没有了。天下群雄欲图谋我者，非有一支强大之水师不可，可而今这等劲敌是没有了，我部已处于进可攻、退可守的有利地位，只要假以时日，觑得合适之机，不愁天下不得一统！如今环顾天下群雄，他们也无统一号令，便于我等各个击破。先说南方，江东有张士诚，浙东有方国珍，福建有陈友定，广东有何真，云南有梁王，四川有明玉珍；就算张士诚这块骨头最难啃，但也只是时间问题，而且他靠咱们也近，多则三年，少则两年，咱们就可以把他给收拾了，至于什么方国珍、陈友定、何真之流，无非一支偏师就可以顺手解决，而云南、四川地理险远，那是不急之务，可以留待将来慢慢再看。再说这北方，情况比较复杂些，这个需要一些耐心，也须努力积蓄些实力，不妨再从长计议，但他们如今还威胁不到我们……”
“嘿嘿，这个火候恐怕不太好把握吧！”常遇春憨笑道。
“嗯，我们不能急躁，但也不能懈怠。”元璋一扬手道，“咱已经算准了，北方群龙无首，必然内讧，咱们务必小心谨慎，一个个来。先南后北是基本方略，说不定视时机有利时，亦可南征北伐并举，到时候南方就交给汤和与永忠，北方就交给你和天德，你们建功立业、声播寰宇的时候到了。”
众人听罢一阵欣喜，于是一起恭维道：“主公圣明，驱逐胡虏，复我华夏！”
几天后，在离开武昌之前，元璋又命常遇春发遣陈理及其旧日官属等一同赶赴应天。三月初，元璋一行人终于回到了应天。
这天，在一次召见各地父老的庆功宴上，有一位句容的老儒士突然问元璋：“主公先前在湖口、九江一带大败陈伪主时，其众既溃，您何不乘胜直抵武昌，反而引兵退还呢？如今您虽然攻克了武昌，但也费了不少力气啊！”
元璋先是自饮了一杯酒，然后不疾不徐地微笑着回道：“你们儒者有一句话叫‘覆巢之下，岂有完卵’，想必你应该晓得吧？况且事有缓急，兵贵权宜。陈氏兵败之时，吾岂能不知乘胜席卷之理？可是兵法上说‘穷寇勿迫’，若是我大军乘胜急追，彼必死斗，如此我军伤亡必多。咱所以任由他回去，又派出一支偏师紧跟其后，就是为防止他们逃窜到武昌以外的地方，那时岂不麻烦？咱已料定他们在创残之余，人各偷生，喘息不暇，难道还敢再战吗？咱以大军临其城下，所以他们才全城降服……如此一来，我师不伤元气；二者，生灵获全；三者，保全智勇之士。难道好处还不算多吗？”
这位儒士听后，大感悦服，于是当即伏地恭维道：“主公天授智勇，实我中华之福！”
不久后，元璋又命建“忠臣祠”于鄱阳湖之康郎山，而且学着唐太宗在凌烟阁纪念二十四功臣的样子，命人专门绘制了一些死难功臣的画像，以垂不朽。
在交代相关的中书省臣僚时，元璋颇有些动情地说道：“崇德报功，乃是国之大典。自古兵争，难免会有诸多忠臣烈士以身殉国，其英风义气，虽死犹生……在去岁的鄱阳湖大战中，死难的忠臣良将如过江之鲫，数不胜数，如果不能彰显他们的功绩，那么何以安慰死者，又何以激励来者呢？”
臣僚们一致揖首道：“谨受命！”
不过元璋却忽视了对一个人的封赏，这就是先前看起来很识大体的朱文正。元璋本以为当初过度提拔文正已经够招人非议了，如今文正既然建立了大功，那也就名副其实了。何况他自己也说过谦抑的话，而他的那些功劳固然是自己的努力得来的，但其实也多是其地位决定的，换文忠上去恐怕比他还强得多。
哪知文正当初不过是故作姿态，他在洪都传扬开名声后，便越发不可一世，只等着老叔也给他大大的封赏呢！不承想老叔对他这个侄子完全没有表示，这令文正不由得大为不满，再加上岳父谢再兴的事情，竟令他对老叔莫名愤恨起来，越发有了些乖张暴戾的表现，结果被人举报“夺人之妻，杀人之夫，灭人之子，害人之父，强取人财”，还曾派人到张士诚统治区贩卖私盐牟利。
元璋渐渐明白，早晚有一天他要到洪都去跟侄子好好算算账，只是眼下还不是时候。
到了四月的一天，元璋在退朝后，一时间颇有点意兴勃发，于是叫住了近臣孔克仁等人，要与他们就历代的成败得失交流一番，也顺便跟他们谈一谈自己的用兵方略。
元璋首先问孔克仁道：“汉高起自徒步之民，终为万乘之主，卿等以为其中是何缘故呢？”
“由其知人善任使吧！”孔克仁答道，“汉高曾言，‘夫运筹策帷帐之中，决胜于千里之外，吾不如子房；镇国家，抚百姓，给馈饷，不绝粮道，吾不如萧何；连百万之军，战必胜，攻必取，吾不如韩信。此三者，皆人杰也，吾能用之，此吾所以取天下也’。”
“如卿所言，仅止于此吗？”
“臣知微识浅，见识仅止于此！”孔克仁拱手道。
元璋思虑了一番，于是侃侃而谈道：“周室陵夷，天下分裂，秦能一统之，而不能坚守之。陈涉一旦作难，天下豪杰蜂起，项羽虚伪诡诈，南面称孤，仁义不施，而自矜功伐。汉高知其强忍，而承以柔逊，知其暴虐，而济以宽仁，终能胜之。及项羽身死东城，天下传檄而定，故不劳而成帝业……此犹如群犬逐兔，汉高则张置而坐获之也！”
从这种腔调中，孔克仁不难感觉到主公是把自己比作刘邦了，而项羽隐隐有在说陈友谅的感觉，他忙恭维道：“主公见高识远，臣难及也！”
元璋一笑，继续道：“方今天下用兵，豪杰非二，皆为我等劲敌；咱立足于江东，任贤抚民，伺时而动，若纯是与之角力，则猝然难定；倒不如学得汉高一二，知人善任固然为要，但收取人心乃其根本！”
众人听罢，于是一致揖首道：“天下归心，春秋一统！”
彼此交流了一个时辰左右，元璋突然兴致勃勃地说道：“秦以暴虐及宠任赵高等奸佞而致天下土崩。汉高起自布衣，却能以宽大驾驭群雄，因之被推戴为天下之主。然而今之天下大势却与那时有所不同，元之号令纪纲已经废弛，所以多有豪杰蜂起，雄霸一方。惜乎诸豪杰皆不知修法度以明军政，这也是彼等皆不能成就大事之主因啊！”
说完这句话，元璋不由得感叹良久，孔克仁于是恭维道：“天降圣人，必得天命，彼等不过皆是煊赫一时罢了！”
元璋微笑着一摆手，继而又分析道：“天下有兵之群雄，河北有孛罗帖木儿，河南有王保保，关中有李思齐、张良弼，其余皆无足论。然有兵而无纪律者，河北也；稍有纪律而兵不振者，河南也；道途不通、馈饷不继者，关中也；江南，则唯我等与张士诚。士诚多奸谋而尚间谍，其御众尤无纪律。我以数十万之众固守疆土，修明军政，委任将帅，俟时而动，其势焉有不足平者？”
显然，元璋对于天下大势是有所洞明的，因为他一贯特别重视派遣专人到全国各地收集情报、打探虚实，甚至绘制了大量地图，他因此自信必定能够最终扫平天下群雄。只是他还想进一步得到臣下的积极回应，以坚定自己的这份雄心壮志。
既是出于恭维，也是发自肺腑，孔克仁于是当即顿首道：“主公神武，必当定天下于一，今日正当其时！”
这几句话说得元璋心花怒放，他不由得和盘托出道：“前番咱在武昌黄鹤楼，与常遇春等虎臣论及用兵方略，咱申之以首在稳重，循序渐进，次第经略而用力不分，如此方可制人而不制于人！偏那遇春思虑不及此，咱给他出题目，让他思谋一番破张良策，如今一月有余，昨日他居然还是老生常谈，真是朽木不可雕也！不过，遇春固然难脱莽夫本色，可那刘伯温先生如今却也跟遇春同调，真是骄兵了！”其实这些问题元璋一直刻意不去询问廖永忠，不使其参与最高战略决策，那是生怕一个结果：如果他的回答令自己满意，那自己就难以安枕了；可是如果相当不满意，自己肯定要怀疑廖老三是故意留了一手，那就让自己越发不安了。
“主公用兵一向绰有成算，我等愚不可及，还请主公点拨我等一二！”孔克仁拱手道。
“嗯，方略乃根本大计，不可轻忽！”元璋润了润嗓子，侃侃而谈道，“张九四一部在江东，一部在江北，而江北之地与王保保等人接壤！张九四兵众与我等不相上下，粮食储积也丰厚，且其凭坚据守、困兽犹斗，仓促之间难以奏效！若是我等直攻平江，在顺利情形下，费尽力气拿下了，仍需北向扫**张氏残余，那时焉知张氏不会学庐州老左，与王保保等人合兵一处？此时我兵已疲惫，骨头自然越发难啃！平江乃一多年经营之坚城，张氏又顽固，非一年以上难以拿下，战事一旦旷日持久，焉知张九四不会借兵于王保保？那时局面就更加复杂了，只因一招错，虽不至于输了一盘棋，但也关乎甚大，不可不深虑之……咱的意思，先专力攻取江北，那里张氏实力不强，又便于我等将张九四与王保保两部分割开来！一旦取得江北，休整数月后即可专攻江东，那时张九四便是我等瓮中鳖了！”
“主公用兵如神，不知主公可有北伐大计？”孔克仁又问道。
“北伐大计与此破张大计自然异曲同工！咱初步的意思，待平张之后，依托大运河粮道先取山东，撤除元廷屏蔽。然后旋师河南，斩下元廷羽翼，为尽快拿下河南，可另派一路偏师由湖北出兵北上配合。然后以重兵夺下潼关，据有这一关中户槛，以阻挡住关中援兵东进攻我侧背，如此即可放手北上大都，雪我四百年奇耻大辱了！”说着，元璋站了起来，忍不住用手向北方指了指。
“当年金军二度攻掠东京之时，一支金军即夺下了潼关以阻止西军东进，最终酿成靖康之祸！主公如今以其人之道还治其人之身，大振我华夏声威，光复我华夏河山，真是我华夏兆民之福！”孔克仁伏首道。
曾几何时，元璋也怀疑过自己的天命，尤其担心自己的天命敌不过别人的天命，可是几经考验之后，他越发对此天命深信不疑，尤其是他的天命还这般高，看来真是“明王出世”、义不容辞了！
只是回首前尘，又有太多的无奈和遗憾，为什么做一个天下之主就仿佛是走上了一条不归之路呢？自己身后乃至几百年以后，又将如何收场？真是不忍直视，不忍深思！