张天祐等人占据了历阳后，根本没想着长期据有此地，因此立即放纵兵士对全城进行了一番大搜刮。一时间，历阳城被他们弄得鸡飞狗跳，更有那暴横之徒，杀了不少无辜百姓。当元璋一行人赶到时，张天祐已经将历阳的财物并青壮年男女等都搜罗净尽，准备尽早返回滁州。
元璋心里非常不满，可又不能发作，于是小心奉劝张天祐道：“舅父，而今滁州城也处在官军的虎视眈眈之下，如果把人马、财物都汇聚到滁州，肯定有不方便之处。所谓狡兔三窟，滁州、历阳有事，可以互相支援嘛，我等为何要轻弃历阳呢？要知道，这座城池可不是那么容易攻破的！”当然，元璋真正的心思还是在于以历阳作为南下的跳板。
张天祐觉得元璋分析得在理，又想到姐夫想要扩土称王，便释放了大部分青壮年男女。元璋则积极约束士兵，又出榜安民，至此，历阳城内的人心才稍稍安定了些。
这边元璋等人刚坐下喘口气，那边近处的元军便闻讯赶来，开始对历阳城进行大举反攻。元兵先是从小西门下手，不利，接着又转攻北门，依然没捞着什么便宜。眼见元军攻势受挫，元璋便乘势命令徐达率部杀出城去，直杀得敌人远远退去才罢。
大破来犯敌军的消息传到滁州之后，有鉴于元璋的几次非凡表现，郭子兴便欣然任命他为总兵，全权负责镇守历阳事宜，以便同滁州互为掎角之势。
被封为一镇总兵，可以独当一面，对于元璋来说，这当然是好事。不过，驻守于历阳的诸将，除了徐达等少数几个元璋的心腹，大多还是郭子兴的旧部，大家的资历都要比他朱某人老，要让这些人听从自己的号令，并不是一件简单的事情。
为了试探一下众人的反应，新晋的朱总兵便密令人把议事厅的座位都去掉，改换成了一条长长的木榻，这样大家议事时就不得不坐在一起讨论了。而且，借此也能方便看出自己在大家心目中的地位和分量。
到了这天，元璋特意把大家召了来，诸将先行入座，他就在后面暗暗观察着众人的表现。当时以右为尊，诸将坦然入座，等到元璋姗姗来到时，果然不出所料——大伙把最左的一个席位为他朱总兵预备着呢！
元璋也不多说什么，装作欣然入座，徐达、李百室两人则在他身后站立。元璋语带机锋地说道：“今日召集大伙来，主要是想商议下如何长久固守历阳城的事情。如今历阳四周有多达十几万的敌兵，这对我等构成了致命威胁，为了确保历阳的安全，也为了大伙自己能够得以保全，还请诸位当仁不让，言无不尽！”
外有强敌之忧，内有缺粮之患，众人不知如何是好，面面相觑了足有一刻钟，无一人发言。
元璋见众人不置一词，于是侃侃而谈：“那咱就说说自己的主意吧，诸位给评断一下。首先说，这百姓是水，我等是鱼，不可能无水而鱼独存，前番我等搜刮百姓实在太甚，乃至于百姓纷纷逃亡。如今历阳城内外居民寥寥，长此以往，我等的粮饷从何而出？所以说必先保百姓，才能保我等……我等减少对百姓的催迫，百姓才乐于支持我们，历阳四周的百姓才能稍稍安定下来啊！何况我等多出身贫贱，与一般百姓无二，如此恃强欺弱，何苦相煎太急？”
元璋说到这里，看了看众人的神色，显然大家都在侧耳倾听，而且面带愧色。于是他进一步说道：“至于说这防守城池一事，首先是要想方设法让城池固若金汤才是，敌人啃不动，我等才能保全。但是敌人又可能长久围困我等，那时又坏了，所以我部又不能坐等新塘、高望及青山、鸡笼山等地的敌军来攻，必须想办法将他们各个击破才好，让他们没有实力觊觎历阳！这个咱也已经想好了，过两个月就到雨季了，那时道路阻塞，敌众互相支援不易，正便于我等集中主力速战速决，将其各个击破！如此一来，还可以顺手缴获敌人的一应辎重、粮食等……”
关于城池的防守细节方面，元璋又着重指出：“敌人使用云梯，是要直接向上攀登城墙，每一座云梯，须得十几个人才能扛抬到城墙下，这就增加了其登城难度。为了阻止其登城，又不被其箭矢所伤，我们可以在墙垛里面的鹊台上，靠墙垛立一排木桩，相隔三四寸立一根，每根顶端都安上枪头或尖刀，高出墙垛五六尺。敌人一旦登上墙垛，必然会被木桩所阻，敌人背后临空，守城之人此时再从木桩空隙用刀枪去刺击，那敌人不被刺死，也会因掉下云梯而被摔死……”
元璋侃侃而谈，诸将见他剖决有理、决断周全，底气上已先输了几分，至此才稍稍服气了些，不住点头称许。为了从根本上加强城池的防务，首先需要把城墙再加高加厚，于是元璋和诸将沟通了一番，让大家各负责监督修造一段城墙，限定日期完工。
可是诸将并未将此事放在心上，他们还跟往常一样，整日忙着纵酒享乐。等到了工程验收的日子，诸将负责的那些工段都未能如期完工，只有元璋亲自过问的那段已经修缮完毕。捉贼捉赃，拿人拿短，朱总兵决定抓住这个机会来一番敲山震虎！
于是，元璋立即通知大伙再到议事厅开会，诸将皆因迟误了工期心里不免有些发虚，正小声地嘀咕着，突然见“总兵大人”进来了，脸色似乎不太好看，又见有人搬进来一把椅子，放在上首。诸将还在诧异之时，只见元璋毫不客气地坐在了椅子上，然后把大家招呼到跟前，当众拿出郭大帅的任命文书。
最后，元璋才对大家朗声说道：“咱这总兵之衔，乃是郭帅亲自任命的，并非咱不知天高地厚所自封。既然受了这个职命，就须对历阳的大小事务负起责来，也必须立些规矩才行！不然，诸位今后做什么事，若都像监督修造城池这般，拖拖拉拉，那以后还怎么了得……从今日起，咱跟诸位就约法三章，凡有违令者，一律严惩不贷！”
诸将闻听之下无不又愧又惊，只得一致表示道：“以后，一切听从总兵吩咐就是！”
“如此这般就好！”元璋板着脸说道。
又过了几天，元璋出巡回来，不经意间发现一个七八岁的小男孩站在他的营门口，正不安地东张西望着。他很好奇，一般来说，小孩应该是不敢到这里来的，于是元璋上前亲切地询问小孩道：“小孩，你在这里做什么啊，怎么还不回家吃饭？”
那孩子很老实，怯怯地低声回答道：“等我爹爹！”
“等你爹爹？那你爹爹何在？”
“正在军中养马。”
元璋又好奇地问小孩：“那你家中其他人呢？你娘何在？”
孩子见元璋一团和气，便天真地如实相告：“我娘被人收去军中，已经好些日子了……娘与爹爹两个不敢相认，只说是哥哥妹妹……我不敢进去，所以在这里偷偷等候爹爹！”
孩子的一番话，让元璋不免想到自己孤苦无依的少年时代，他心里一酸，立即叫人拿了些果子给那孩子，又将他专门照顾起来。待回到营中后，元璋便把诸将召集了来，厉声说道：“如今我等既说要保全百姓，那就不能只是嘴上说说而已。以前的事情不再追究了，从今日起，凡是哪个抢掠了人家的妻女，致使人家夫妇离散的，都要立刻放归回去，违令者，定然严惩不贷！”
然后他又把那个小孩的事情讲了一遍，道：“人心都是肉长的，谁见了这样的孩子不觉得可怜呢？一定要让百姓安居乐业才好！”
诸将不敢违逆，只得应命：“是！”
第二天，元璋便把城中的男人与被掳掠的女子召集了起来，让他们彼此相认，但是绝不能乱认。于是，所有夫妇皆相携而去，一时间城内人心大悦，民心才又安定如初。
这年二月，历阳周边的十万元军突然结伙前来攻打历阳城。此时城内仅有万余守军，但粮食储积还算充足，元璋自信可以击败这股元军，所以一直没有向滁州告急。
除了据城坚守，元璋还不时派人马出其不意地袭击元军，这既是他这几年来的经验摸索，也是《守城录》等兵书的宝贵总结，攻守结合、战法灵活才能让敌人占不到便宜。如《守城录》中所言：“大抵守城常为战备，有便利则急击之……拆去钓桥（吊桥），只用实桥，城内军马进退皆便；外人皆惧城内出兵，昼夜不敢自安。”
在长达三个月的激烈角逐中，元兵连吃败仗，伤亡不小，如果不是太子的严令，他们早就撤围了。随着夏季的来临，这股元军终于再也支持不下去了，撤围而走。元璋先前采取的安定民心、加固城防等一系列举措，明显有助于平安渡过这场劫难，诸将越发对元璋敬佩有加了。
元璋迅速从滁州请调来一万精锐人马，一方面是因为历阳、滁州两地的粮荒已现苗头，另一方面这也是他先前就设想好的，要利用雨季对历阳城周围的元军各大据点进行分别打击，不使其有喘息之机；何况这些元军新败，士气多不振。
在一个月的连续攻势中，一些元军的小营寨终被拔除。元璋又以重兵围困鸡笼山，最终鸡笼山之敌也被迫请降。
就在元璋率师凯旋回历阳的路上，当行至距离城池不足三里之地时，突然有一士卒前来报告道：“今日上午有一股敌兵来攻打历阳，幕官李大人督兵将敌众击退，杀获甚众！”
元璋闻听如此捷报，便对同行的徐达、冯国用等人大喜道：“没想到李先生还有统兵之才，这就在萧相国、赵韩王等人之上了啊！”
原来，有一处元军见元璋以重兵围困鸡笼山，便趁机前来攻打历阳城，当时城内只有两千多守军，而敌人却多达近万人。面对这种危急情形，负责留守历阳的李百室一时陷入了焦虑之中，不过当他登上城头观察敌众时，发现这支元军兵甲不全、衣冠不整，显然应是元璋所部的手下败将。李百室由此认为，绝不能让敌人窥破城内守军的真实实力，反而要好好利用这股元军对元璋所部的恐惧心理，唱一出“空城计”。
于是，李百室一面命人收罗旗帜，一面动员民众化装成兵士去守城，待一切准备就绪后，他便率部一口气杀出城去。城外的元军本已是惊弓之鸟，他们见城头上守军众多，又见杀出城的守军旗幡如林，料定历阳城内必定兵力雄厚，立马就恐惧起来，结果很多人风声鹤唳之下自行溃散了。
李百室督兵杀到，元军无心抵抗，只能四散奔逃，李百室率部奋起追击，结果还俘虏了上千元军。
这之后没多久，元军在江北四面楚歌，实在待不下去了，于是纷纷渡江向南而去，江北形势顿时一片大好。可偏偏就在这节骨眼上，孙德崖等人竟跑到历阳来打秋风了，而且还差点因此要了元璋的性命，后来每每忆及此事，元璋都有些后怕！
话说当时淮西一带战乱频仍、天灾不断，赵均用、孙德崖等人又不注意保养民生，所以濠州地区闹了粮荒。于是孙德崖等人在赵均用的支遣下，便带着所部来到历阳周边找吃的，这就有点侵犯地盘的意思了。
徐达对此不满道：“这个姓孙的，脸皮可真厚，人活到这个份儿上，也是‘自作孽，不可活’了！”
但元璋为顾全大局，只得忍了，轻叹道：“算了吧，由他去吧，多行不义必自毙，让老天来收拾他吧！咱们还是多想想南下的事情，近日咱听说张九六已由通州（今江苏南通）渡江，准备攻打常熟呢，其席卷江南之心已经昭然若揭，留给咱们的时间可是不多了！”
搜刮些粮食还不算，这老孙还恳求元璋让他到城里暂住几个月，务必支撑到秋收时节才好。元璋有些信不过孙德崖，另外他也怕老丈人得知后会不高兴，原本不想答应孙德崖的请求，但他又见孙氏人马众多，面子上大家好歹还是同一支队伍，总要相忍为大计，最终答应了孙德崖的“暂住”请求，只是限制了孙部入城的数量，令其大部分人马都留在了城外。
其实元璋还有自己的小算盘，就是说服孙德崖跟随自己一同南下。元璋对徐达透露道：“如果能够让孙德崖部追随我们一同南下，那胜算才能更大，起码能壮大我们自身的力量！滁州郭帅那里，过几天我再慢慢解释，就说不妨暂时利用一下姓孙的！”
哪知孙德崖刚入历阳城，便有人跑到滁州郭子兴那里去打小报告了，还添油加醋地说了一番元璋的不是：“朱总兵不但放任孙德崖那厮在历阳四境搜刮粮食，还允许那厮入城暂住，他姓朱的把大帅的仇都忘了吗？我看他姓朱的定然别有所图！”
郭子兴当即大怒道：“来人呐，整合队伍，本帅要亲往历阳兴师问罪！一并出了本帅这几年的心头恶气！”
这边元璋听说郭子兴要来，就关照了手下众将道：“大帅若是早上不到，那必是夜间到，他一到，你们便通知我，咱也好出城迎接！”他打算到时候先跟郭子兴解释一番。
这天半夜时分，郭子兴果然急如星火地来了。可那个守门的将领本是郭子兴麾下的元老之一，素日里因元璋管束太严，早已对他心生不满，所以故意不及时通报，而是先把郭子兴等人迎了进来，然后才命人去告知元璋。
元璋慌忙起床跑到郭子兴那里去报到，郭子兴见了他，气得半晌说不出一句话来，最后才丢下一句：“你——是哪个？你——知罪吗？”
元璋半跪着，小心地答道：“回帅父，不管小婿是否有罪，咱这家事缓急之间都好办理，偏这外事还请帅父早早拿定主意！”
“什么外事？”
“孙德崖来了……”
元璋本来还想说“孙德崖已经知错了”之类求情的话，可还没等他把话说完，郭子兴已从牙缝里蹦出一句：“这姓孙的狗东西，我是早晚要收拾他的！”
见郭子兴怒不可遏，元璋便不再去碰这个大钉子，反而说道：“小婿之所以先把孙德崖放进城，还是想请帅父进一步定夺！”
闻听郭子兴匆匆驾临，心虚的孙德崖坐不住了，次日一大早，他就派了人来跟元璋告别说：“既然郭大帅来了，俺们也该回去了！”
孙德崖这么干脆，元璋倒有些不放心了，他赶紧派人去提醒老丈人要多加防备：“连故人都不好意思见一下，这不太像他孙某人的做派！大家要多加小心才是！”
元璋又亲自跑去问孙德崖：“孙帅，您说好要在咱这里住上两个月的，怎么那么急就要走？”
“你这话问的，俺不是都跟你说了吗？你那丈人真不大好相处，俺还是早点走好，免得见面又伤了和气……”孙德崖神色有点颓唐，元璋心里倒有些同情他了。
不过元璋见他说得如此恳切，就明白他还真没别的意思，于是又对孙德崖说道：“既然您这么为难，咱也不好强留，只是有一件事：我等本来是一家，而今两军好不容易合在一处，其中一方突然离去，恐怕会影响军心，若再闹出些麻烦就不好了。所以孙帅，您不妨在后压阵，待大军妥当出城走远后，您本人再走不迟！”
孙德崖想了想，觉得此言有理，便满口答应下来：“好吧，那你丈人那边你也多盯着点，别叫他犯浑！”
元璋心想，孙德崖如此退让，他手上人马又众多，老丈人一定不会对他下手，让他识趣地走掉就完了。所以当孙部人马起程的时候，元璋便在城外十余里处设宴相送，彼此的很多部下都曾是一口锅里吃过饭的兄弟，相熟的不少，大家寒暄客套，互道保重，一派融融的情谊。其实元璋的这种做法还是意在拉拢，他料定孙德崖等人早晚必走麦城，到时兄弟们想起他朱某人的情义，恐怕就会纷纷来投了。
可就在大伙依依话别之时，城那边突然传来了坏消息：“郭大帅和孙大帅两个在城里打起来了，而且打得很凶，已经伤亡了不少弟兄！”
元璋闻听大惊失色，匆匆道别后，赶紧招呼耿炳文、吴祯等亲信策马回城。孙部已在城外的弟兄一听城里出了紧急状况，晓得自己的主帅尚在城中，又见元璋等人跑得如此干脆，因此不免怀疑这是否是个奸计，立马也从后面追赶起他们来。
当时这路上一队接一队的人马，基本都是孙德崖的队伍，所以不一会儿，就有孙氏的麾下认出了元璋一行人，见他们行色匆匆地往城里赶，也起了疑心，顿时个个剑拔弩张，怒目相向。此时耿炳文、吴祯等人已经被元璋甩在了后面，他是单人独骑，连武器都没拿，这就等于是往人家口袋里钻了。最后，他到底还是被人给拦下了。
孙德崖的部下一拥而上，围住元璋愤愤地质问道：“快说，是不是你小子有什么不轨的企图，想害我们孙帅不成？”
元璋连忙解释，但没人肯听他的。正在他极力辩解的时候，后面追赶他的孙部人马也到了，元璋来不及多说，道了一声“情况紧急，没时间跟大伙细解释”，便跨上马强行闯了过去。
后面的人马呼喊着追了上来，这一回连弓箭都用上了，他们在后面大喊道：“再跑，我们就要放箭了！”
元璋不敢止步，依旧打马狂奔，孙部人马果然开始放箭，好在元璋当时穿了一身披挂，所以并未伤着。他一气狂奔了十几里，眼看离城已经不远了，但他的马却不幸中了对方一箭，没一会儿就支持不住了。此时恰巧有一位自己麾下的兄弟正打马而来，于是元璋赶紧跑上前去，和那位兄弟共乘一骑，仍往城里急速赶去。可还没跑出去多远，不幸又撞到了人家的枪口上，终于被孙德崖弟弟孙德柱的部下给拿了个正着。
“快放我进城，晚了郭帅和孙帅真的就要两败俱伤了！”元璋大喊道。
有人不由分说，抽刀就要先砍了元璋，幸好队伍里还有一位脑袋清醒点的头领，那人对激动的众人劝解道：“如今咱们大帅在城里，生死还不清楚，不妨先把这姓朱的押起来，让我去城里探个究竟，没事便罢，有事再杀他也不迟！”大伙只得点头称是。
那人入城后，一打听才知道孙德崖已经被郭子兴给拿住了，而且郭子兴还别出心裁地逼着身戴枷锁的孙氏陪自己喝酒，以此取乐解恨。看样子，郭大帅并非真想要了孙大帅的性命，只是为了出口胸中的恶气。等那人回来报信后，大伙决定暂时先按兵不动，不妨留着姓朱的，将来也好交换孙大帅。所以，元璋虽然被关押着，倒也没受什么皮肉之苦。
“孙德崖，你小子没想到会有今日吧，哈哈！”为了报一箭之仇，郭子兴想尽办法捉弄孙德崖，戴完枷锁，又把他锁在了一个仅能蹲着的狗笼子里。
孙德崖在笼子里憋得难受，只得连连求饶：“郭兄，昔日都是小弟不懂事，也是那姓赵的挑唆，小弟如今知错了，还望您大人大量，饶了小弟吧！”
郭子兴笑道：“饶你可以，但你小子先要在笼子里待满三天！”
孙德崖心知这一劫是逃不掉了，只好任由郭子兴捉弄，心里也盼望着兄弟们赶快来搭救。一晃到了次日，才有人前来报告道：“禀大帅，朱总兵昨天在您跟孙德崖交手时，被孙德崖弟弟的人给绑了！”
看来事情闹大了，郭子兴气愤道：“放心，他们不敢拿元璋怎么样！不过这小子也是找死，偏偏自己送上门去，他小子不会是故意的吧？”
此时身在城里的徐达、李百室等人还在派人四处打探元璋的下落，这边郭子兴便把徐达找去说道：“你们总兵被孙德崖的弟弟抓去了，你赶快出城去见见孙德柱，看看他有什么条件才能放回元璋！”
徐达等人心急火燎地到了孙德柱那里，说明了情况，也讲了一堆道理。当他提出释放元璋的要求时，孙德柱气愤道：“如果他姓郭的有诚意，就先放了家兄，否则一切免谈！”
徐达争辩道：“那叫我们总兵回去吧，他可以多劝劝郭帅，我留在这里做人质可好？”
“你？”孙德柱有些怀疑徐达的分量，对他上下仔细打量了一番。
“咱如今是镇抚之职，地位仅在朱总兵之下，而且我是朱总兵的股肱，也是他的生死弟兄，不信您去问我们朱总兵！”
孙德柱派人叫来了元璋，元璋也说出了与徐达同样的话，孙德柱这才同意用徐达来代替元璋做人质。临行前，元璋对徐达表示感激道：“天德，有劳了，等咱的好消息吧！”徐达已经把孙德崖被抓后的事情告诉了元璋，元璋的信心更足了几分。
回到历阳后，元璋看过了孙德崖，便对郭子兴进言道：“如今且不说那徐天德性命值几何，单说姓孙的若是死于非命，那孙家兄弟岂肯善罢甘休？如今帅父已经教训了他一回，不如尽快放了姓孙的，免得这仇怨越结越深，望帅父三思！”
“放他姓孙的，指定是要放的，不过本帅还没有玩够，让他先在狗笼子里待满三天再做发落吧！”
“如今天气炎热，那姓孙的也上了年纪，就是侥幸不死，万一落下什么病根，或者再受那姓赵的煽动，到时来同咱们大杀一场，无数曾在一起并肩奋战的兄弟要自相残杀，帅父您就忍心？”
“无事，这是本帅同孙德崖的个人恩怨，由我们两个自行解决好了！”
元璋摇了摇头，又道：“帅父您的身手，当今天下有几人能敌？那姓孙的有这个胆量找死吗？”
听了这番话，郭子兴的气有些顺了，便道：“好吧，为了众兄弟的身家性命，本帅就暂且把这个仇忍下了！”
孙德崖立即被送了回去，元璋又对他好言相慰，为了不再继续激化双方的矛盾，徐达等人得以迅速平安归来。
可是谁承想，孙德崖回去后，郭子兴对孙德崖乃至赵均用当初绑架、毒打、压制和软禁自己的行径越发气愤不已，好不容易擒住了一个孙德崖，自己还没开心够，如今却这样让他毫发无伤地走了！
江湖中人最看重的无非是快意恩仇，如今不想还有这番憋屈，郭子兴每每想起这些不快来，就觉得心痛。于是他不得不借酒消愁，乃至整天在家怏怏不乐，食不甘味、夜不安寝，人也委顿许多，竟因此忧闷成疾！更让人备感突然的是，因为饮酒过量，本已忧闷成疾、卧床不起的他，终因中风于这年五月底去世了！
李百室在历阳闻此噩耗后，不禁对徐达等人感叹道：“郭帅一生，豪侠仗义，彪悍勇猛，只是这心胸却小似妇人，最后竟死得这般可怜、可笑，真是枉煞了一世英名！好在他对咱们朱总兵有提携之恩，也算小有作为了！”
冯国用在感叹的同时，更为元璋摆脱了掣肘而高兴，他分明已经看到南渡长江的大好前景就在不远处！