朱元璋向岳父郭子兴说明心意后，便带着徐达、费聚等二十四人，南下定远县，准备掠地招兵。定远是郭子兴的家乡，他的旗号在这里很有号召力。朱元璋利用这个地利人和之便，连续收编了几支地主武装，再加上陆续前来投奔的人数，几个月的工夫，竟发展到两万多人。对这支生力军，朱元璋重新编制，加强训练。他特别重视军纪，严令不许扰民。

军势壮大之后，朱元璋在谋士冯国用、李善长的参谋下，决定南下攻打滁州（今安徽滁县）。滁州的元军力量弱小，被朱元璋军队一个猛冲便攻占了。不久，郭子兴也从濠州来到滁州驻扎。

年正月，由于滁州缺粮，郭子兴派朱元璋去攻打和州（今安徽和县），攻取和州后，郭子兴提升朱元璋为总兵官，负责镇守。

从南下定远到攻取和州，徐达一直是朱元璋的得力助手。他不仅作战勇敢，而且善于出谋划策，逐渐显示出了统兵作战的军事才能。朱元璋看到徐达的才干谋略出于众人之上，便在郭子兴面前为他请功，并建议提拔重用。郭子兴采纳了朱元璋的建议，任命徐达为镇抚。

三月间。和州城里的红巾军又闹了一场窝里斗。因濠州缺粮而来到和州就食的孙德崖，与郭子兴难以相处，决定率领自己的队伍离去。朱元璋为了不伤和气，亲自送孙德崖的队伍出城。谁知没走多远，后面传来消息，说是郭子兴将殿后的孙德崖抓了起来。德崖的将士不由分说，也将朱元璋扣押不放，然后，派人通报郭子兴换人。但是两边谁也不肯先放人，都怕对方不守信用。

双方就这样僵持了两天，朱元璋在孙军中险遭人害。在这个情势危急关口，新任镇抚官徐达挺身而出，向郭子兴请求：他愿到孙军中做人质，换回朱元璋，与孙德崖交换。

郭子兴正在不知如何才好，见徐达这样挺身赴险，急忙同意。最后，当孙德崖被放出回到军中后，徐达才得以释放，平安无事。这件事，使朱元璋对徐达心怀感激，更加信任和重用了。

捉放孙德崖这件事，使郭子兴窝了一肚子闷火，气恼之下便得了重病，不久就去世了，郭子兴一死，他的次子郭天叙继任了元帅职位，郭子兴的妻弟张天佑为右副元帅，朱元璋为左副元帅，朱元璋的地位虽说只是第三把手，但因他身边有徐达、汤和、冯国用、李善长等勇将谋士，再加上他招募收编组织起来的军队占多数，所以，实际上朱元璋才是举足轻重的角色。

年六月一日，朱元璋与徐达、汤和、李善长、冯国用等人率领三万大军，乘船渡江，杀向南岸。与和州隔江相望的太平路（今安徽当涂），是富庶的产粮区，朱元璋决定先占领太平路，而后相机进取集庆（今南京）。