在随后的日子里，常遇春跟着朱元璋一起打江山，能够说朱元璋的江山如果没有常遇春的帮忙，那是很难打下来的，毕竟朱元璋当初的气力也不是多大。

朱元璋问常遇春：“你是不是挨了饿，想到我的步队中找饭吃？”

“常茂？这位将军莫不是常遇春将军的宗子吗？”常茂这个名字一进入沈从的耳朵里，沈从立即就摸准了他的信息。

朱元璋见常遇春身材魁伟，体格结实，出语忠恳，这才把他留了下来。今后，常遇春弃盗为良。

常茂他因为父亲功绩而担当郑国公爵位。据《明宋文宪公濂奉敕撰开平王神道碑并序》中说道：妻定远蓝氏，封开平王夫人。子男三人，曰茂、曰升、曰森，皆朱元璋所赐名。他是明朝建国头一员虎将，兵戈足智多谋，人称无敌大将。因为常茂与冯胜为子婿干系，在虎帐常茂多不受束缚。

“小二哥，阿谁常遇春将军现在应当不在边关吧？”想到这里，沈从赶紧问小二道。

闻言沈从点点头抬高了声音：“小二哥，你知不晓得如何才气够出关啊？”

厥后常遇春投奔朱元璋，朱元璋的态度很冷酷。

朱元璋问：“你能跟我过江兵戈吗？”

沈琮叹了一口气说：“唉，家父抱病，急需求一味药材，并且也只要蒙古才气找到，鄙人恰是因为此才要去大漠，鄙人真的不是甚么非分之人。”

洪武元年（1368年）徐达、常遇春率马步舟师由临清沿运河北上，连下德州、通州。元顺帝携后妃、太子等逃奔上都开平（在今内蒙古正蓝旗东）。八月，徐达、常遇春一举攻占多数，改成北平府。稍事休整即又挥军西进，攻取山西。与精锐的扩廓帖木儿军停止了艰苦的搏战，安定山西。洪武二年三月，西征军打击陕西，元将李思齐由凤翔奔临洮，力竭投降。元顺帝乘明军主力长驱秦晋之机，命丞相也速率军向北昭雪攻，兵锋已抵通州。常遇春又受命与李文忠率步兵八万、骑士一万驰救北平，元军闻讯即向北逃奔，常遇春率军追奔千里，大获全胜。为了覆其巢穴，终究消弭元军对北平的威胁，常遇春又率军径取元上都开平，顺帝逃到应昌府（又称鲁王城，虎城，故址在今内蒙古克什克腾旗西北达里诺尔西）。常遇春篡夺开平，全歼留守元军，缉获车万辆、马三万匹、牛五万头。

“这位爷，现在想要出关只要两个别例。第一个别例就是和那些兵士打交道，然后乔装打扮成他们的模样便能够出关了。第二种体例就是拜访守边关的将军常茂将军，让他给您开一份文书，你便能够出关了。不太小的建议您还是尽量挑选第二种体例吧，第一种体例，出关轻易，但是进关就难了，而第二种体例，出关出的轻易，进的也轻易。”