元璋平东吴后，大体上据有现在的湖北、湖南、河南东南部、江西、安徽、江苏和浙江，包括长江的中游和下游，是全国最富庶，人口最稠密的地区，凭着这一强大实力，他要完成一统天下的伟业。
当时的形势是：南方则有以四川为中心的夏国明升，云南有元宗室梁王镇守，两广有元右丞何真，福建的陈友定也效忠元室，浙东还有方国珍的割据势力。北方则山东是黄军王宣的防地；河南属扩廓帖木儿；关内陇右则有李思齐、张良弼诸军；孛罗帖木儿一军镇大同。扩廓帖木儿和李、张二将不和，孛罗帖木儿又和扩廓帖木儿对立。军阀的内战又与元朝宫廷的矛盾纠缠在一起，元朝统治阶级分裂成两个互相倾轧、残杀的集团，争杀得异常热闹，造成“鹬蚌相争，渔翁得利”的局面。
元璋抓住这一有利时机，展开南征北伐。平江快要攻克的时候，也已派参政朱亮祖率浙东马步舟师攻方国珍。11月2日，又命汤和为征南将军，吴祯为副将军，率军攻方国珍于庆元（宁波）。
同时，元璋和刘基仔细商定了北伐的计划。11月9日，元璋与诸将议北伐。常遇春提议直捣大都，以我百战的精兵消灭元朝的疲卒，必胜无疑。攻下大都后，以破竹之势，分兵扫荡，其余城池可以不战而下。
元璋的计划正好相反。他指出，直接攻打大都是危险的。大都是元朝经营了上百年的都城，防御工事一定很坚固。假使我孤军深入，一时攻打不下，屯兵于坚城之下，后边的粮饷接济不上，元朝的援兵从四面八方赶到，我军进退不得，岂不坏事。不如用斫树的法子，先去枝叶，再挖老根，先取山东，撤掉大都的屏风；回师下河南，剪断它的羽翼；进据潼关，占领它的门户，东南西三方面的军事要点都在我军手里了，再进围大都，那时元朝政府势孤援绝，大都自然不战可取。大都既下，鼓行而西，云中、九原以及关陇，都可席卷而下。诸将听了，都同声说好。
北伐军统帅部的组织，也经过慎重研究，选择最优秀的大将组成。徐达用兵持重，不打无把握之仗，行军有纪律，尤其重要的是他小心谨慎，叫做什么就做什么，靠得住，放得下心，任为征虏大将军，统帅全军。常遇春当百万之众，勇敢先登，摧锋陷阵，所向披靡，任为副将军。元璋担心他健斗轻敌，特别约束告诫，如大敌当前，以遇春作先锋，和参将冯胜分左右翼，将精锐进击。右丞薛显、参将傅友德勇冠诸军，各领一军，使当一面。大将军专主中军，责在运筹决胜，策励诸将，不可轻动。
元璋又再三申明纪律，告谕将士，这次北伐的目的不仅仅是攻城略地，重要的是要平定中原，削平祸乱，推翻元朝这个坏政府，解除人民痛苦，安定人民生活。
为了使北方人民明白大军北伐的道理，解除北方官僚地主对红巾军恐惧疑忌的心理，瓦解元军的斗志，发檄文谕告北方人民。檄文中提出“驱逐胡虏，恢复中华，立纲陈纪，救济斯民”的口号。同时又提出：“如蒙古、色目，虽非华夏族类，然同生天地之间，有能知礼义，愿为臣民者，与中夏之民抚养无异。”
13日，北伐军挺进中原。同日，元璋又派部队攻福建、取广西。
2个月后，元璋军已取山东、平方国珍，进取福建，北伐南征都是势如破竹。一片捷报声，使应天的文武臣僚欢天喜地，估计统一全国已指日可待。为了适应新的局面，必须建立全国性的统治政权。由历史的经验看，王只是局部的统治者，全国性的统治者应该称皇帝，因此，吴王应该改称皇帝，王府臣僚自然也就提升一级作新皇朝的将相了。
一切的礼仪都已议好，良辰吉日也由善观天象的刘基选定了。于是，1368年的1月23日（农历正月初四），朱元璋告祀天地，即皇帝位于南郊，丞相李善长率百官和都民耆老拜贺舞蹈，三呼万岁，礼成。具皇帝卤簿仪仗威仪导从，到太庙追尊四代，再祭告社稷。然后皇帝服衮冕，在奉天殿受百官朝贺，这样就算成为合法的正统的皇帝了。
这一天，日朗风和，没有一点异样的天象，看来上天也批准了。
皇帝办公的正殿名为奉天殿，皇帝诏书的开头规定用“奉天承运”四字，表示元璋是奉天而兴的。定国号曰大明，建元洪武。以应天为京师。
大明的国号有两重的意义：一方面，它符合弥勒教明王出世的教义，让造反的农民知道明王已经出世了，好好做新朝的顺民；另方面，它又符合地主儒生的观念，是阳、火、正统、光明的象征。
新皇朝呈现出蓬勃的生机。
同年2月，南征军执陈友定，平福建。3月，何真接到廖永忠的招降书后即奉表迎降，广东平。7月，广西平。
北伐按计划顺利推进。9月10日，明军入通州，元顺帝夜半开大都健德门，由居庸关逃至和林。14日，明师入大都，元朝亡。
1371年（洪武四年），明军入川，夏主明升降，四川平。1381年（洪武十四年），傅友德率军入云南，次年凯旋，云南平。1387年（洪武二十年），冯胜、傅友德、蓝玉攻辽东元朝残将纳哈出，纳哈出势穷而降，金山平，全国重归一统。
