国民革命军仅仅经过半年多的时间，就从珠江流域发展到长江流域，绝对控制和基本控制了广东、广西、湖南、湖北、福建、浙江、江西、四川、贵州、陕西、甘肃等省区。部队也有了大发展，从最初誓师时的10万人扩充到近50万人，仅番号就发表了五十多个军，十几个独立师。
其中最开始北伐的八个主力军发展最快，普遍得到了扩充。其中扩充最厉害的数第一、第四、第八军。
第一军是蒋介石的嫡系，蒋毫不掩饰的对其进行了最优厚的照顾，在军械、人员上都得到优先补充。北伐开始时候第一军辖第一、第二、第三、第十四、第二十一五个师，在江西、福建战场损失颇重，但在进军淞沪之际不但全部补足了缺额，还增编了二十、二十二师。到1927年下半年蒋介石下野前夕，又扩编了第九、第三十二两个军。
第四军在两湖战场功勋卓著，荣获铁军称号。其参加北伐时只有第十、第十二两个师及叶挺独立团，人枪1。2万余。至攻克武昌，缴枪1。4万枝。第十师扩充为军，陈铭枢任军长辖第十二、第二十四、第二十六三个师；其中第二十四师由叶挺独立团扩编，叶挺为师长。第十二师扩充为第四军，以张发奎任副军长，代理军长。
第八军在北伐开始前遭受北军打击，只余12个团，人枪1。3万余。后来克长沙、岳阳、阳夏，大肆收编吴佩孚的溃兵，并取得汉阳兵工厂的大量枪械，至1926年10月，增加至5个师50余团，3万余人。克复湖北全境后，何健、刘兴、李品仙三师全部扩编为军。增加了三十五、三十六两军番号。
其他第二、第六、第七军也都不同程度的得到扩充。
军事力量的增长，导致个人野心的膨胀。蒋介石完成清党之后，悍然在南京成立国民政府，与武汉方面分庭抗礼。武汉国民党中央、国民政府、各人民团体及北伐军将士立即掀起了声势浩大的讨蒋运动。
1927年4月16日，国民党中央第二届常委会第七次扩大会议决定：“蒋中正戮杀民众，背叛党国，罪恶昭彰，着即开除党籍，并免去本兼各职。”国民政府主席汪精卫公开发表铣（16日）电，猛烈抨击蒋介石：“似此丧心病狂，自绝于党，自绝于民众，纪律俱在，难逃大戮。”17日，国民党中央正式发出免除蒋介石本兼各职令，同时发出通缉令，“着全体将士及革命民众团体拿解中央，按反革命罪条例惩治。”23日，武汉各界群众30万人在武昌举行声势浩大的讨蒋大会与示威游行。
蒋介石的分裂行为使当时的政局变得更加复杂，出现了三个政权鼎立的局面。一个是以张作霖为首的北京安****政府；一个是蒋介石为首的南京国民政府；一个是仍然坚持国共合作的武汉国民政府。
其中武汉政府所处位置最为不利。蒋介石以南京为中心，控制浙江、福建全境，江苏、安徽大部，得到英美列强和江浙财阀的经济支持，并与广东李济深和四川各军阀遥相呼应；经济和军事力量都超过武汉方面。在北方，张作霖收罗了直鲁军、孙传芳残部和其他北洋军阀残余势力，进军河南，占领开封、郑州，集结重兵于许昌、郾城、汝南一带，准备经武胜关进兵湖北，进取湘粤。
同时，由于武汉方面左倾色彩很浓，坚决反对帝国主义，并收回了汉口、九江的租界，于是列强对其极端仇视，采取经济封锁、政治打击等手段，武汉政府陷入严重的危机之中。
面对如何打破封锁，完成国民革命，党内外产生了意见分歧。
唐生智、张发奎等军事将领主张东征讨蒋，他们的理由也充分，蒋介石的南京政权根基还不稳固，应该乘势将其击垮，长江下游的问题便都解决了。而汪精卫、徐谦却主张继续北伐，进军河南，打击奉系；同时将陕西的冯玉祥国民军接应出来，会师郑州。他们认为，大军东征，侧背空虚，如果奉军乘机南下，而东征战事一旦迁延日久，武汉将面临巨大危险。蒋介石此时也在口口声声宣称北伐，其在党内外的影响仍然很大，这样的战争有一种相煎太急之感。最重要的一点就是蒋介石尚没有对武汉进攻的能力，北伐河南没有后顾之忧。而且冯玉祥表示拥护武汉政府，非常迫切希望武汉方面出兵北进。
不久，掌握绝对军事力量的唐生智态度发生了转变，他觉得北伐胜利之后，回过头来再收拾蒋介石也不晚。
于是对第二次北伐进行了研究规划，决定分两期进行，第一期，在冯玉祥从陕西进军河南时，武汉北伐军由南向北进军，在郑州、开封会师。第二期，在会师后将阎锡山争取到革命阵营中来，由冯玉祥率领北方军队进军北京，彻底摧垮奉系军阀；武汉北伐军则会师东征、南征，占领沪宁与东南各省。
1927年4月19日，武汉政府在武昌南湖举行盛大的北伐誓师典礼，典礼以北伐为基调，但包含着浓重的讨蒋色彩。第二天各军由京汉路北进，向河南驻马店集结。
此次北伐以唐生智担任总指挥，全军分为三个纵队：第一纵队由第四军（军长张发奎）、第十一军（军长陈铭枢离汉赴宁，投奔蒋介石，军长由张发奎兼任）、独立第十五师（师长贺龙，由原彭汉章第九军第一师改编）及暂编第三军（梁寿恺）组成，张发奎为司令官。是为右翼，沿京汉路以东地区作战，经上蔡、商水、通许进攻陇海路重镇开封。第二纵队由第三十六军（军长刘兴）和第三十军魏益三部第二师（师长郝梦麟）组成，刘兴为司令官。是为中路，在京汉路正面作战，沿焦庄、西平、郾城、临颍向郑州攻击前进。第三纵队由刚刚归附武汉政府的河南保卫军靳云颚部、新编第五军庞炳勋部、三十军魏益三部等杂牌军组成。是为左翼，配合中路军作战，沿京汉路以西进占荥阳。总预备队为第三十五军（何健），在三十六军之后跟进，并维护后方交通。全军约10万余人。
当时，进入河南的奉军主要是张学良、韩麟春的三、四方面军团，11个军的番号。装备精良、弹药充足、火力强大。还有坦克、重炮，以及大量的骑兵。北伐军虽然号称10万，但是主力仅是三十六军、第四军、第十一军、独立第十五师等不足四万人，而且北伐军将士以南方人为主，惯于山地作战，平原作战还是第一次，因此战斗将极为艰苦。
5月13日，北伐军总指挥部发出总攻击令。
西平、上蔡战役是是二次北伐的首战，东西两个战场同时打响。
中路军刘兴部三十六军的首战任务是拿下遂平与西平。当面之敌为奉军第十七军荣臻部，配备了强大的骑兵与铁甲车，还有飞机两架，往来巡弋，防守严密。当时刘兴的侧后为河南地方武装红枪会所盘踞，刘兴乃先命第二师唐哲明部回师信阳，红枪会闻风四散。后顾之忧已解，刘兴遂于5月14日挥师北上。遂平在南，西平在北，按理说应该先攻遂平，刘兴却出人意表，以第三十军监视遂平之敌，以主力第一师（廖磊）、第二师（周维寅）绕道进攻西平，第三师（唐明哲）为预备队。奉军凭城固守，居高临下，以重炮和铁甲车猛烈轰击。北伐军白日里在平原作战，无处隐蔽，加上奉军大炮相当准确，因而伤亡惨重。苏联顾问建议刘兴暂时撤兵。但刘兴假装大睡不醒，以安军心。北伐军同仇敌忾，并适时投入预备队，发起一波又一波的勇猛冲锋。终于17日攻克西平。而遂平奉军不攻自撤。三十六军乘胜追击，5月20日再克漯河。奉军以沙河、灃河布防，企图固守郾城。刘兴分兵三路，强行渡河，合围郾城。奉军险要已失，退走临颍。5月21日，三十六军占领郾城。
右路军张发奎部的首战任务是攻克上蔡，当面之敌是奉军精锐第十一军赵恩臻部，有常胜铁军之称，该军下辖三旅九团，并直属一个骑兵团，一个炮兵团。其中第十二旅富双英，第六旅刘伟、第四十六旅陈琛分别集结于上蔡及附近的东、西洪桥一带。北伐军进攻上蔡的是第四军十二师（代师长缪培南）、二十五师（朱晖日）、十一军第十师（蔡廷锴）、二十六师（彭汉章第九军第二师改编，师长杨其昌，吴仲僖代理），均为北伐军中的能战之师。
5月15日，张发奎集中第十师、第十二师、第二十五师向奉军第十一军副军长兼第十二旅旅长富双英部五个团发起攻击，企图将其歼灭于上蔡郊外。首先由朱晖日二十五师在城西发起攻击，激战一小时，奉军大部退入城内，一部逃至城东北之东洪桥。与此同时，蔡廷锴第十师急赴上蔡东门、北门围堵，第四军副军长黄琪翔率第十二师开抵城北十里铺、西洪桥一带阻击援敌。至此富双英部被团团围困于上蔡城内。
16日，北伐军开始猛烈攻城。东西洪桥是上蔡城北洪河上的交通咽喉，将其控制后不仅可以困死城内之敌，还可以为继续北上打开通道。因此，争夺东西洪桥成了上蔡战场成败的关键。为解富旅之围，奉军第四十六旅陈琛部于16日上午十时自商水向东洪桥猛攻。下午二时，又增派第六旅刘伟部向西洪桥进攻，城内富双英部闻讯也拼命反攻。双方形成包围与反包围的态势，战况异常激烈。张发奎的三个师分兵于城关、东洪桥、西洪桥三处作战，身处最前线的七十团、三十四团、七十四团伤亡最重，尸横遍野，血染洪河，洪河变成了“红河”。成百上千的伤员往信阳、武汉运送。
17日晨，战斗仍处在胶着状态。张发奎于是派出预备队中的三十六团、七十三团，增援东西洪桥方面。奉军终于不支溃退，据守沙河北岸的逍遥镇。富双英困守孤城，逼迫投降，被改编为新编第二十一师（不久富双英只身逃回北京）。
23日，北伐军继续进攻，直抵沙河南岸。当时奉军沿沙河坚固布防，北伐军几次强渡均未成功。于是第十二师自南岸佯攻，独立第十五师贺龙部沿河西上，自邓城渡过沙河，进攻逍遥镇。奉军万福麟第八军之三十四旅陈震东及第汤玉麟第十二军一部共五个团固守逍遥镇，经过数次冲锋，至傍晚6时，贺龙占领逍遥镇。这一仗，贺龙以独立第十五师4个团的兵力，攻击有重炮配备的5个团，全歼3000余敌，缴获4个团的装备，包括24门野炮，拦腰斩断了奉军的防线，而己方伤亡不到百人，取得大捷。南岸的十二师也渡过沙河。25日，张发奎携总政治部部长邓演达到达逍遥镇，开始布置第二阶段的作战计划。
按照原定方案，右路军应继续北上，进攻开封。但是由于中路溃退之敌集结临颍，奉军第十军王树常部又从郑州来援，唐生智担心刘兴所部难以担当，于是调张发奎右路军西向临颍，与刘兴部会和，同奉军主力决战。
临颍是许昌屏障，奉军集中了大部精锐，包括第八军万福麟一部，赵恩臻十一军余部，汲金纯第十五军，荣臻第十七军，李镇亚第十九军，总共有六七万人的兵力。张学良亲赴前线，痛哭誓师，并处决了作战不力的旅长陈琛，及其属下团长甘宗逊以振奋士气。
5月27日，临颍战役正式开始，刘兴率三十六师由郾城沿铁路线北上；张发奎率第四军、第十一军、独立第十五师由逍遥镇西进，直逼临颍东郊。
奉军也将主力置于城东，并在距城五里的地方挖了一条长达二十余里的堑壕，沿壕沟构筑坚强的工事，且配置了大量的炮兵。连夜调整了部署。5月27日拂晓，张发奎下达了作战命令，以第四军副军长黄琪翔指挥第十二师，攻击临颖城东北两端地区之敌，贺龙的独立第十五师向小商桥攻击临颖南端地区之敌，第十师从羊石向西南推进，对鄢陵方面警戒。他自率第二十六师为总预备队，随正面跟进。
攻击开始后北伐军利用麦苗作隐蔽，匍匐前进。然而部队却完全暴露于奉军火力之下。霎时间，奉军轻重火器一齐发射，北伐军官兵猝不及防，死伤惨重。但是北伐军官兵毫不退缩，一排排向敌阵地冲击，士气甚旺，前仆后继、冲锋不止，竟插到奉军散兵壕内达11次之多。但在敌人炮火中，冲到长壕前人已极少，麦田里的北伐军尸体有数层之多。张发奎见状，忙令部队暂停攻击。
在其他战场，战况也同样激烈，但见烟尘蔽日，杀声震天，炮声轰鸣，血肉横飞。
贺龙指挥独立十五师经黄连城西，向小商桥发动攻击时，敌我双方伤亡严重，其第十五团伤亡达1400余人，第四军军旗也都丢失，后被贺龙部夺回。在贺龙部的顽强进攻下，残敌抵挡不住，向临颖撤退。贺龙部占领了小商桥，解除了对第三十六军右翼的威胁。
战斗打得最激烈的是在城东，第十二师尤为惨重。27日下午，第十二师进抵苇塾附近，得悉敌军大部据守七里头一带，布防甚严。该师即令三十四团于傍晚向敌发动攻击。
三十四团以第三营用疏散队形，攻七里头正面之敌，第二营沿右翼抄七里头北端，第一营为预备队跟进。黄昏时分，占领十里头之敌经第三营猛攻，退守七里头一带，恃坚固工事，顽强抵抗，第十二师屡攻不能克。午夜时分，张发奎急调第二十六师七十七团赶到辛庄，抄袭敌之左翼，以第十二师之三十四、三十六团任正面，三十五团任左翼，乘28日拂晓之际，实行全线进击。
虽然北伐军发动了更为猛烈的进攻，然而，奉军兵力数倍于北伐军进攻部队，且有良好工事，优越兵器，北伐军自晨至午，苦战半日，正面前线官兵伤亡甚众，三十四团团长吴奇伟负伤；左翼三十五团也伤亡颇重；更为壮烈的是，右翼之第二十六师七十七团伤亡了五分之四，团长蒋先云率部勇敢冲锋，不幸壮烈牺牲。
这里有必要介绍一下悲剧英雄蒋先云。他是早期的****党员，黄埔军校第一期的高材生，文武全才，深为校长蒋介石所器重，曾担任蒋的机要秘书。但是蒋先云又是一名忠诚的共产党员，自从蒋介石叛变革命之后，他毅然离开南昌，回到武汉。此次北伐他主动请缨，也深得张发奎赏识。然而我们可想而知蒋先云的内心一定是非常苦闷、痛苦的。一面是栽培器重的校长恩师，一面是发过誓言的深爱的党，任何人在此抉择中都不会从容不迫，毫无牵挂。因此在战场上蒋先云每次都是视死如归，身先士卒，可以说死对他来说就是一种解脱。所以三次负伤，三扑三起，已抱定必死之心。悲哉，壮士。
张发奎一面令第十二师坚守阵地，不许退却，一面以七十六团沈久成部及七十一团欧震部向右翼之七十七团阵地增援。同时急调鄢陵之第十师赶来增援。下午2时，第十师冒着烈日赶至，进攻部队闻讯，反守为攻。在北伐军奋勇猛进，连番攻击下，奉军终于不支，放弃坚固阵地逃遁。北伐军乘胜追击，直薄临颖城下。此时刘兴第三十六军也突破小商河一线敌军，自西猛攻。奉军军心大乱，不敢恋战，弃城向北退走。28日下午，北伐军攻克临颖城。
临颍战役可以说是北伐军自广东出师以来最激烈、最艰苦、伤亡最大的一次战役。此战彻底击溃了奉军的作战意志。但是北伐军损失巨大，仅第四、第十一军伤亡就达三千以上。而此战也暴露出唐生智保存实力、牺牲友军的阴暗心理。从此张发奎对其深怀戒心。
奉军临颍惨败之后，士气低迷，接连放弃许昌、新郑，向北狂逃。
与此同时，冯玉祥部东出潼关，进入河南，5月26日攻占洛阳，30日，占领郑州。6月1日，与刘兴部在郑州会师。2日，与张发奎部会师于开封。武汉政府的第二次北伐第一期作战任务胜利完成。
这里补叙一下冯玉祥部东进河南的战事过程。
1927年4月26日，冯玉祥接受了武汉政府任命的第二集团军总司令一职，并于5月1日在西安红场举行了数万人参加的誓师及就职大会。5月6日，冯玉祥移驻潼关，挥师东进。
在这之前，冯玉祥首先与阎锡山达成谅解，解决了侧翼安全；又收编了溃败于豫西的镇嵩军刘镇华部，使东进进展顺利。
冯玉祥将部队分成七路大军：一、中路军，由冯玉祥自己统帅，下辖第一（方振武）、第三（孙良诚）、第四（马鸿逵）、第五（石友三）、第六（韩复榘）、第十三路（张维玺）军，加上独立第五师第二旅及炮兵徐廷瑗旅，集中在华阴、潼关、灵宝，沿陇海路向东挺进；二，右路军，以第十四路（孙连仲）及马克齐、马斌、姚振乾三旅组成，后又编入张耀枢一师，以孙连仲为总司令，向南阳前进，担任保护鄂陕交通线的任务，保持与武汉国民政府的联系畅通；三、左路军，由第十五路（徐永昌）及第九路（井岳秀）之一部组成，徐永昌为总司令，由陕北碛口过黄河，经太原出娘子关；四、南路军，以第八（李虎臣）、第十二（卫定一）两路及田春生师、续天扬师，何全升、胡景铨、张德枢、康振邦等旅组成岳维峻为总司令，集中于卢氏、洛南之间，经洛宁向洛阳前进；五、东路军，由刘镇华各部组成，从孟津渡过黄河，袭扰京汉线；六、北路军，以第七路（门致中）及独立第一、八、二十二等三个师组成，宋哲元为总司令，为总预备队；七，其余驻陕各部队，原地待命。全军号称30万。然而这些部队中，刘镇华第一个就靠不住，徐永昌呢，早已暗中投靠了阎锡山，至于岳维峻，根本就不听冯玉祥的指挥。所以进攻河南主要依靠中路军，以及右路的孙连仲。
冯玉祥的东进大军以方振武部为先锋，孙良诚紧随其后。先后占领陕州、卢氏、渑池等地。刘镇华部靡集豫西铁门、新安，态度不明。22日，冯军向刘镇华部发起攻击，大部被击溃，一部缴械投降。23日，方振武部挺进至磁涧，奉军万福麟率五旅之众会和原镇嵩军旧部张治公约四万余众，在娘娘庙附近设立防线三道，方振武攻击受阻。26日，孙良诚、石友三部赶到，共同发动总攻，奉军溃败，万福麟部沿铁路东逃，张治公部退入终南山中。同日，冯军攻克洛阳。
洛阳已下，冯玉祥乃命令孙良诚部沿陇海路向郑州前进，方振武部由登封向禹州前进，协助武汉方面北伐军。（由于方振武无法容忍冯玉祥的猜忌与自私，从此之后脱离了冯玉祥的控制，后来辗转投奔了蒋介石。）同时石友三部经孟津、偃师迂回郑州。27日，石友三占领孟津，28日，至偃师，奉军增援部队凭借黑石关之险竭力抵抗，企图抢运巩县兵工厂的机械。在冯军的猛烈攻击下，奉军败退，兵工厂得以保存。30日，冯军占领孝义，奉军再退。31日，石友三部占领郑州，骑兵旅追至黄河南岸，奉军炸毁铁桥，得以逃脱。6月1日，冯军与北伐军刘兴部会师郑州。
右路军在孙连仲的率领下于5月初出紫荆关，连克淅川、内乡，然后集中兵力攻打邓县，牵制了吴佩孚残部于学忠、徐寿椿、马文德和襄樊驻军张联升部。6月25日，占领南阳，29日，占领邓县，张联陞部投降改编，并于7月2日截击从此路过的吴佩孚。
6月4日，武汉方面军政要员谭延闿、汪兆铭、徐谦、孙科、顾孟余、唐生智均连袂抵达郑州，即派代表至潼关迎接冯玉祥，冯于6日抵郑州，12日召开党政军联席会议，决议划定新战区，陇海路以北，平汉路以东归冯玉祥负责，唐生智所部则撤回武汉整补。冯部各路军均改编为军，军之上为方面军，编制如下：
第二集团军总司令冯玉祥
第一方面军总指挥孙良诚
第二方面军总指挥靳云鹗（后来靳被解决，由孙连仲继任。）
第三方面军总指挥方振武（方振武离开后由韩复榘接任）
第四方面军总指挥宋哲元
第五方面军总指挥岳维峻
第六方面军总指挥石敬亭
第七方面军总指挥刘郁芬
第八方面军总指挥刘镇华
靳云鹗本是吴佩孚的嫡系，因为反对吴联奉而被吴免职，后来又因奉军对靳攻击而穷无所归，冯玉祥军出潼关后，靳乃投奔冯。
会议期间，汪精卫对冯玉祥推崇拉拢，意图联冯反蒋。但是冯玉祥主张宁汉联合，共同北伐。双方意见差距甚大，会议不欢而散。武汉方面看似慷慨的将河南交给了冯玉祥，但是冯玉祥对接受这个千疮百孔又很不稳固的烂摊子并不领情，他手里没钱，新招抚的部队还没消化，四外又有强敌环伺，真有点独木难支的感觉。
恰恰在这时，南京方面北伐军已次第克复蚌埠、徐州。蒋介石于6月中旬移节徐州，特召集李宗仁、白崇禧、王天培诸将领开军事会议，电邀冯玉祥参加。19日冯应召秘密抵徐，蒋介石率李宗仁、白崇禧等重要将领，以及其隆重的礼遇亲迎冯于九里山西麓车站。20日中央委员胡汉民、吴稚晖、李石曾、李烈钧、张静江等亦自南京来徐州，晚间即在徐州花园饭店宴冯。蒋介石即席发言说：“此次南北军事领袖把臂言欢，商洽党国大计，意义极为重大，真是革命史上最重要的一页”。冯说：“军阀对我辈称为南赤、北赤，今天两赤见面，就是为了救中国”。吴稚晖说：“我们的赤，是赤裸裸的三民主义，纯洁无瑕，不含渣滓，以总理的三民主义救中国。”席散后，由李烈钧居间沟通蒋、冯的意见，李烈钧与冯有旧，所以奔走其间。
此时正值宁汉分裂时期，蒋希望冯玉祥出兵沿京汉路直下武汉，渡江北伐的革命军则返归南京，溯江西上。冯玉祥认为革命军当面的奉军、直鲁联军是真正敌人，宜先以全力将之扑灭。武汉方面是自家人，小有意见，何必认真，更不必以兵戎相见，徒给敌人造机会。他反对对武汉用兵。而在反共、清党的问题上，双方意见基本趋于一致，后来冯玉祥回到郑州即开始清党。
此次会议最让冯玉祥感动的是蒋介石慷慨大方的承诺，由于西北军财政确有困难，自1927年7月开始，南京方面每月接济冯军250万元。这不啻为雪中送炭。冯玉祥最缺的就是钱，他自从独立开创局面以来，日子就没过宽绰过。会议开了两天，毫无结果。后来冯以阅兵为词，不辞而别，径返开封。徐州会议无疾而终。但是蒋介石还是把冯玉祥的心买动了。虽然在宁汉对立中冯玉祥貌似中立，一力奔走调解，可是在蒋介石下野之后，最支持其复出的就数冯玉祥。可见蒋介石的本钱没有白花。
