阎锡山虽然在撤兵石家庄后，因感晋军实力不足，而进行了第二次扩军，扩充后的晋军已达8万余人，但面对如此之众的国民军，仍感到势单力孤。为了解除国民军对自己的威胁，他不得不开始重新调整他与各方面的关系。为此，阎锡山于1925年夏，即派《晋阳日报》经理梁航标到武汉去见吴佩孚，一面表示其“悔过之意”，希望吴“不念旧恶，共图中原，解民倒悬”，一面向吴承诺，吴率师北上之日，“山西军队可以南出陇海，东出太行，打击国民二、三两军，然后以全力共击国民一军”。吴佩孚正想联合各方，共同“讨赤”，而山西又有着如此重要的战略地位，阎锡山的晋军也有“十万”（梁航标向吴回答山西有多少兵力时夸大之辞），正可利用，于是同意与阎联手（梁航标：《阎锡山联合张冯倒曹吴和联吴倒冯》，《山西文史资料》第12辑，第5页）。与此同时，阎锡山又与张作霖取得联系，拟借吴、张之力制约国民军。然而，阎锡山在表面上仍迟迟不公开表态，因为，他考虑到奉军远在关外，吴佩孚的势力也在两湖江浙一带，而冯的力量却近在华北察绥，……如果自己不和冯玉祥合作，他以全力进攻山西，等于泰山压顶，纵有张、吴的外援，也恐怕远水解不了近火，因此，他对冯玉祥不仅仍然不动声色，反而十分客气。1925年10月21日，他在回复冯玉祥的“马电”中，还称“我兄身系安慰，志在匡济，救民救国，端在此时。弟虽不才，愿从兄后，如有驱使，惟命是从，掬扰奉复，时盼教言”。甚至在1926年4月，国民军在奉军的进攻下退出北京时，他“还给了国民军一些方便，允许其眷属由山西过境”（《阎锡山年谱》（二），第641页））。
1926年，奉军、直军、直鲁联军联合向国民军发起进攻。吴佩孚计划出兵京汉路，力图肃清盘踞京汉要津顺德（今邢台）之国民军第二军郑思成部。为扫除由武汉北上之障碍，打通京汉线，他要求阎锡山予以配合。但阎锡山考虑到吴军尚未北上，而奉军主力未入关，自己贸然出兵向国民军发起进攻，势必会给国民军进攻山西以口实，使国民军3个军集中力量攻击晋军，那时吃亏的只能是自己。于是，他便以抓孔庚为名，出兵顺德。因为，孔庚自被阎锡山缴了兵权后，即离晋谋职，策动反阎。1925年他就曾联络樊钟秀、胡景翼进攻山西未成。这时，又在郑思成部任职，而郑思成是国民军第二军的部属，正驻扎在顺德，所以，阎锡山想趁此机会，先把顺德夺下，抓获孔庚，以解山西后顾之忧。并且对国民军派往山西的代表张士吉振振有词地说：“我们出兵顺德，抓获孔庚，完全是为了解决孔庚，这是山西内部的问题。孔庚不解决，还怎么能够拿出力量来帮助你们总司令呢”？于是，阎锡山遂应吴佩孚之邀，在3月初，派商震、杨爱源、周玳等部出兵娘子关，取石家庄，然后沿京汉线南下，在元氏、高邑、赞皇等地的郑思成所部的前哨被肃清以后，直逼顺德附近。在周玳炮兵团的配合下，商震师所部，经过激战，攻入顺德城内。郑军不支而降，郑思成出逃，孔庚被俘。孔庚被解到山西后，软禁在都督府内的庆远楼，有两月之多，后又被阎锡山放走，临行时阎还送了他3000元旅费。
攻克顺德后，商震、周玳等部北返石家庄，与驻防石家庄的杨爱源部一同待命。此时，吴佩孚、张作霖已开始对国民军采取行动，于是阎锡山命出关晋军除杨爱源部返防太原外，其余各部再由石家庄北上，商、周两部抵达保定后，前不久被冯玉祥收编列入国民4军系列的魏益三部闻讯请降，阎对魏部归附表示欢迎，遂授予“正义军”之名义，仍由魏任军长，继续驻守石家庄。之后，晋军稍事休整，即奉阎之命，撤兵返晋，回师太原。阎锡山对顺德的攻克与对保定魏益三部的收编，打通了京汉线北段，为吴佩孚北上进攻冯玉祥开辟了道路。
晋军撤回后不久，吴佩孚即率部开到保定，在此之前，张作霖已压迫国民军在4月中旬撤出北京，退往南口和西北地区。本来，这时的国民军已处于被直、奉、晋三面包围之中，形势颇为不利。但吴佩孚恐怕张作霖独掌北京政权，一面继续进军，一面要求张作霖让渡北京政权，而张作霖认为“因直系内部出了问题，才增加军队，并参加了北京政府，现在吴佩孚刚刚统一军权，就要让他放弃北京，实在不合情理，好在国民一军尚在，否则直军岂不又要打奉军吗？所以张作霖决定留冯以剿吴，不再进攻南口了”。国民军“见此情形，遂改变战略，以刘汝明驻守南口，集中主力攻打雁门关，想趁机占领山西”（《山西文史资料》第12辑，第15页）。
国民军撤出北京后，张之江出任国民军全军总司令，鹿钟麟和宋哲元分别任东、西路军总司令，石敬亭任后方总司令，驻平地泉。其时，虽然在河南的国民二军，京蒲线上的国民三军被吴佩孚和张宗昌、李景林的直鲁联军击败，损失不少，但国民一军仍保持完好，全军总兵力还有20万之众。国民军东路军主要在南口和察北多伦地区与奉、直军队作战，国民军西路军主要在晋北13县与晋军作战。国民军为了打破直、奉、直鲁与晋军的包围，决定“先击破山西，取得军事上的有利地位，乃以宋哲元部从杀虎口、得胜口数路分进，合围大同”（《阎锡山统治山西史实》第114页）。
阎锡山清楚环布于山西东、南和西北的国民军早就觊觎山西，而他打通京汉线北段的行为，实际上又加剧了与国民军的矛盾，因此，当1926年4月国民军撤出北京后，他即开始在大同一带进行布防，任命商震为前敌总指挥，统一指挥作战。孔繁蔚指挥左翼，临时扩编的第三师师长王嗣昌指挥右翼，周玳率炮兵团配合作战。大同正面由临时扩编的第四师长谢濂负责，主要部队有谢濂部、第六旅杨爱源部、第七旅高冠南部及周玳炮兵部；大同左翼由孔繁蔚负责，主要有孔的第三旅第六团荣鸿儒部、骑兵第二团孙祥麟部及李鹏翥的迫击炮兵；大同右翼由王嗣昌负责，主要部队有王之所部、第五旅丰玉玺及温玉如的炮兵部。
1926年5月18日，宋哲元亲率8万人马向大同进攻。拟先由韩复榘、石友三、石敬亭等部，攻下大同，恢复京绥交通，继而会师桑干河左岸，肃清雁门关以北之晋军，以稳固战线。
开战之后，由于双方都是有备而来，所以战斗一直十分激烈。国民军来势汹汹，第六军韩复榘部由得胜口杀入，先是一举占据孤山高地和要冲镇川堡，接着又攻下大同车站，打通了京绥路，直逼大同城下；第五军石友三部由杀虎口杀进，先后攻取左云、右玉；第四军方振武部由得胜口入侵后，依原定部署，夺得阳高、应县。而晋军在国民军的猛烈进攻下，虽然伤亡惨重，第十三团团长杨呈祥阵亡，第五旅旅长丰玉玺被俘，第六团团长张荫梧受伤，但仍顽强抵抗，双方激战七八昼夜，形成对峙局面。
正当晋军吃紧之时，阎锡山接到张作霖来电，说是奉军“从南口仰攻居庸关伤亡很重，攻不下来”，要阎将“孤山队伍撤下来，开到雁门关一线，作为双方防御工事，采取守势”，等候奉军骑兵打到察北，占了多伦威胁张家口的时候，再行出击。阎锡山为配合奉军作战，同时也为调正自己的部署，遂命商震“暂撤至雁门关一线，集结兵力，先取守势，待机进攻”，并令右翼王嗣昌师同第六旅撤至繁峙附近沙河，左翼孔繁蔚、李德懋部撤至宁武阳方口一带，不使国民军有迂回窜扰之机。为了不使国民军占据雁北富饶地区，还采取（钉钉子）的办法，派傅汝均旅李生达、萧维汉团配有炮兵营、手榴弹营，帮助代理张汝平（大同镇守使）防守大同，傅作义团守天镇，李服赝营守浑源，魏德新团守朔县，命令这些部队必须死守，（周玳：《阎锡山参加直奉反冯的经过》，《文史资料选辑》第51辑，第118页）。5月27日，晋军依阎锡山之命，放弃大同城郊以外部分地区，据守大同及雁门关等要隘，利用地形，沿长城构筑阵地，伺机出击。
国民军东路军对奉张军队的顽强抵抗，及其西路军对山西大同雁北的凶猛攻击，使吴佩孚、张作霖认识到国民军的战斗力非同一般，要对付国民军，还须双方继续合作，目前还不是分手的时候，因此，6月28日，吴、张在北京会晤，进一步协商“讨赤”事宜。“两军拟定直鲁奉军艳日拂晓，对西北下总攻令”（《阎锡山年谱》（二），第689页）。随即，奉、直两方军队联手向南口的国民军发动攻势。奉军吴俊升部于8月上旬攻占了多伦，8月下旬，国民军在直奉军的紧逼下，从南口撤出，退往西北。
在大同雁北与晋军对峙的国民军，由于指挥不统一，无后方作战，内部分化等原因，开始陷入被动。而经过调整部署的晋军，却武器弹药充足，相互协调配合，所以，各部所据守之城池关隘，虽经国民军数度强攻，但均未失守。傅作义部死守天镇，竟达三月之久。战场上的形势，对晋军日益有利，国民军则陷入被动。因此，当国民军撤出南口后，进入山西的国民军也开始撤军。8月18日，大同在被围困三个月后，宣告解围。国民军相互掩护，纷纷向绥远五原地区撤退。8月24日，“晋省境内已无敌踪”。晋军乘势“以三路追击”，先占丰镇、集宁，继入平地泉，9月3日占了绥远首府归绥。之后，阎锡山立刻发表通电，以“敝军占领绥远后，维持秩序，镇抚地方，急需得人”为由，“权委前敌总指挥商震代理绥远督统”（《阎锡山年谱》（二），第694页）。至此，相持了3个多月的国民军与晋军的雁北之战宣告结束。
这次阎、冯之战，是阎锡山参与直、奉、直鲁军阀发动所谓“讨赤”之役的一个组成部分。国民军首先向山西发起进攻，阎锡山被迫反击。开战之初，国民军占优势，晋军处于被动。但后来局势的变化，却各自走向了反面。晋军不仅由被动转为主动，反败为胜，而且，乘势占据了绥远，阎锡山从参与“讨赤”之役中得到了好处。如果不是这样，结局很难设想。与此相应，若非晋军在雁北的艰苦作战，顽强抵抗，从而牵制了大部国民军，直奉军队也不可能轻易拿下多伦、南口，最终导致国民军的全面撤退。而阎锡山对军事部署的及时调整，晋军各将领的英勇善战，以及晋军物资弹药的充分供给，则不能不说是一个重要的原因。
阎锡山这次对国民军作战的胜利，虽然也使晋军遭受了很大伤亡，并且，雁北13县饱受了战火的蹂躏。但是，它却使阎锡山的军事实力进一步增强，部队战斗力得到了提高，地盘也大为扩大。除了战争开始前临时扩编的两个师外，又收编了国民军韩复榘、石友三和陈希圣三部分军队（分别被编为晋军第十三、十四、十五师）。晋军对天镇、大同的固守，更积累了固守城池的经验，自此，晋军以善守而著称。更重要的是，通过这次“讨赤”之役，阎锡山的政治影响力也显著增强，在北洋政府中已经占据有举足轻重的地位。
