袁世凯帝制自为败亡后，由他一手把持的北洋军阀集团群龙无首，迅速分裂成为直、皖两大派系。直系以冯国璋为首（因冯是直隶河间人，故称直系），皖系以段祺瑞为首（因段是安徽合肥人，故称皖系）。此外，张作霖的奉系及其他地方军事头目，也拥兵自重，扩大地盘成为有权有势的地方军阀。从此中国出现了军阀纷争、内战频仍的混乱局面，北洋政府内部的政争也愈演愈烈。这种风云突起变幻无序的政治形势为善于左右逢源的阎锡山提供了崭露头角的舞台。
袁世凯死后，北洋政府的实权逐步落到皖系首领段祺瑞手中。民国以来，北洋政府的历届陆军总长多由段担任，一度还兼任过国务总理。1916年袁世凯被迫取消帝制时，任段祺瑞为参谋总长，接着段又受命组织责任内阁。袁死后段以国务总理兼任陆军总长，是北洋政府的实权人物。
段祺瑞在北洋政府中地位的加强，对阎锡山来说是非常有利的。早在民国初年，段祺瑞在陆军总长任上之时，阎锡山就向好为人师的段祺瑞具了门生帖子，拜段为师，段对阎也多有关照。据参与其事的周玳后来回忆，袁世凯掌握北洋政权后，“对于与同盟会有瓜葛的各省都督，都一律看成是眼中钉，肉中刺，要拔除而后快，对阎锡山自然也不例外。但是阎锡山居然能够保持他山西都督（后来改称督军）的位置，一方面固然是因为他对袁世凯极力逢迎，博得了袁的欢心。而更主要的是段祺瑞对阎曲予维护，尽量在袁世凯面前帮他讲话的缘故。”“段祺瑞从小站练兵时起，给袁世凯办了各种各样的军事学堂。袁世凯当了总统，便委段祺瑞为陆军总长。段祺瑞最感到得意的是：全国督军，师、旅长，半数以上都是他的门生故吏。人之患在好为人师，段祺瑞既然如此，阎锡山便投其所好，在他进京谒见袁世凯的时候，首先具了门生的帖子，拜见段祺瑞，三跪九叩行了拜师大礼。在谈话中间一口一个老师，极尽恭维之能事。”“这样一来，段祺瑞便在袁世凯面前力保阎锡山，说阎虽参加过同盟会，但是绝对靠得住。”“1917年（民国六年）8月间，黎元洪听信孔庚、黄国梁对阎锡山的控诉，加以他左右四大金刚（金永炎、哈汉章、黎澍、丁佛言）的怂恿，为了稳固他的总统地位，就决心用调虎离山的手段，撤换阎锡山而代以孔、黄。”“徐树铮在国务院听到了这项消息，私下报告了段祺瑞。段念在师生之谊，忙把阎锡山找去，先把这段消息透露给他，并替他指出一条明路，叫阎锡山即日化装悄悄离开北京，间道回太原。”阎遵计而行，一面稳住黎，一面秘密潜回太原，遂使黎的计划落了空。如此，段祺瑞之于阎锡山，除“师长”之谊外，又有了“保位”之恩。所以，在此后一段时间里，阎锡山一直惟段祺瑞马首是瞻。
1917年7月，在段祺瑞的默许下，阎锡山开始了第一次扩军。在原有部队基础上成立了四个混成旅，分别以商镇、马开崧、孔凡蔚、赵戴文为旅长。另外编成两个独立混成团，两个骑兵团，一个炮兵团，人枪接近两万。加上一些地方团队，维护统治是绰绰有余了。
阎锡山底气渐渐充足，也敢于在发言了。在段祺瑞与黎元洪激烈的府院之争中，他完全站在段祺瑞的一方。
1914年爆发的第一次世界大战，几乎将所有的欧洲国家都卷入战争的漩涡，自顾不暇。在远东可以互相抗衡的只有美国和日本。1917年2月，美国参欧战，遂促中国加入协约国对德宣战。始以美元作诱饵，极力怂恿其所支持的黎元洪政治集团和直系冯国璋参战。随之日本帝国主义为了扩大其在华权益，也以日元作诱饵，极力怂恿他所支持的皖系军阀段祺瑞参战。美国见自己怂恿黎元洪参战为日本所利用，就转而唆使黎元洪出面反对段祺瑞提出的“参战案”。于是“府院之争”在“参战”问题上愈演愈烈。先是，4月25日，段祺瑞以国务总理身份召集各省督军及都统在北京开会，“商讨加入协约国对德宣战问题”，决定参战。并强令黎元洪在“参战案”上副署。接着，5月10日，段又在国会审议“参战案”时，以军警包围国会，强迫议员通过。在议员拒绝通过“参战案”后，黎元洪下令免去段祺瑞的国务总理。段在暂处劣势的情况下，以天津为基地，另起炉灶，唆使各省督军提出解散国会、脱离中央。
3月5日，阎锡山致电段祺瑞：“辛亥以还，我公以硕望元勋，担荷天下。逮乎共和再造，手挽狂澜，身系安危，苍生托命。此次处理外交，内审国情，外观大势，早为当世有识者所共谅。邦基未固，诸待护扶，环顾国人，畴克当此重任。务望我公以国家为重，勉抑渊衷，早循众请，返驾视事，徐图挽拯。”
3月6日，阎锡山又以“总理赴京，意欲辞职，现正设法挽留”等因致电黎元洪，指出，“共和再造，邦本未宁，内政外交，诸待处理。总理以硕望元勋，遽尔去职，关系之重，无待赘陈。敢恳钧座本饥溺犹己之心，循宫府一体之义，速挽行旌，徐图大计。”
4月25日，段祺瑞召集“督军会议”。阎锡山以山西督军身份参加了会议。会上他与河南督军赵倜、山东督军张怀芝、江西督军李纯、湖北督军王占元、吉林督军孟恩远、直隶督军曹锟、安徽省长倪嗣冲、察哈尔都统田中玉等及其他各省代表，表示赞成段祺瑞的政策，一致主张对德宣战。
“督军会议”之后，阎锡山借口内蒙不稳，太原连电催返而返回太原，以避免黎元洪方面的纠缠。而在5月18日由北京发出的各省督军响应段祺瑞号召，要求解散国会的电文之上，仍有他的署名。
5月23日，段祺瑞被黎元洪免除职务后，“安徽省长倪嗣冲，首先宣告与中央脱离关系，奉、黑、直、鲁、陕、豫、浙、闽等省，随即相继响应。皖、豫、鲁各军北上，奉军入关。”在各省督军纷纷宣布独立的声浪中，阎锡山于6月初奉段的旨意，宣布山西独立，脱离北京中央政府。与此同时，为对黎元洪进行武力威胁，遂命第一旅旅长商震率晋军进驻石家庄，并借故下令逼迫黎元洪集团委任之山西省长孙发绪离职。
阎锡山在此期间的热衷表现不能不引起世人的关注。因此，当北洋耆宿王士珍出面斡旋，调停纷争时，特意致电阎氏，明告“昨奉明令，委张绍轩（张勋）以磋议调停之责，元首犹恐未周，复托钱君干臣转请徐东海合力匡救，将解决办法明告钱君：（一）公府办事人员，业经退出。修改宪法必可完全办到。（二）解散国会即筹适当手续。（三）总统地位决不留恋。能及早调停就绪，即当洁身引去；万一调停无效，即依法由副总统继任，使南北不致纷争，统一不致破裂。”“诸公志在匡时，心同爱国，谋虑之远，岂让士珍。特心所谓危，不敢不掬诚奉告，务希转饬已动之队，暂驻现至之地，未动之队仍行驻扎原处。情急陈言，万盼采纳，并盼示复。”在上述情况下，阎锡山为与段祺瑞进一步联络，先后派参谋台寿民、参事李庆芳赴京接洽。并于6月7日，再次致电段祺瑞，说明，“昨委托李参事庆芳呈上芜函，计蒙览，大局纠纷，国事方急，保持统一，全仗我公。前派参谋台寿民驰赴总参谋处接洽一切，并饬晋谒钧座，伏乞俯赐接纳，时加训诲，俾有遵循。”明确表示愿为“驰驱”。
在段祺瑞一手导演威逼下，黎元洪招架不迭，迫于情势，遂于6月13日下解散国会之令，各省始相继取消独立。至于国务总理一席，各督仍意在拥段，作为过渡，以温和派王士珍暂先组阁。有鉴于此，阎锡山于6月17日致电冯国璋，“请劝王士珍组阁”。电曰：“得悉西南各省已有动机，赖我公调停劝阻，不致戈操同室，老成匡国，言重邱山。尊电（指冯国璋6月16日致各省督军“西南动态及取消独立”之铣电）釜底抽薪，必先取消独立，持平立论，敬佩莫名。窃以欲保共和，必当先谋统一，又必当先组内阁。今揆席尚悬，各省争推王聘老出长斯席，即系为早日得人，维持统一起见。锡山曾电各省略谓：国会宪法未竟事宜，尽可公诸全国，从长计议。但俟阁揆定日，应即行恢复原状。”这一电文再次表明了阎对于“府院之争”的基本立场。
府院之争的一个直接恶果是引发了“张勋复辟”的丑剧。对于“张勋复辟”，阎锡山则始终是持反对态度的。
张勋阴谋复辟，未经实行以前，各方即已有传说。阎锡山闻听此讯后，于6月12日致电察哈尔都统田中玉，指出，“复辟谬说，危清室，害国家”。当“出兵讨伐，敉平政变”，起而反对。
7月1日，张勋复辟之当日，复辟王朝即发布任命，任阎锡山为山西巡抚。是日夜，阎锡山接张勋“本日合词吁请复辟即正大位”电，二日晨分致曹锟等冬电：“保定曹督军，蚌埠倪省长，武昌王督军，开封赵督军，奉天张督军，济南张督军，西安陈督军鉴：华密京局元电宣布变更国体，计已达览。尊处如何办理？望先示知。同志各省，有何主张？并乞随时密示，以便一致进行”。同时“整饬师旅，准备进讨。”
张勋复辟的丑剧登台后，总统黎元洪一时慌了手脚，逃进了外国使馆电令冯国璋代行总统职务，并重新任命段祺瑞为国务总理。7月3日，在全国上下一片反对声中，冯、段分别发出“誓讨复辟”通电，段在马厂誓师“讨逆”。次日，阎锡山即派张子其、台寿民分赴南京、天津，晤见冯国璋、段祺瑞，请授方略。
同时致电段祺瑞，表示“张勋假托调人，擅更国体，既覆共和，亦祸清室，方圆之伦，同深义愤。我公护持民国，薄海咸钦。此次指挥义师，唯公莫属。锡山待罪晋疆，闻变骇愤。”“刻经选派混成一旅进驻石庄，以便会师北上。”在此期间，阎锡山与各方人士电报往还，不断联系讨张事宜。并根据事态发展，连连作出军事上的行动。
7月5日，阎锡山先派商震率第一混成旅由石家庄会师北上，配合曹锟北伐；接到京报称张勋扣押火车三列，拟逃窜蒙疆的消息后，又令大同镇守使张树帜带一支队进扼居庸关，会同察哈尔都统田中玉，防止张勋兵败北逃。对讨张军事，阎锡山积极参与戎机。一面将截获的张勋与口北匪卢占魁勾结之密电电告段祺瑞，请段通知前敌军队注意，并建议派兵一旅，北上分头迎剿；一面致电冯国璋，指出徐州为张勋“老巢”，请派兵进攻，断张后路。7月7日，又续派第三混成旅旅长孔繁蔚率领所部，进驻石家庄，以为后援。
在各路军队的同力征讨下，张勋节节败退。7月8日，讨逆之师在京城外围大败张勋部，张勋坚闭城门不出，请王士珍出为调人，段祺瑞率兵驻丰台，命各路讨逆军暂勿前进。阎锡山对此不肯苟同，力主从根本上解决问题。遂致电曹锟称，“我军迫压都门，逆勋穷蹙可想，趁此时机，都城一鼓可下。近日微闻有调停之说，确否尚未敢信。鄙意时不可失，务恳我兄坚持到底，商同香岩（段芝贵）大哥，根本解决，冀绝后患。”
张勋退入城内后，既有王士珍等出作调人，又有各国公使团出面调停，要张勋解除武装，取消复辟。张勋顽抗到底，“坚执不允”。调停不成，7月12日，讨逆军下令总攻。晋军商震、孔繁蔚两旅长分别被委为讨逆军西路第5、第6纵队司令，奉命向北京城进攻。总攻发起后，晋军团长李敏首先率部攻克德胜门，各路军亦次第攻入京师，分头进击。直军旅长吴佩孚、冯玉祥等攻天坛，王承斌等攻南河沿，均先后报捷。而天安门等处复辟军尚顽强抵抗，炮火甚烈。晋军商震旅乃急调山炮一团向前猛攻，在炽盛的火力下，张勋残部放弃了抵抗，纷纷缴械投降。在举国一致的反对声中，在讨逆军一鼓作气的进攻下，逆历史潮流而动的张勋复辟，以彻底失败而告终——“辫子军”全体投降；“辫帅”张勋在德国人的保护下，由其在南河沿的住宅逃入荷兰使馆；溥仪宣布退位。冯国璋、段祺瑞因讨逆有功，分任总统、国务总理。段祺瑞更是以“再造民国”的功臣自居，主宰北洋政权。阎锡山亦因坚决反对复辟与追随段祺瑞参与府院之争，而得以兼长山西民政。
在袁世凯复辟帝制时，倒行逆施，将各省军事长官由都督改称“将军”，行政长官由省长改称“巡按使”。帝制失败，黎段上台之后，又恢复旧制，改“将军”为督军，改“巡按使”为省长。阎锡山遂由“同武将军”改称山西督军。行政长官则由于巡按使金永已被赶走，北洋政府改任沈铭昌为山西省长。“卧榻之侧，岂容他人酣睡”，阎锡山自民国元年出任山西都督后，一直想由自己兼长民政，但根据法律规定，各省“民政长由大总统任命”，而袁世凯对他又一直持不信任态度，其愿始终不能得偿，“山西行政公署的民政长，先后由赵渊、陈钰等递任。”袁世凯既倒，省长一职岂容落入他人之手。所以，北洋政府的任命一出，阎便指使山西民意机关省议会炮制提案，极力反对沈铭昌署理山西省长。在阎锡山的操纵打击下，不数日沈铭昌就被迫离晋。1916年10月7日，北洋政府不得不改任孙发绪为山西省长，接替沈铭昌所遗之职。拒沈来孙，阎锡山的目的仍然没有达到。
孙发绪上任后，阎锡山仍然采取不合作态度。当时，适逢在督军团会议的一个电文中，载有不利于孙的材料。阎锡山便加以利用，借故攻击。由于当时阎锡山已经掌握了省议会议员中的绝对多数，且取得了议长杜上化的全力支持，继任省长孙发绪那里是他的对手。1917年6月5日，孙发绪被迫离职。孙发绪离职之时正值“府院之争”激烈之际，乘北京政府无暇西顾之机，阎锡山便以护理（代理的意思）名义，自兼了山西省长。
然而“护理”毕竟不是实授，对于这个名不正言不顺的“护理”省长职务，阎锡山是无论如何也放心不下的，必须要有北京政府的任命，心里才能踏实。恰逢复辟剧终，冯国璋以副总统正位，段祺瑞再为国务总理，阎即借此机会特派南桂馨入京向段祺瑞疏通。南桂馨通过陆军部军需司长罗仲芳（段在小站时的旧属，与段关系至深）向段关说，得到段的首肯。段并且说“各省军政都系一人兼任，山西当然不必例外。”但当南桂馨回省复命以后，任阎锡山为省长之令迟迟未发，省府秘书长贾景德侦知系内务部长没有副署的原因。其时的内务部总长汤化龙、次长蒲殿俊，都是清朝进士出身，和贾有“同年”关系，贾遂自请入京疏通此事。结果汤化龙等要求给方贞（和汤有私交）以雁门道尹一缺，即可副署。阎应允后，省长的正式任命即下达，同时方贞也到了太原。但阎留方为政治传习所所长，支道尹薪，终不使他到雁门道尹之任。也算是对汤化龙等人“把持朝政”的一个小小的报复。
这样，在袁世凯死后特殊的政治环境下，阎锡山政治、军事一齐下手，多方运动，终于1917年9月3日受北京政府“特任”为“兼山西省长”。“从此，阎锡山既是握有山西军事实权的督军，又是握有山西行政实权的省长，终于将一省的军政大权集于一身。”这一政治目标的实现，无疑为阎锡山在中国的政治舞台上进一步施展“抱负”，奠定了不可或缺的基础。
冯国璋代理大总统后，本可恢复原被黎元洪宣布解散的国会，但段祺瑞因国会曾阻挠参战，怀恨在心，便决定另组临时参议院。所以复辟虽然失败了，而立法机关却依然停废，没有恢复起来。时两广因黎元洪被迫解散了国会，宣告暂行自主，待冯段另行召集临时参议院时，孙中山便率海军赴粤，宣言护法。广西、云南、贵州各省相继响应，国会议员也相继南下，在广州举行国会非常会议，制定护法军政府组织大纲。9月1日选举孙中山护法军政府海陆军大元帅，重申护法大义。
“护法战争”爆发后，与北洋政府形成了南北对峙的局面。对于“护法战争”，阎锡山采取了两面态度，一方面鉴于“山西虽处北洋势力包围中”，密派代表，赴粤响应。另一方面又不得不附和段祺瑞武力征湘。1917年（民国六年）9月初，段祺瑞突然来电报给阎锡山，大意是湖南零陵镇守使刘建藩独立，与桂军勾结，企图倒傅良佐。命令山西派一个旅到湖南援助傅良佐。
阎锡山接电后，非常为难，虽然自己早就与南方革命党人脱离了关系，但是同他们作战却一时下不了决心。然而迫于段的压力，决定遵命派兵。据时任晋军炮兵团长的周玳回忆，阎锡山接到段的电报后，“立即召集紧急军事会议，参谋长、军务处长、四个旅长和我都出席。阎锡山首先说明，接到段的来电，命山西出兵援湘，我们服从段命，这是义不容辞的事。大家看，派那一旅去最合适。说罢没有等大家表示意见，他就自己作出了结论，说：‘依我看，启予（商震字）在外边跑的地方很多，经验丰富，声气也比较灵通，最好是启予去，大家以为怎样？’大家当然没有反对表示。阎锡山又向我说，‘子良你也带上一营炮兵，和启予一同去。’于是就这样决定了。第一混成旅一共两个团，第一团团长蔡荣寿、第二团团长王嗣昌，全体出动。一营炮兵，由我带领。”
“山西省的队伍，远征到几千里以外的湖南，这对晋军来说，当然是破天荒的大事。商震以下，所有军官都是兴致勃勃，劲头十足。全部人马浩浩荡荡从太原出发，坐正太车到石家庄，换京汉车，一直开到汉口大智门车站。”
10月，晋军到达护法军与段祺瑞的北洋军双方交战的主战场湖南省。商震率队入湘后，在段军傅良佐的指挥下，直接开到永丰前线，很快就投入战斗。护法军方面与晋军对阵的是广西军马济、韦永昌的队伍。晋军以二团、炮兵、一团的次序投入战斗。马济、韦永昌的队伍吹着牛角号冲锋，忽左忽右袭击，总想突破晋军队伍薄弱的环节。但是一直没有逼近晋军阵线。相持了四五天，对方见晋军守得很严密，无懈可击，攻势就逐渐放松，前线的战事呈现了胶着状态。一连几天，双方只有一些小的接触。后来广西方面又加上了一股队伍，战事才又激烈起来。初出茅庐的晋军，根据商震“本旅奉命死守永丰阵地，如敢私言进退者，以军法从事”的命令，拼命抵抗，在阵地上一连坚持了十几天。
正当晋军激战前线坚守待援的时候，北洋军湖南军总司令王汝贤、副司令范国璋忽在长沙发表通电，主张停战撤兵，迫使傅良佐逃往靖港。商震部孤军在永丰城与湘军第二师第四旅朱泽黄部对战。商鉴于全盘形势不利，即率所部经湘乡，退于湘潭县城；因情况不明，被湘军在湘潭县城包围缴械，只炮兵营远驻城外，未被歼灭，但撤至易家湾后亦被缴械。商震等负责军官，被送至武冈，后买通传教士，才得设法乘日本小轮逃至汉口，收容所部士兵。“阎锡山在商震赴湘后，听到北洋军的不利消息，但未得到商震的报告，便派其上尉副官荣鸿胪、上校副官张汝频先后赴汉口、岳阳一带探听实况。当荣鸿胪先到岳阳时，商部已全军覆没，荣电报阎，阎即电商返并。而商自觉在出发时口出大言，而今一败涂地，既无颜见人，又怕阎给予处分，同时湖北督军王占元想留商在湖北任职，于是一时犹豫。荣张将这些情况密报阎锡山，阎又派其副官李德懋星夜赴汉，劝商返晋。商经李婉言相劝，才决定回太原。商见阎时，连说请罪，阎以‘胜败兵家之常’一语给以安慰，不咎既往，嘱商从速整理部队，以备将来使用，商才安心，感阎优遇。商原为陕军陆建章旧部，陆走后率一个团归阎，在晋南剿郭坚有功，此次挫败乃受整个局势影响，故阎未予咎责。以后商震在军阀混战中屡为阎出力，以报阎之知遇，实与此事有关。”阎锡山的驭人之术由此可见一斑。在阎看来，要割据地方、争雄于世，不善于笼络人才，没有一定的容人之量，是难以成就的。
入湘作战，因整个政局的变化，使晋军损兵折将，溃败而归。这件事深深教育了阎锡山。参加不义之战，吃了眼前亏，又不敢明说，只好对发展战略作出调整，于是以“保境安民”相号召，暂时退出军事纷争的旋涡，致力于山西政治、经济诸方面的建设。
