阎锡山此次掌权，感受颇多，从此开始按照自己的意旨改造、建设山西。
1912年9月18日，孙中山先生在北京与袁世凯会晤之后来到太原。对阎锡山及山西起义诸人赞誉有加，阎锡山也深受鼓舞，深感自己身上的责任不小。可是先生一走，面对现实，他的心又凉了。
阎锡山看透了，在这个乱世想生存下去，自己如果没有实力，就必须有个强有力的靠山。而现在的这个靠山无疑就是大总统袁世凯。他知道老袁对自己印象不好，必须努力消除这种成见。首先，为了获得信任，阎锡山将父母送到北京常住，名曰享福，其实是做政治人质。其次，剪除革命党。他知道老袁最恨的就是革命党，自己虽为同盟会员，但是从袁世凯取得大总统的经历来看，革命党人的力量根本无法通袁世凯抗衡，抗争意味着灭亡，他不想死，所以别无选择。
阎锡山北逃雁北之时，副都督温寿泉在晋南成立了河东军政分府，这令他很不安。1912年8月，温寿泉主动要求撤销分府机构，阎锡山赶紧表示欢迎，并将老同事接回省城，担任军政司司长。但是温寿泉手下的一班人却不买阎都督的帐，尤其不满他拥戴袁世凯，于是阎锡山借此机会拿他们开刀了。革命党人张士秀、李鸣凤将阎锡山派往晋南筹饷的南桂馨拘捕起来，阎闻讯大怒，当即电告袁世凯，张、李二人叛乱，请求派兵讨伐。袁乃派毅军赵倜率部至蒲州，将张李拿获送北京军警执法处。这一招是一石二鸟，即讨了袁世凯的欢喜，又除去自己的心腹大患。晋北还有一个忻代宁公团，拥数千之众，阎锡山想到他也很不舒服。公团统领续桐溪是主张反袁的，阎锡山怕他惹祸，接到太原委以巡警道，然后逐步将公团解散。续桐溪不愿做官，辞职回到故乡，秘密反袁。阎锡山知道后百般排挤，直至将其逼出山西。
其三，无为而治，韬光养晦。袁世凯为了限制阎锡山的权力，先是安排老友李盛铎为民政长，后来换成亲信金永担任按察使（省长）。阎锡山知道其中的奥妙，于是对山西军政大事，很少过问，听任金永把持山西省政，甚至建立了一支武装警备队也预与容忍。军事全权则交给后来的军政司长兼督署参谋长黄国梁。日子久了，太原城内只知有黄国梁，不知有阎锡山。金永认为阎锡山是一介平庸之辈，不足为虑，乃恣意妄为，使人民怨声载道，为后来阎锡山的得到大多数人民的支持打下基础。
1913年，国民党发动了二次革命。作为同盟会员的阎锡山保持了中立，让袁世凯大为满意。之后各省都督多有撤换，唯山西阎锡山，云南唐继尧成为了不倒翁。此时的阎锡山已经没有丝毫革命激情，逐渐向一位真正意义上的军阀转变。
1914年5月，阎锡山被袁世凯授予“同武将军”，阎锡山特意在五台县家乡修建门楼，刻上“同武将军府”，以示荣耀。
1915年，袁世凯帝制自为，阎锡山第一批上书劝进，使龙颜大悦，给予其一等侯爵的尊荣。至此阎锡山终于自我否定了辛亥革命的功绩，不能说是堕落，但是思想完全质变了。他早已将民国元年孙中山先生来山西时的殷殷重托忘在脑后了。
阎锡山处心积虑的各项举措，为他稳坐山西都督打下坚实基础。
虽为养晦，但阎锡山一刻也没有停止自己力量的发展。他是军人出身，知道掌握军队的重要性。在军队整编方面，阎锡山为了加强战斗力，采取了一系列措施。山西在辛亥革命前仅有两标，即85标和86标（也称一标和二标），太原光复后扩充为四个标。后在与清军的战斗中，民军队伍不断扩大。阎锡山重返太原后，按北京政府核准整编一师，任命孔庚为师长。师统辖两个步兵旅，旅长一由孔庚自兼，另一为刘樾西。旅下面辖两个团，共四团，团长为张培梅、倪普祥、赵守钰、台寿民。师又直辖骑兵团、炮兵团各一个，团长分别为张树帜、高树勋。另辖工兵、辎重各一营。后该师取得了中央陆军第九师的番号。部队大部分驻守在太原等地。临汾、大同为山西南北重镇，均设有镇守使驻守，并各辖步兵团一个，在长治也设有镇守使，辖一个步兵营。
为了培养军队的领导骨干，提高军队的战斗素质，阎成立了将校研究所。任命赵戴文为所长，路福保为副所长。所内有100多人，分编为4个队，这些人大多数是整编军队时编余的军官。这个研究所着重研究军事理论和战略、战术等问题。后来又成立了军事教育团，训练有一定文化素养的青年及由军队中挑选的士兵，培养部队担任正副班长的骨干。教育团前后训练培养了1000多人。另外，阎锡山还组织了精武社，任命李德懋兼任社长。精武社招收小学文化程度的学生百余人，学习武术。精武社为军队输送了一部分力量，马弁连和卫队营就是以精武社为基础，挑选而组成的。这对尚武之风和提高晋军的战斗力有一定的促进作用。
1913年春，内蒙王公发动叛乱，袁世凯派兵三路大举征蒙。阎锡山为了迎合老袁，派出张树帜的骑兵团和吴信芳步兵一团随同参战，并派第九师师长孔庚统一指挥。山西军队取得不错的战绩。为了巩固边防，孔庚继续留在包头坐镇。孔庚与阎锡山一直是貌合神离，他与副总统黎元洪是同乡，为了造成私人势力，与阎抗衡，曾到北京多方活动，欲取得黎的支持，期安插自己的旧同事和同乡当军官。阎锡山认为孔庚有他意，开始逐步压缩孔的兵权。
阎锡山在1914年开始主动要求裁减晋军，名义上将晋军完全归于陆军部直辖。这实际上是把裁减军队作为保位的手段。
7月28日，阎锡山致袁世凯电，要求划晋绥为三驻兵区，以温寿泉、赵守钰、黄国梁为旅长。将山西部队重新整编，尤其是孔庚所部拆分。
一月以后，阎锡山于9月1日又复电北京统率部，请求任黄国梁为驻省混成旅旅长，另二旅由晋南、晋西镇守使兼任。9月10日照准后，阎致电孔庚、董崇仁：“奉大元帅训令，现驻省垣之混成旅著改为陆军第十二混成旅，即任命黄国梁为该旅旅长。现驻包头等处之第九师改为陆军第十三混成旅，任命孔庚兼充该旅旅长。现属晋南各军队改为陆军第十四混成旅，任命董崇仁兼充该旅旅长。”这样，孔庚成了晋北镇守使兼旅长，权利和地位大大缩小。
1915年，帝制运动的前夕，袁世凯又裁减山西第13、14两混成旅为独立团，并命北洋将领李炳之在山西另行招募一个旅，称第15旅，由李任旅长。此时，晋军进一步压减，阎锡山仅有军队一旅及二独立团，兵力总计不足7000人。而山西巡按使金永却有警备队11个营，势力足以制阎。袁鉴于阎锡山在二次革命中未公开与他对抗，山西又在北洋势力的包围之中，阎又主动裁减晋军，暂无反抗心机，故而虽随时提防，但始终没有罢黜阎锡山的职务。
阎锡山的精心表演最后终有收获。在袁世凯的最后时刻，于兵力捉襟见肘之际，他要阎锡山派兵到郑州，防备陕西的军队向河南进攻，还想用这个部下的忠诚抵挡一时。阎锡山接到出师郑州的电令，立即表示服从。但又说山西贫瘠，筹措军费困难，求袁世凯接济。袁信以为真，一口承诺，并随即拨发军费80万元，作为开拨所需。阎锡山也迅速行动，在娘子关集结兵力，派员领到粮饷之后，就以兵力一部进驻石家庄。袁世凯越发相信阎锡山此时是真心真意在拥戴自己，因而对拨付军资军械的要求满口答应。阎锡山的部队得到大批物资，从容装备，并不急于南下郑州。频频以军资尚缺请求拨付为由，继续拖延时日。军资军品堆积如山，又缺车装载，就请京津拨车备用。直到无法再拖延了，装载重兵的列车于深夜开行，但车并未开往郑州，却是向着北边背道而驰。车离郑州越来越远之时，阎锡山给袁世凯发电报称：“我军北驶，已抵保定。”袁世凯接到这封电报，才恍然大悟，原来自己被这个“脑后没有反骨”的部下戏弄了一场。措手不及而悔恨已晚。
阎锡山自己，在对袁世凯作了这一番嘲弄式的报复后，心满意足地微微而笑。这个曾让他坐立不安的袁世凯，终于也有被他玩弄的一天。最后这一着，不仅吐了一口多年来沉重郁闷的恶气，而且还轻而易举地得到一大批军资物资。
这个最让阎锡山害怕的人物终于寿终正寝，但是日子也并没有一下子轻松。
不过从此不必再夹着尾巴做人了，阎锡山开始收回军政大权。
首先是孔庚。阎曾暗中指使亲信将领张树帜等鼓动塞上士兵以索饷为名发动“兵变”，企图将孔杀害，但孔因此时不在自己办公室而侥幸躲过。后来，在袁世凯称帝时，孔庚秘密进行过反袁活动，更为阎锡山所不容，托词将其软禁在太原。不久张树帜趁孔不在大同期间，带兵闯入镇守使署监印室，将镇守使关防抢走。孔庚知道是阎指使所为，只得忍气吞声，乖乖地将镇守使职务交与张树帜，离开了山西。
第二个就是黄国梁。由于袁世凯时代强行压缩山西军队的编制，只剩下黄国梁所部的一个旅。袁死后，黄国梁就着手扩军。他大批训练军队的基层干部，又挪用军费修建营盘。他拟定了一个计划，要把一个旅扩充为一个师。计划拟得非常周密详尽，只剩下将师长的名字填上黄国梁三个字。在黄国梁看来，与阎锡山的关系非同寻常。既是早年的拜把子弟兄，又从太原起义以来一直亲密共事，还在袁世凯的监视下替阎锡山担惊受怕地顶了几年门户。艰险过去，现在得到发展的机会了，军队扩编，自己顺理成章地当个师长还有什么过分之处吗？却不料，计划送到阎锡山处，阎看过后勃然大怒，将计划扔在地上，拍着桌子大骂：“绍斋也太不把我放在眼里了，这样，干脆这个督军就由他当好了，何必还用我作傀儡？一点小事，他都不听我的，难道我就那么听话！”素日积累的矛盾找着了爆发的导火索，早已成竹在胸的图谋得到了实现的时机。阎锡山逮着了好机会，岂能轻易放过。他既不看拜把子弟兄的面子，也不理采长期共事的交情，表现出一副震怒的模样，立刻把秘书长召来，拟了一份电报，拍发给北京黎元洪总统和段琪瑞国务总理。电文声称“黄国梁独断军事，虽无叛徒事实，实已迹近骄横，军人如此，国家纪纲，尚复何在”，请北京政府撤销黄的职务。当然，不用等北京政府的批复，他就迫不及待地采取了狠下毒手的行动。他怒气冲冲地把宪兵司令找来，亲手写了一道手谕：“黄国梁着即免职，限即日离开太原。”当面命令宪兵司令派兵包围黄的住所，禁止黄与外界任何人见面，监视黄于次日早晨离开太原。黄国梁被迫郁郁寡欢地离去，临行感慨良多：因为原来的山西军政司长、阎锡山的另一位好同学，太原起义后曾任副都督的温寿泉，是黄国梁在阎锡山的授意下逼走的。黄走后，其旅长职务由素称无能的孔繁蔚代理。
最后一个是晋南镇守使董崇仁。阎锡山任用董崇仁是为了向袁世凯送人情，人都不在了还要什么人情？况且董崇仁对晋南的反阎势力不闻不问。于是找个借口将其撤职，换上了心腹将领张培梅。张杀人不眨眼，很快将晋南反阎势力扫荡殆尽。
至于金永的警备队，在袁世凯死后，金永没了靠山，自己有腐败无能，结果乖乖的交出部队，在一片嘲骂声中离开了山西。
至此山西军权尽为阎锡山掌握，他长舒了一口气。稍一大意，却几乎酿成大事。
1917年7月，阎锡山应邀进京面见大总统黎元洪。他很看不起这位被部下逼着革命的大总统。但万万没想到这一次却差点遭了黎元洪暗算。原来，孔庚、黄国梁被迫离开太原后，并不死心，再三鼓动黎元洪采取“调虎离山计”，把阎锡山调到北京，而后孔庚、黄国梁秘密回到太原，由黎元洪出面明令黄国梁为山西督军、孔庚为山西省长。阎锡山在北京，措手不及，鞭长莫及，到时候也只能认命，他的这个老窝就给端掉了。然而北京到底是北洋系的天下，很快段琪瑞得到了这个消息。为拉拢地方实力派，以念师生之谊为由，迅速把消息透露给了阎锡山，并面授机宜：即日化装离开北京，间道转回太原。只要能先他们一步回到太原，控制局势，黎元洪就不敢动手。老谋深算的段琪瑞替阎锡山筹划一番，想得十分周到：叫他次日一早乘京汉路车离开北京，为避开耳目，不要在石家庄转车。南下直到河南新乡，换坐车到清化，翻过王屋山，然后从旱路赶回太原。
这消息，对阎锡山来说，无疑是一个晴天霹雳。轻而易举地挤走了黄国梁和孔庚，却又差点被他俩暗算。看不起黎元洪，却险入黎的陷阱。在对段琪瑞感激涕零的同时，也对黎元洪他们恼恨不已。阎锡山经历过几次突如其来的风险了，这一次就老练得多。经过考虑，他不肯照段琪瑞的计划，绕个大弯子，那样既费时间又多变数，决定还是坐京汉线的车到石家庄转太原。为了保密，他精心策划了一个“金蝉脱壳”之计，对部下交代说：“我想还是坐京汉车从石家庄转太原，比较迅速可靠。不过，我不能从车站上车，免得引起他们注意。”他吩咐部下用400块大洋买通火车司机和扬旗手，将火车开离站台到扬旗地方时，尽量开慢些，让他能够从那里神不知鬼不觉地顺利上车。而后又说：“只要我离开北京，就没有什么问题了。我走了以后，你们几个都不要出门。总统府派人来找，就推说我病了。他们要是派人来看望，你们就撒个谎，到哪家医院看病去了。总之是要想尽办法，把他们支吾过去。等接到蒙从太原来的电报以后，你们可以打个电话给总统府，就说‘阎督军已经回到山西了’。在电话里，要把话说硬一点，不要露出咱们山西人的软弱劲儿。”次日，阎锡山浑身商人打扮，穿一件夏布长衫，草帽的帽沿压到眉头，再戴上一副大墨晶眼镜，未经车站站台而从车站扬旗处神神密密地离开了北京。与当年仓皇逃离太原时相比，阎锡山此时已经镇定得多了。这一方面是他人生阅历的增长，对意外和惊险有了更大的承受力和对应力；另一方面，他在山西的基础已深，不是随便什么人可以任意动摇的。他敢于胸有成竹地与黎元洪玩这个乔装潜行的游戏，也显示出他的自信。
