1928年6月12日，国民政府发表了对内对外的宣言，宣告北伐告竣，统一完成，军政时期结束，训政时期开始。同时发布了出对内施政方针通电，声称北伐完成后，将立即施行力行法制、澄清吏治、肃清匪盗、减免苛税、裁减兵额“五要政”。
7月2日，何应钦在国民党中央党部总理纪念周报告称：国民革命军现有84个军272个师计220万人以上，全年需军费80000万元，而财政岁入仅45000万元，相差甚巨。军委会希望将军队缩编为80个师120万人，军费减至财政收入的60％。7月5日，蒋介石致电冯玉祥、阎锡山、李宗仁称：“今日非裁兵无以救国，非厉行军政财政之统一无以裁兵。”
经对直鲁军张宗昌、孙传芳等部的草草收编围剿，确定了和平解决东北问题方针后，北伐军四总司令蒋、冯、阎、李及李济深、蔡元培、张静江、李石曾、吴稚晖、李烈钧、戴传贤等人于7月11日至13日在北平小汤山会议北伐善后问题。
会议上，蒋介石拿出他预先拟好的文案《军事善后意见书》，要大家讨论。《意见书》的前言部分写道：“北伐完成，军事急应结束，裁兵节饷，从事建设，已成全国一致要求；唯革命尚未成功，建设尤须保障，整军经武，亦未可视为缓图，职是之故，吾人于已覆北方军阀之后，乃有两种极大之责任。一面当裁汰兵额，移巨额军饷为建设之用；一面当充实军备，保持国家与社会之安宁。”
又说：“裁兵能否实行，军备能否整理，今已为国家存亡关键，进行之始，必以大公无私之心，收集思广益之效，非任何人所得阻挠，亦非任何人所得把持。”
关于裁兵具体设想，意见书中说：“拟分全国为12个军区：一、苏皖赣，二、闽浙，三、两广，四、两湖，五、四川西康，六、云贵，七、陕甘，八、鲁豫，九、燕晋，十、热察绥，十一、东三省，十二、新疆青海（外蒙、西藏当别定办法），每一个军区所驻军队，以四万人为限。各军区长人选，由各集团军总司令与总指挥推荐，军事委员会审议，分别任命，每军区内裁兵剿匪，及一切整理军队事宜，均予军区长以全权，责令于一年以内办理完善，或疑军区制有分割地盘之嫌，则可明定军区长官不得兼任省政府主席，以杜绝把持政治之弊。”
会上还划定了各集团军的辖区范围：第1集团军为广东及华东沿海富庶地区，第2集团军为山东、河南及原有的陕甘宁青4省，第3集团军为冀察平津及原有的晋绥两省，第4集团军为湖南、湖北及原有的广西省。对于如此划分，李、白嫌地盘太小，又无出海口；冯玉祥则因济南和胶东半岛为日本占领，山东是一个残缺省份，又未得到心中久想的河北和平津，此次北伐牺牲最多，所得却寥寥，意见更大。但北伐刚刚结束，他们均不好意思像旧军阀那样公开争夺地盘，只能在心中隐忍不发。而阎锡山和蒋介石均在北伐中获利颇多，为北伐的既得利益者，当然没有意见。故会议开始时尚和风细雨，融融一堂。谈及利害问题后，拥有重兵的冯、李马上表示出自己的不满，会场空气顿时紧张起来。会议最后，蒋介石忽然提出一个在改组中央政府的同时举行编遣会议，整理军事之议案。建议取消各种“总司令”、“总指挥”名义及相应的集团军和军一级编制机构，由编遣委员会负责在全国军队中择优编成国防军50个师，每师15000人，其余军队一律遣散。至于每个集团军大致保留八到十个师。中央另建宪兵十个师，裁兵的目的是为了集中财力进行国家建设。并要求会议原则通过其提出的《军事整理案》，还当面邀请与会的各集团军主要负责人和他一块去南京，立即举行编遣会议。
对蒋的提议，冯、阎、李、白等人洞若观火，但蒋介石是从全局考虑的，说得冠冕堂皇，对“编遣”二字绝难正面反对，因地盘分配早已满腹牢骚的冯玉祥、李宗仁、白崇禧等人马上在“编遣”的枝节问题上大提意见。首先白崇禧提出了裁兵不如实边的建议。他提出在边疆成立若干军区，让部队从事开发工作。不但可以减轻国家负担，而且可以安置北伐有功将领，他当场表态愿意率领广西数万子弟兵前往新疆。
李济深直截了当的说：“若是天下为公，没有一个人反对的；若是天下为私，一定有人反对。把别人全部消灭，留着自己的军队，这种不公平的办法，万万要不得。像现在北伐的革命军队没有饷，反而派了许多人暗中去收编孙传芳、吴佩孚、张作霖、张宗昌等反革命的军队，这是顶不妥当的事。”
据冯玉祥记述汤山会议情景：“当天还有好几位说话，都是指责当面说好话，而骨子里用种种方法消灭别的军队是不对的。我看蒋的脸上一块青，一块红，一块白，非常不安的样子。”
阎锡山对蒋介石的议案不置可否，作好了后发制人的准备。小汤山会议虽以四总司令共同签署《军事整理案》结束，但同时埋下了各个军事集团间不和的种子。以蒋氏心理，籍裁军建设为名行“削藩”之实，势在一举两得。孰料各集团军兵符在握，均有问鼎中央权位的野心和力量，一旦举措失当，必将导致狼烟烽起，战端再开。就蒋而言，如何能够平稳“削藩”，以“中央系”一统政局，即成为当务之急；就冯、阎、李而言，如何能够妥善保存本团体的军事实力，借以维持既得之利益乃至有所扩展，从而可在中央占一席之地，更成为生死存亡之关键所在，故毕竟全力以争之。
北伐成功，阎锡山是蒋中央之外各集团军中最大的既得利益者，由偏促于娘子关内一隅而成为手握晋绥冀察京津六省市军政大权的华北实际统治者，且内厚结以把握中枢实权的蒋总司令，以“革命元勋”枢臣地位可谓一言九鼎；外广延于日美英法诸强驻华使领官员及日本驻华军事首领，疆臣强藩地位更增问鼎之心。与3、4集团军相比，冯军力最强却失之于外无奥援，所占陕甘宁青鲁豫东西遥遥，难以呼应，其势已坠；李、白份属新进，军事实力、政治影响、控制地盘均不足论，在党争中只能处于从属地位，绝难独树一帜。至于唐生智及粤、川、滇大小各派，或地处偏远，或实力微弱，皆不在踌躇得志的阎锡山眼中。故北伐善后伊始，阎锡山唯蒋介石马首是瞻，决计紧靠“中央”，削弱他人，借机发展自己。蒋介石则限于羽翼未丰，对各军事集团只能采取各个击破的方针，蒋对阎锡山在地盘分配上已市其“恩”，且阎对中央执礼甚恭，自然成为蒋裁兵“削藩”之依仗。与此相反，执傲不驯且军力最强的冯玉祥则成为首批裁兵的主要对象。
小汤山会议后，蒋、冯、李等人相继离平南下，阎锡山借口身负平津卫戍之责，难以即刻南下。冯玉祥面对“裁兵”大势，急欲和地位相似的阎锡山联合行动，离平时坚邀阎结伴同赴南京，阎锡山推辞说请冯先行，至多再耽搁一天即动身。冯沿途不断用电话联络，听说阎的专车已向南开出，才放心前进。不想阎锡山的专车开到顺德（邢台）后电告各方称胃疾复发，以医治为名径自回了山西。8月份，国民党二届五中全会通过了裁撤各政治分会、设立国民政府五院八部、《军事整理案》等重要决议。其中最为关键和敏感的军事整理问题因阎锡山的缺席，不能正式开会，以致到宁的各总司令在“裁兵”程序和预案等一系列问题上争得焦头烂额。年底前裁撤政治分会的决议亦因冯玉祥、李宗仁等人的抵制而流产。蒋介石应付不了冯、李等人的联合攻击，亟待阎锡山来给他从中转圜；冯、李等人则以为和阎利害一致，盼望阎锡山来“加盟”，共同与蒋抗衡。如此，各方函电交催，形成了似乎阎锡山不到，编遣就进行不下去的舆情，阎的身价较北伐时又抬高了一截。阎锡山却故意迟迟其行，先是疗疾，后又以“侍父疾”为托词，尔后又是“侍疾劳顿致病”。其间，阎锡山一面观察南京各方军事首领的动态，以摸清底蕴。一面加紧调整冀察平津人事，整顿收编部队，联络在关外的张学良，稳固辖区统治。直至文章作足，才在各方频频电邀下，于12月12日行抵南京。
阎锡山到南京后，受到各个方面的热烈欢迎，接连在宁就任“冀察绥赈灾委员会主席”、“国民政府委员”等要职，并于12月20日应国民党中央党部邀请，在中央无线电台发表了和蒋介石口径一致的题为《裁兵为建设之先务》的广播讲话，标榜自己立场公允，一时声名鹊起。12月29日，张学良等奉军将帅通电宣布东北方面“遵守三民主义，服从国民政府，改易旗帜”，受到全国舆论欢迎，国民政府也取得了名义上的“国家统一”。在这一背景下，提出半年之久的“编遣会议”终于新年元旦在南京开幕了。编遣会议名为裁兵，实质上却刀拔弩张，在生死利害的冲突面前，国民党各军事集团间分化组合，形成了错综复杂的相互关系。
阎锡山到宁前，冯玉祥一面准备和3、4集团军共同抵制蒋剪除异己的做法，一面又幻想依靠蒋的支持，保存实力，从而在中央取得举足轻重的地位，再相机领导其他力量推倒蒋介石。所以，冯见军事实力仅次于他和蒋的阎锡山迟迟不到南京，即很快就任了行政院副院长兼军政部长一职（军政部常务次长由冯系将领鹿钟麟担任），并在非正式会议上提出了一个拉蒋压他人的编遣原则和具体方案，即有名的“强壮者编，老弱者遣；有枪者编，无枪者遣；有训练者编，无训练者遣；有革命功绩者编，无革命功绩者遣”的四项原则和“一、二集团军各编12个师，三、四集团军各编8个师，杂牌军共编8个师”的具体提案。当时第1、第2两集团军分别拥兵50余万和42万，第3集团军官兵共计近24万人，第4集团军人数也在30万上下。按冯玉祥提出的四项“编遣原则”衡量，根据各集团军所属部队组成情况，冯的编遣提案表面上还是比较公允的。当然，冯玉祥潜在的想法是把1、2两集团军拉齐，把3、4集团军和其他杂牌军压低，以蒋、冯团结为中心，借此控制其他方面。孰料“卧榻之侧，岂容他人酣睡”，蒋介石并不愿让一个与己力量相近的军事集团并存，故对冯的提案采取了冷处理的态度，让其待正式会议开始后提出。冯玉祥的提案不仅蒋氏不喜，也没有得到李、白的支持，结果把自己摆到了各派的对立面，先输了一着。
阎锡山到宁后，蒋介石派何应钦先去看阎，据当时阎锡山派驻南京具体负责编遣事宜的周玳回忆，何对阎说，“‘蒋先生希望阎先生也提一个方案，在会上共同研究。’何还说：‘蒋先生意思希望在四个集团军的辖区之外，再加上一个中央区，最好请阎先生在方案上一并提出。’阎考虑了片刻，说：‘我可以准备个提案，但加上中央区这个问题由我提出，似乎不甚合适。如果蒋先生提出来，我一定首先赞成。’何走后，阎就召集我们共同研究提案的内容。几经研究，最后决定：一、二集团军各编十个师；三、四集团军各编八个师；其他非正式队伍编六到八个师；其余六到八个师由中央处理。当即写成了书面，送交何应钦转交。”这一方案与冯案的前半部分完全相同，关键在于增加了“由中央处理”“六到八师”一条。中央何许人也？明眼人一看便知。在会前的私下活动中，蒋介石拉阎压冯马上得到阎锡山的响应，奉上了一份“钦定”方案。冯玉祥使劲贴不上的，阎锡山竟坐在家中就轻易得到了，阎冯二人心计高下，泾渭分明。
1929年1月1日，全国编遣会议正式开幕。
国民党中央执监委员，各集团军总司令蒋介石、胡汉民、戴季陶、孙科、王宠惠、吴稚晖、朱培德、宋子文、冯玉祥、阎锡山、李宗仁等60余人出席。
会议对冯阎两个方案进行了两天的讨论，经过蒋介石的多方工作，终使阎的方案得以通过。
蒋介石主持编遣会议又继续开了数日，最后确定：全国共设8个编遣区，中央直辖各军编遣区，海军编遣区、第一编遣区由蒋介石直接管辖，办事处设在南京；第二编遣区属西北军，办事处设在开封；第三编遣区属晋军，办事处在太原；第四编遣区属桂军，办事处在汉口；第五编遣区属东北军，办事处在沈阳；另划一个第六编遣区，编遣云、贵、川、康各处军队。这么一来，连第六编遣区在内，蒋能控制4个编遣区。
接着蒋介石宣布成立编遣委员会。会上还制定了《****编遣委员会进行程序大纲》。大纲规定：“从全国编遣委员会成立之日起，全国军队一切权力都收归中央。将由国民政府下令，正式撤销国民革命军总司令部，各集团军总司令部，海军总司令部，各部队只能在原地驻扎，听候点编。”
会议开到这个时候，冯、阎、李才顿时醒悟，自觉上了蒋介石的圈套。阎、李一时成了哑巴，取消极抵抗态度。冯玉祥在恼怒中提出动议：“现在刚刚打完仗，应当休整一个时期再编遣。”冯的动议赢得一片赞同声。蒋介石眼见一时难以使各实力派就范，只得同意暂不编遣。编遣会议没有形成任何实质性决议，最后以各集团军（编遣区）各指定了一个编遣主任委员（1、2、3、4集团军分别为何应钦、鹿钟麟、周玳、白崇禧）。1929年1月26日，编遣会议在一片吵闹声中无果而终。
为了进一步笼络阎锡山，蒋介石决定在编遣委员会里成立一个管理编遣经费的经理组，委派阎锡山作组长。阎锡山对冯玉祥在方顺桥战役中的一箭之仇耿耿于怀，利用蒋冯之间的矛盾和李、白对冯一意靠蒋的不满，在编遣会议内外营造不利于冯的舆论环境，致使冯玉祥在编遣会议中陷于孤立，最后只得称病抵制会议，并于1929年2月5日以养病为名，避居豫北辉县百泉村，其军政部长一职也交由鹿钟麟署理。
在编遣会议上，各集团军首脑人物看透了蒋介石把持中央，翦除异己，对地方实力派去之而后快的心理，深深感到蒋介石实行各个击破方针对自身的威胁。以汪精卫为首的国民党“改组派”亦因蒋介石独自包揽党政军大权，想在中央分一杯羹而不可得，故以革命“左派”相标榜，在反蒋的军事实力派中寻找同盟军。以编遣会议的结束为标志，各方反蒋势力在相互争权夺利的重重矛盾中不断分化组合，从而形成了一股强劲的反蒋潮流。
