在很长的一段时间内，蒋介石在军界都是漂泊不定，没有一个可安身立命、扎稳脚跟的根据地。然而这种状况在蒋介石当上黄埔军校校长之后发生了根本变化。黄埔军校校长并不是什么显赫的位子，但却成为蒋介石生平的重大转折点。以此为基点和跳板，蒋开始跃向权力的巅峰。
黄埔军校的创办酝酿已久。1921年底，孙中山在桂林接待共产国际代表马林的访问时，谈到了“创办军官学校”，建立革命军的基础。
1922年4月，共产国际全权代表马林同孙中山在广州会晤。会晤中，孙中山对有关苏联红军的介绍格外注意。
1922年8月，越飞拜见孙中山，商讨了建立军队的问题。
1923年2月，孙中山派廖仲恺到日本和越飞继续会谈，商议了设立军事学校的问题。同年10月15日，国民党党务会通过了“设陆军讲武堂于广州”的议案。
10月25日，临时中央执行委员会第六次会议上，廖仲恺起草提出“国民义勇军”方案，义勇军的招募，则以“志愿入国民义勇军为党服务”为条件，这一构想为军官学校的设立创立了基础。
11月26日，孙中山主持召开的临时中央第十次会议上，决定设立国民党军官学校，推廖仲恺和苏联顾问鲍罗廷筹划开办事宜。
军校成立，近在咫尺。蒋介石虽远在国外，不过对国内局势还是比较关注的。回国这后，在廖仲恺、汪精卫、胡汉民等人的督促之下，抵达广州。
此时此刻，广州城正处在国民党第一次全国代表大会召开前夕，众人皆满腹激情，积极准备，唯独蒋介石郁郁寡欢，心事重重。因为蒋多少已经知道在此次代表大会上，蒋介石是不会有什么特别机遇和提升的。
1924年1月20日至30日，孙中山在广州主持召开国民党第一次全国代表大会，确定了联俄、联共、扶助农工的政策，把旧三民主义发展成为新三民主义，对民族、民权、民生等概念又作了新的解释。并扩大了革命阵营，允许多种成分联合起来，结成统一战线。大会期间决定把设立陆军军官学校一案付诸实施。1924年1月24日，孙中山决定将筹备中的学校定名为“陆军军官学校”，设立筹备委员会，任命蒋介石为委员长，王柏龄、邓演达等七人为委员。28日确定以原黄埔水师学堂和陆军学校的旧址为新校址。
创校之初，面临的问题是复杂的。
首先是招生问题。各省军阀因害怕革命势力的发展极力阻止军校招生，甚至限制青年出境。其次是经费问题。军校的经费，虽经大元帅府财政委员会决议，每月由广东财政厅等机关支领，但是滇军杨希闵、桂军刘震寰把持地方财政，经常陷学校于山穷水尽，常常是第二天的伙食，在前一天晚上还没有着落。再次是武器弹药的缺乏。当时能够生产兵器的工厂，大多在滇军控制之下，所生产出来的武器，都落入他们手掌之中，军校新生入校后，很有可能连枪械都分配不到。因此，军械的供给问题也必须尽快解决。
摆在蒋介石面前的问题多之又多，蒋为此焦虑不已，一筹莫展。整日绞尽脑汁，左思右想，但成效不大。特别是刚闭幕的国民党一大选出的领导机构成员中，又没有蒋的位置，直到2月3日，蒋介石才被委任为中央执行委员会下设的军事委员会委员。蒋自然很不满意，而孙中山又指示他不要过问党务和军政大事，更让他觉得不受重用，人微言轻，对孙中山常有抱怨。况且关于黄埔军校校长人选之事他也早有耳闻，说法不一，使得蒋介石更是忐忑不安，灰心丧气。
蒋介石对于自己有可能是校长人选是比较清楚的，因为他从孙中山的日常提示中，已获此信息。但是，由于蒋资历浅薄，势力不足，遭到了很多人的反对和诬蔑。蒋介石对此也是知道的，他于3月2日复信孙中山，解释他不辞离粤原因是：受人妒忌排挤，积成嫌隙，由来者渐，非一朝一夕之故也。
对蒋的辞呈，孙中山作了语重心长的批复：“该委员长务须任劳任怨，勉为其难，从艰苦中去奋斗，百折不回，以贯彻革命党牺牲之主张。所请辞职，碍难照准。”2月23日，孙派廖仲恺代理军校筹备委员会委员长。25日，命邓演达到溪口劝驾。29日，孙又电催蒋复职，称“军官学校以兄担任。故遂开办，现在筹备既着手进行，经费亦有着落，军官及学生远方来者，逾数百人，多为慕兄主持校务，不应使热诚同倾向失望而去。”廖仲恺、胡汉民亦函电相劝。
蒋介石的这次辞职，直接原因是大本营禁烟督办杨西岩拒不拨付军校的开办费。经济困难的确使创办之初的黄埔陷入艰难困顿之中，堪称鸿途荆棘，几乎使校事无法进行。然而，此种境况并不止于蒋之辞职时，他复职后相当长一段时间亦复如此。3月17日，杨西岩被免职查办。蒋却全无即时复职之意，他私下表示本人的“行止不应以一杨西岩免去而定”。显然，蒋介石辞职还有深层次的原因。蒋不甘于作一名单纯的军人，他的兴趣在政治。这正如他在致孙中山信中所坦白地说：以他个人的志向，“焉能专心办学而不过问军事政治”?尽管孙中山、廖仲恺、胡汉民、汪精卫等函电交驰，他并不当一回事。这时候，他迟迟不肯赴粤复命，纠缠的是杨庶堪任省长问题，杨的任命大本营未予立即发表。并非蒋独厚杨庶堪，事实上，杨只做三个月省长，最后便为蒋所参而辞。蒋的真实用意不过以此测试一下自己能在多大的程度上影响广东政局罢了。
除此之外，孙中山回粤已一年有余，而广东政局依然混乱不堪，蒋遂由满腔的郁郁不得志生出强烈的不满来。
关于广东政局，蒋认为孙中山回粤已越15个月，而对于民政、财政、军政，未有一实在方案。政府中人皆抱头痛救头，脚疼救脚，得过且过之想法，不往根本处想，大处落墨，都唯恐粤局不乱，政府不倒，自杀不速，以了各自心事。财政支绌万分，全系办理无方而致，财政机关非为军队把持，即为财团垄断，天下事未有无方针无条理而能治理者，亦未有不公开不整理而能理对者也。军事方面，他认为自己原本有一全盘计划，皆因各种阻碍和各军霸私，不能如计实施，以致有今日军事紊乱不可收拾之现象。
蒋对中苏合作持不同意见。他认为俄党殊无诚意可言，俄党对中国之惟一方针，乃在造成中国共产党为其正统，决不信国民党可与之始终合作，以互策成功。俄国与英、法、美、日相较，其利于本国而损害他国之心，则五十步与百步之分罢了。他看到改组国民党中，鲍罗廷所发挥的特殊作用和孙中山对鲍的信任，认为他赴苏的见闻报告，对孙等毫无省察之价值，抱怨自己因此而信用全失，人格扫地。
国民党要新生，就必须吸收新血液，改组旧组织。在这方面，孙中山任用共产党人颇多。陈独秀、李大钊、谭平山等在改组国民党中发挥了重要作用。出席国民党一大的代表中，有25人是****党员，陈独秀、李大钊、谭平山等7人的代表资格还系孙中山所指定。大会选举的中央执行委员有3人是****党员，候补中央执行委员有7人是****党员。2人任中央执行委员会的部长，3人任秘书。
可是，蒋介石作为孙中山的亲信，既未被指定为代表，亦未被选举为代表，冷落在这次具有历史意义的大会之外，会后仅担任国民党本部军事委员会一名委员而已。对此，蒋特别不满意。他表示：“吾党自去岁以来，不可谓非新旧过度之时期，然无论将来新势力扩张至如何地步，皆不能抹杀此旧日之系统。何况新势力尚未扩张，且其成败犹在不可知之数，岂能置旧日系统于不顾乎。”这个旧系统，当然包括他本人在内。他妄称孙中山之“所谓忠者、贤者及其可靠者，皆不过趋炎附势、依阿滔谀之徒耳。”至于顶事中用的，除了已死的陈其美，就是他蒋介石，此外，“恐无其他之人矣”。
蒋介石擅长玩以退为进的把戏。辞职以后，他一刻也没有停止活动，力争加重复出的砝码。
2月29日，孙中山电蒋回粤复职。3月2日，蒋给孙中山复了一封长达三千余言的信，屡陈自己的委曲与对党的主张。在这封信里，他除了说些知遇之恩，并世稀有之类的奉承话，还打出了两张牌。一是与陈其美的亲密关系，一是侍卫孙中山于永丰舰。蒋是陈其美的盟弟，陈其美从事政治活动以后，始终追随孙中山，深得孙的信任和器重。蒋标榜他与陈其美“万古交情，虽手足之亲，未足间其盟契，骨肉之挚，不能逾其恩义，肝胆相照，可质天日，故能与仗安危耳。”陈其美对他“信之专爱之切而知之深也”。
蒋毫不掩饰党内高层对他不够信任，称“如吾党同志果能深知中正，专任不疑，使其冥心独运，布展菲材，则虽不能料敌如神，决胜千里，然而进战退守，应变致方，自以为有一日之长，断不致临时纷乱，以陷危境；必能维持现状，恢复侵地，从无不能成军之时，更不知有无首罹险不知下落之奇闻。”最后，蒋干脆和盘托出，要求孙中山如信任陈其美那样的信任他，当然，作为回报，他表示亦如追随陈其美那样的追随孙中山。
蒋在标榜自己对孙中山赤忱耿耿，蹈白刃而愿牺牲。无难不从，无患不共的同时，总记得伺机踹他人一脚，他一再提到上年石龙失守，并对许崇智颇有微词。这时，许崇智、胡汉民亦不在广东。蒋提出此二人应回粤，以许督粤，以胡长省，他不欲许崇智“总揽全权”，企图以胡分许之势。
鉴于孙中山来电相催，蒋不便硬抗，表示“决于日内起程，趋前领教”。话虽如此，他仍在观察动静，等待火候。
3月14日，蒋致廖仲恺一封长信。在这封信中蒋把廖仲恺重重地数落了一番，并抱怨孙中山“对人对事之要点，若有未悉合乎中道者”，称对孙“吾辈不能因循苟且，专意顺从；亦不应使其固执己意，丧失同志人格，反为宵小所污辱”。蒋还抱怨廖过信俄人，声称如不相信我所言，毫不省察，则将来恐亦不免堕落耳。”
此时，胡汉民亦借蒋之力为自己的出处打算。3月19日，他给蒋透露消息说：邓演达报告了蒋的条件，粤方已不惜免去杨西岩，并抬他胡汉民前往，显然就是“尊重”蒋的意思。21日，廖仲恺正式通知蒋：“西岩免职查办，电请展兄归任秘书长，皆兄所期望，而先生所赞同，且既实行以示更始之意。”
3月25日，蒋致书胡汉民、汪精卫，与其商议行止问题。在信中，他大讲了一番自己的秉性，称欲使之努力成事，非如先慈之夏楚与教导不可，又非如英士之容忍诱掖亦不可也，如为吾友者，能以童子视弟，而以慈爱至诚待之，则我才能久安于事，否则，他就合则留，不合则去。蒋给胡、汪说这些话，无非是想经过他们把意思转达到孙、廖那里去。26日，胡汉民根据各方来电情形，劝蒋见好就收。蒋一拖再拖，全部事务推在廖的身上，廖有些忍耐不住了。
形势明显对蒋有利，这样，蒋才决定不再暧昧。3月27日，蒋致函王柏龄等，指示军校的筹办工作须遵从他所定章程。“多尽职务，少出主意”。28日，电廖仲恺，称“必来粤”，并对校务提出意见。
4月3日，戴季陶从蒋之意先行赴粤打探消息。戴在谒见孙中山后，电胡汉民说蒋于15日前到粤。14日，蒋介石终于回到广州。21日，谒见孙中山。至此，蒋辞职的风波才得以平息。
综观这次辞职风波，蒋实行的是欲进先退，策略上是讨好孙中山，压迫廖仲恺，争取胡汉民。他向孙中山打出的两张牌的确很起作用。因此，孙中山又是批示，又是去电，又是派人劝驾。杨西岩迅即被免职查办，胡汉民被任为大本营秘书长，都体现了孙中山顺蒋之意。蒋离职期间，还被任为军校入学试验委员长，大有军校校长非蒋莫属之势。廖仲恺见孙感叹欷歔，神情沮丧，也不得不电蒋，表示“已往之政事党事，弟任其咎。盼兄即归图更始。”还表示“先生近多感触，亲信者不宜离去”。这样，蒋在赴粤之前，精神上已大获全胜，如愿以偿。
蒋介石复职以后，5月3日，孙中山特任蒋为陆军军官学校校长，兼粤军总司令部参谋长。之后，蒋又兼任长洲要塞司令，连任军事委员会委员，再任各军军事训练筹备委员长。可见，蒋之军事地位蒸蒸日上，异军突起。
蒋介石最终得以被任为黄埔军校校长，是有很多主客观原因的。
首先，从国民党内军事力量的发展状况来剖析。孙中山从领导革命失败的教训中逐渐认识到其主要原因，就是由于手中没有一支军队，才被南北军阀所愚弄。因此，他迫切要求建立一支由国民党亲自掌握的军队。
1917年11月，孙中山南下护法期间，利用广东省省长朱庆澜同桂系军阀陆荣廷之间的矛盾，以朱庆澜从省警卫军拨出的20个营为基本力量，成立了援闽粤军。从此，孙中山有了一支属于国民党掌握的军事力量。他兴奋地说：“粤军又为吾党今日惟一之主力。”由于这支军队同陈炯明有着历史的渊源，于是，孙中山便委任他为援闽粤军总司令。孙中山对陈炯明曾抱有很大的希望，期其能为革命效力。他在《致蒋介石函》中说：“我望竞兄为民国元年前之克强，为国民二年后之英士，我即以当时信托克强、英士者信托之。我所求者，惟期主义政策与我一致。”但事与愿违，陈炯明随着军权的增长，政治野心越来越膨胀，终于最后炮轰总统府，公开叛变。
陈炯明叛变后，援闽粤军开始分化，孙中山这时只得依靠援闽粤军副司令兼第二军军长许崇智，并委任他为本路讨贼军总司令。1923年2月下旬，孙中山正是依靠许崇智所率领的这支援闽粤军，并借重于滇、桂军阀杨希闵、刘震寰的军事力量将陈炯明逐出广州，第三次入粤，重新建立了广东革命政权。
但是，这时广东革命根据地很不巩固。一方面，陈炯明仍盘踞东江一带，虎视眈眈；另一方面，杨希闵、刘震寰骄横跋扈，反客为主，有尾大不掉之势。而许崇智所率领的授闽粤军由于收编了一些原属陈炯明的部署，成份复杂，已不十分可靠，加之许崇智沉溺酒色，无所作为。因此，这支粤军已经很难完成巩固广东革命根据地和进行北伐的任务。在这种情况下，孙中山就在苏联帮助下成立了黄埔军官学校，训练军官，以便建立一支忠诚于国民党的、更有战斗力的新军来代替粤军。那么究竟派谁来担任军官学校校长呢？在众多候选人中间，孙中山最终选定了蒋介石。
孙中山看到，蒋介石在追随以孙中山为代表的中国资产阶级民主派从事革命活动时，对孙中山和国民党是很忠诚的。蒋介石在《致胡汉民、汪精卫书》中说：“至孙先生之待人，其道义深笃，实使人没齿不能忘。”“此弟之对本党与孙先生皆不能不自勉。”1924年3月2日，蒋介石在《复上总理书》中说：“中正驽骀下乘，过蒙垂顾，知遇之隆，并世稀有如先生之于中正者。”当然这里难免有溢美之词，但多少也流露了蒋介石对孙中山的感激之情。正因为如此，当蒋介石觉察到陈炯明怀有异图时，就及时向胡汉民、廖仲恺和孙中山反映。1921年1月4日，他在《复胡汉民、廖仲恺书》中说，他对粤事终抱怀疑不安之态，对孙中山督师更不放心。今日陈炯明对总理如当做二人看待，则将来一场无结果，可以断言也。果然，陈炯明不久便公开叛乱，谋害领袖。
正在这危难之际，蒋介石应孙中山电召来到广州，登上永丰舰，同其一起应付危局。蒋介石此举决非是沽名钓誉，投机革命。试想，当时孙中山已身处逆境，胜负未卜，前途吉凶难以预料。试问在这种情况下，又有什么机可投呢？相反地，蒋介石这时能来到孙中山身边，是一件需要莫大的勇气的事情。不仅表现了蒋介石对孙中山处境的关心，而且也表明他献身革命事业的决心。孙中山对此是予以赞许的。他在为蒋介石所著《孙大总统蒙难记》题写的序言中说：“陈逆之变，蒋介石赴难来粤入舰，日侍余侧，而筹划多中，乐与余及海军将士共生死。”至于以后蒋介石及其左右，以此作为炫耀的政治资本，则应该另当别论。
孙中山之所以对蒋介石寄予厚望，还因为蒋介石是一位长于谋略的军事人才。蒋介石南下追随孙中山从事革命活动时，多半任军事幕僚，参佐军务，很少亲自指挥战斗。蒋在参赞戎机时，常能出谋划策，深得孙中山倚重。孙中山在《致蒋中正函》中倍加赞扬：“执信忽然殂折，使我如失左右手。计吾党中知兵事，而且能肝胆照人者，今已不可多得。惟兄之勇敢诚笃，（可）与执信比，而知兵则又过之。”
1922年春，正当孙中山在韶关督师锐意北伐时，陈炯明叛意日益显露，蒋介石在孙中山召开的大本营紧急会议上力主先潜师回粤，控制局势，以后再图北伐。5月初，陈炯明果然逆命作乱，使粤局势处于危急之中。蒋介石于6月1日，在《致许崇智书》中献策说：“非从速回兵，解决广州根本，决无安全和平之道；……如吾果能先发制人，则无论其集中东江，或盘踞省城，不难一网打尽。”孙中山听从了蒋介石的建议，从韶关回师广州，可惜为时已晚，未能制止陈逆叛乱。
老实说，孙中山对蒋介石的人品并不怎么欣赏，甚至有时候还极度厌恶。但是，经过长时间的合作和了解，孙中山对蒋介石的性格已多少开始适应了。尤其是在朱执信、邓铿相继亡故之后，孙越发觉得蒋之重要了。蒋从个人职业素质来讲，是军中“佼佼者”，具备了孙有心提拔他所该具有的内在资格，所差的是威望和人缘，这一点可以补救的。
关于黄埔校长人选问题，孙中山也是经过认真考虑的。孙中山首先考虑的是许崇智，许是粤军总司令，是军界的头号人物，于情于理，孙中山都应当把他作为首要人选，但据刘峙后来回忆：“许崇智力不从心，一切委之于上校参谋陈翰誉，陈目空一切，骄纵自私，处事多失公平，致使各方不满。”
除了许崇智外，孙中山还想到了另外一个实力派谭延闿。谭延闿也拥有自己的军队，并且在护法、讨贼运动中南征北战，立下赫赫战功。但谭是一介勇夫，领兵打仗，攻城掠地还行，如果让他管理军校，从事授书讲课之事，等于是将他圈囿起来，谭对军校兴趣不浓，所以也拱手相让。
剩下的便是程潜、蒋介石、李济深三人的权衡比较了。蒋的优势在于，从个人关系而言，蒋介石与孙中山有永丰舰中的患难与共，安危相仗，关系自然更近一层。从军事才能讲，蒋介石曾经留学日本，受过专项训练，并且在实际作战中，多次出谋划策，练兵布阵，脱颖而出，逐渐赢得孙中山的赏识。再说蒋介石自身也有较高的军人素质，这与在日本的刻苦训练和精神磨炼不无关系。而这正是孙中山认为军校领导必备的素质和条件。
蒋离职返乡期间，廖仲恺代理筹备委员长后，积极开展筹划工作，招生入校，制计划，编教材，布置校舍等各项工作顺利开展进行，有板有眼，一派新的精神风貌，不致于使军校的建立胎死腹中，良好的工作势态和出色的管理，也是蒋介石个人愿意重返黄埔的一个前提。与廖仲恺相比，蒋介石确实显得有些临危退缩，胸襟狭窄了。不如廖虚怀若谷，敦心仁厚。事实上，蒋介石本人在争取黄埔校长一职上，也是运用了很多手段的。
3月间，蒋介石分别给孙中山、廖仲恺等写了几封长信，发泄对联俄、联共政策的不满，表白他行为不端的苦衷，要求赋予特殊权力。他在3月2日给孙中山的信中说：“君觉自去岁以来，不可谓非就旧过渡之时期，然无论将来新势力扩张至如何地步，皆不能抹杀旧日之系统。何况新势力尚且扩张，且成败犹在不可知之数，岂能置旧日系统于不顾乎?”显然是对孙中山对共产党的信任表示不满，当然包括有为自己的党内地位抱不平的意思。
在蒋介石3月25日在给胡汉民、汪精卫的信中，自贬道：“弟本一贪逸恶劳之人，亦一娇养成性之人，所以，对于政治只知其苦，而无丝毫乐趣，即对于军事亦徒仗一时之兴奋，而无嗜癖之可言。五六年前，懵懵懂懂，不知如何做人，因此显得狂傲一些。近来益觉人生乏味，自思何以欲为人。乃觉本性所经历，无一非痛感之事。读书之苦，固不必说，做事之难，亦不必言。即如人人言弟为好色，殊不知为无聊之甚者，至不得已之事。”信中还提到他以前任职时，“始终抱定一原则，合则留不合则去之意”。
蒋介石是要以这番肺腑之言，来证明自己对朋友的真诚，从而赢得朋友们的信任。事实上，蒋介石在离职期间，并非归隐田居，不问政事了，他有机会还总是以领导者身份对军校的筹备工作指手画脚，献计献策，在致王柏龄、邓演达等人的信中，提到军官学校如果须开办，则应遵从他以前制定的规则，照常进行，不必有所变更，如有不宜之处，可与开学后随时修正，如是云云。
从中可以看出，蒋介石俨然是将自己视为军校校长，身在家乡，遥控指挥。同时也预示着蒋迟早会返粤的，只是他觉得这时归赴广东，没有什么特别的意义，能拖则拖，在等待中选择最佳时机。
黄埔学校的筹备工作，在国共两党人士的共同努力下，进展很快，已有千余革命青年前来报考，广州方面急需蒋介石归位主政。戴季陶等人也在蒋介石处左劝右说，经常提醒蒋介石机不可失，失不再来，此次绝好时机，一定要牢牢把握，日后定会凭此飞黄腾达。
3月26日，廖仲恺致电蒋介石，直截了当地提出，蒋如果再不来，一切将由廖自决。蒋看到事情已发展到关键时刻，是需要自己明确表态的时候了，急忙回电：“必来粤”，廖仲恺为了进一步消除蒋的其它疑虑，在4月3日再次复电：军校款项，弟不问支出，兄亦不问来源，经费不管，尽可安心办去。惟请即来”。这又让蒋介石吃了一颗“定心丸”。
4月14日，蒋介石与许崇智一道，由上海回到广东，谒见孙中山，请孙中山面授事宜。孙中山对黄埔军校极为重视，亲自兼任该校总理，在总理之下，另设校长负执行之责。5月3日正式任命蒋介石为军校校长，兼任粤军参谋长。
9日任廖仲恺为驻军校中国国民党党代表，组成校本部的最高领导，直隶于国民党中央委员会，下设教授部，主任王柏龄，副主任叶剑英；教练部，主任李济深，副主任邓演达；政治部，主任先后担任者是戴季陶、邵元冲、周恩来、邵力子、熊雄等，何应钦任军事总教官。
在黄埔军校的开办过程中，苏联积极支持，先后派了几十名优秀青年军官干部担任军事教育工作，并帮助制订教学计划和大纲。苏联政府除支付顾问团的费用外，拨出200万元现金，无偿地赠送给军校，8000支步枪和500万发子弹，首次运送给军校，解决了黄埔军械缺乏的问题。
1924年5月5日，在蒋介石的全面负责下，黄埔军校第一期学生开始入校编队。其中的工作之巨自是令蒋介石忙得团团转，经过大概一个多月的时间，黄埔军校的开学典礼的各项准备工作已基本完成。6月16日，是陈炯明炮轰总统府的日子，这一天黄埔军校正式举行开学典礼。
典礼仪式极为隆重，除全校师生外，还邀请广东各高级将领，高等文官以及国民党中央执监委员等500余人观礼。孙中山以大元帅兼军校总理的身份亲自主持开学典礼，并致词勉励全体师生：“开办这个军官学校，独一无二的希望就是创造革命军，来挽救中国的危亡。”希望大家“都能相互担负救国救民的责任”，“要学先烈的行为，像他们一样舍身成仁，牺牲一切权利，专心去救国”等，明确地宣布了创办黄埔军校的宗旨，并对全校师生提出更高的期望。孙中山致词完毕后，即将军校校印交给蒋介石。
蒋介石手捧校印，情绪激昂，他强烈地感受到来自各个方向目光，这些目光汇聚为一点，将他灼热烫伤。台上是殷殷期望，台下是欢欣鼓舞，所有的目光都注视着自己，他只听到主席台下的一声声欢呼，简直要将他抬上天空。但他也猛地意识到他所处的位置虽然崇高，但如果从此跌落下去，也必将摔个粉碎，要想保持这样一个位置，他必须明白“水能载舟亦能覆舟”的道理，必须为黄埔事业呕心沥血才行。
从1918年在粤军担任作战科主任到1922年10月，原粤军第二军改编为东路讨贼军、孙中山提升蒋介石为参谋长，再到1923年春，孙中山在广州成立大本营，进一步提升蒋为行营参谋长，参佐军务。蒋介石在革命军中始终是一幕僚，没有实质军事指挥权。但是在这一期间，蒋介石经过对革命实践的亲历体验，越发意识到，掌握一支真正属于自己的军队的重要性。此时，蒋出任黄埔军校校长，无疑将是自己扬眉吐气，实现抱负的难得机会，蒋会格外珍惜，全身心投入的。
蒋介石从家乡返回到广州之后，马上入主黄埔，在方方面面同时展开工作，兢兢业业，励精图治。首先和学校的教官以及入伍新生进行过多次谈话交流，问寒问暖，融洽关系。其次，蒋介石开始对军校军官和新生进行训话，加强思想教育，增强黄埔师生之理想信念和纪律观念等。4月26日，蒋对陆军军官学校担任教官的军官进行训练考核。并嘱咐“这个军官学校，是我们本党办的学校，诸君皆愿意为党尽力，原来这个学校就是本党要培植干部人才，预备将来做本党健全的干部，扩张本党势力”，对军官学校卫兵分队训话，讲述卫兵责任：“对内是维持军纪风纪，对外是担任警戒，要求士兵自行整顿，做到仪容要庄严，服装要整齐清洁。”
对第一期入伍生几次三番进行训话，要求学生参加军队生活训练，绝对服从命令，要求学生不论在校内校外，都应遵守纪律和秩序；要求学生注意卫生，放物品要整齐，还要互相劝勉，养成自识力，要求学生不单独行动，动作要划一，步伐要整齐，而且要使个人的心都归一，就是思想、精神、志趣要统一起来，要晓得军队组织的要素，包括三种，第一是统御，第二是经理，第三就是卫生。从中可以感觉到蒋介石套用日本军校那一套的痕迹。
此后又分别对军官学校下级干部进行第二、三、四训话，同样进行了纪律、职务责任、团结等相关问题的教育，再三叮嘱强调。
蒋介石对教员和学生的训话非常频繁，时时不忘对他们进行各方面的训导和教诲，正是在多次的师长、学生的接触和交往过程中，双方的感情逐渐深厚，距离逐渐接近，从这些教员和学生们的身上，蒋介石看到了自己的前程所在、希望所在，强烈地感到对这些人的倾心投入既是对他们的关怀和照料，同时也是对自己事业的资本积累。
开学后的8个月中，蒋介石先后发表讲话46次，每次都充满澎湃之情，慷慨之势，令人备受鼓舞。蒋介石还经常亲自检查教官、学员的训练与生活情况，常常在早晨起床号吹过后即直闯教官、学员的卧室巡视，睡懒觉者常被他集合起来训斥。不高高在上，总要到餐厅与教职员一起就餐，每次开校务会议时，大都由他一个人作训话般的交代，很少听到不同声音。
蒋介石当时还兼职粤军参谋长，但他把大部分精力都投在黄埔军校上，他常驻校中，朝夕与师生相处，不仅一切大计亲自擘划，就是一般规章条例，亦多亲手厘订。他的案头常置筹备录，凡有所举必随时记录。事无巨细，全凭他一人斟酌决定。
纵观蒋介石在黄埔军校的教学活动可将其总结为两个内容：
一是关于教育目的和教育理想。蒋介石认为教育目的在于造就奉行三民主义的革命军人。他说：“本党要办这个学校，就是要训练我们在此风雨飘摇、千辛万苦之中来挽救这些衰败、削、凋残、横流的劫运，拯国民于水火之中，登人类于衽席之上。本党办这个学校的目的在于此，本校同志的责任亦在此。”蒋介石认为作一个军人，应具备下列条件：勇猛威严、外危若安、临险如夷、坚忍不拔、不怕死的牺牲精神。在谈到最后一点时，蒋介石说到：“要学先烈的行为，像他们一样，舍身成仁，牺牲一切权利，专心救国，像这样子才能够变成一个不怕死的革命军人。革命军人能够用一个人去打一百个人，这种本领完全靠革命党的牺牲精神。”
二是关于教育方针和教育方法。蒋介石有两句经典名言，即“生活的目的是增进我全体人类之生活，生命的意义是创造将来继续之生命。”他说：“各位如果能够照此做法，就不会做错人了。”蒋介石认为，黄埔教育是军事教育、政治教育和精神教育三位一体的教育。根据教育内容，教育编制可分成三部：政治部负责政治教育；训练部主抓精神教育；教授部是任军事上的智育及训育军事教育。
蒋介石在对学生进行教育过程中主要突出以下几点：
一是思想教育。蒋介石既不引进苏联的一套无产阶级军队建设的理论和方法，也不汲取欧美等国的治军思想，而是挖掘中国古代历史中治军的成功典型的营养成分，以《曾国藩和胡林翼治兵语录》为重要教材。蒋介石从小就受到正统封建思想的熏陶，在成长过程中对传统文化也是兴趣盎然。曾国藩的治军方略中核心就是他自己，无论是思想上还是组织上，都要求服从于他一人的意志和命令，所以，蒋介石对曾国藩推崇备至，极力宣扬。其目的在于使自己本人的威望达到一定高度时，效法前人，最终成为那个时代的主宰。除了曾之外，蒋介石还经常引用一些封建戒律来教育学生，如墨子的“摩顽放踵利天下而为之”，“杀身成仁”、“舍生取义”等等。另外，蒋介石强调军队的等级观念。在解释军纪时说：“一定要长幼有别、上下有序、阶级次第分得明明白白，这就叫做纪纲。”
二是日常生活。蒋介石把卫生建设放到很重要的位置，在与学生的多次训话中，都对卫生的重要性再次强调，要求大家重视卫生，甚至把卫生列为军队组织的三要素之一。蒋介石的卫生意识之强烈，主要是在日本军校学习期间培养出来的，除了卫生的讲究最早移植于日本，还要求学生团结一致，勇猛威严，不怕艰难和不怕牺牲等精神。这些思想都是蒋介石受日本军事教育的启发而形成的。
三是教育与拉拢双管齐下。蒋介石在实际与学生交流过程中，非常注重收拢人心。为此，他不失时机地树立自己的威信，包括端正自己的生活作风。他不抽烟、不喝酒，每天早起监督学生是否准时起床，晚上学生是否按时就寝，表现得颇为勤恳敬业。他习惯找个人谈话，坐在办公室要学生站在他的门外，一个个叫进去问话，问长问短，问寒问暖，他通过这种方式认识了不少学生，与很多学生都建立了特殊的个人关系。有时候，学生们缺钱花，只要找他帮助，不管多少，他都会马上开支票，凡此种种，举不胜举。结果在学生中，他的威信慢慢地树立起来，形象也逐渐高大起来。蒋介石就这样以黄埔军校为基地，以一种“黄埔精神”为信仰，逐渐培养了一个庞大的以自己为核心的嫡系军事派别——黄埔系。
自蒋介石入主黄埔，他就开始了爬上权力顶峰最重要的势力积累阶段。而这一阶段中，最重要的环节就在于蒋为自己努力培养出一支战斗力强、纪律性强的面目一新的“蒋家军”。这其中最不可缺少的就是蒋在历经生死战场，日久天长积累的军事常识和对传统历史人物治军思想的钻研反思，最终形成的一套治军思想。蒋之治军思想，是传统的治军思想、苏俄红军治军原则与军事斗争实践的结合。
一是改革军队的军事编制。蒋介石行伍出身，深知合理科学的军队编制体制是有效治军的前提，1924年11月29日蒋在军校演说中指出：军队中如果乱七八糟没有一个编制，步兵有几多，工兵有几多，都不晓得，没有一个统计，那么，一打起仗来，就不能分配，亦就不能指挥，这样是没有不失败的。又说：军队有组织，一个动员令下来，就万众一心。十天后，即12月8日，蒋对军校官长学生训话时更明确地提出：“我们要希望军队好，有三件不费本钱而又是顶要紧的，第一是编制，……第二是精神……，第三就是纪律。”
为使革命军能按合理科学的编制进行组编，蒋介石令“革命军事研究会”对革命军的编制问题作专题研究。次年1月17日，蒋介石手定《革命军编制草案》，并将此草案令参谋处列号分送各团，转发所属各营连遵照办理。7月1日，蒋介石在向军事委员会上《军政意见书》中，详细规划了革命军的编制，以适应即将到来的北伐战争的需要。
之前孙中山也提出一个编制方案。一个师计兵34992人，官1162人。蒋认为这种“编制规模太大”，应有所调整。在军队编制体制方面，当时蒋介石从治军要求出发，提出了一些有价值的主张。
第一、主张军需独立，以保障军队供给。1924年12月16日蒋介石在军校所作的报告中指出，军队打仗的第一个条件，就是要军需独立。军需不能独立，练兵就无论如何练不好，现在中国军队不好，大半是军需不能独立的缘故。……到了军需独立之后，带兵官就只管带兵的事，那么，专心致志来练兵，军队一定训练得好的。”
次年12月15日，蒋在上军事委员会《改革军政意见书》中更尖锐地提出：军需独立应即实行。军需关系全军命脉，旧时军队积弊从生之地，设备偶尔未能周密，就导致贻误戎机，军需负责人倘有侵吞，更足败坏军纪。因此蒋介石拟请规定一最近时期，自某月起，各团饷项向军需局直接支领，师部军需长，只于发饷时负监督稽核的责任，各部不得于驻地自行筹款、被服、粮秣等事项，亦应由军需局实行支配发给，不得各自为政。
第二，主张和平时期撤废军长职衔，以防“军权割据”。他说：“平时军制，应以师为单位，而军与军长，不是平时设置之制，仅于战时临时增设，以便指挥作战。其理由是国民革命军作战之任务已告一段落，如果军长之职不废，积久或有尾大不掉之弊，即使事实不至于此，而形式亦难免会有军权割据之嫌”，如果北伐实行，则那时自可再行增设军长，此时裁撤，实有百利而无一害。不过，当时蒋提出这一主张，包括蒋本人亦呈请辞去军长之职，目的还在于抑制他人成为“军权割据”者，以减少日后独揽军权的障碍。
二是“勤以训练”，这是蒋介石治军思想体系中最基本的内容。蒋介石认为，军队打仗要做到孙中山所说的“隐藏瞄准”四个字，就得训练。“没有训练过的士兵，打仗的时候往往手忙脚乱，耳聋眼花，平时所学的射击方法尽都忘了，甚至子弹倒头装，枪口向后放，种种说不出的现象，在打仗的时候全会发现出来的，”因此，“要维持军队精神到冒危犯难，赴汤蹈火的一个地步，就少不了一番严重的训练。”蒋特别强调：“练兵以勤为主，耳提面命，始终不息，”“练一兵得一兵之用”。
为使处于战争环境下的革命军切实做到“勤以训练”，蒋介石于1924年8月6日以“各军军事训练筹备委员长”的身分上书军事委员会，提出军事训练计划：训练分为各军军队训练和各军事学校之训练。各军校训练，实为着手训练计划之第一步，各校校长或各校派一高级官长为训练委员与校党代表一起，以便军事与政治二方训练互相联络，并可一致进行。蒋并主张军事训练委员会之职权，“与各国之训练总监部相同。”在实施军事训练过程中，蒋介石首先强调按照操典进行严格的基本训练。他强调：“无论什么时候，你若是不依典范令做，官长就要依着那些原则来责罚你，官长如不依着典范令来教导学生，就要被学生兵士看不起。”
1924年12月30日，蒋第一次检阅教导第一团时现场讲评，指出训练“有许多细部的地方不照原则做，这不能怪士兵，要怪官长口令喝得不得法，不照操典上按部就班地去做，所以今天有许多口令不明了弄得参差不齐。”蒋还按实战需要指出操练中的问题，他说：“跃进有许多走便步，不知道弯着身子，隐蔽身体。立射是要在万不得已的时候，或者目标不见，或是有胸墙利用，才可以，此外能卧射当卧射。今天卧射太少，很不对的，要同士兵们说不这样做就被敌人打死了。”讲评最后强调：“以后随时有检阅，随时有考试，士兵们升上等兵或下士、中士、上士，都在这里面断定，尤其要注意射击瞄准。”
蒋除重视基本训练外，更重视军队的野外实战模拟对抗训练和军校毕业学生的试验演习。例如，1925年12月15日，蒋介石统领第一师在湖羊山一带进行野外对抗训练。训练结束时，蒋介石根据实战需要出发，作了讲评。讲证中分别指出训练各阶段上的问题，要求“将来实地作战的时候，总希望大家对于前后左右的纵横联络，更要确实，报告与通报要多，散兵前进，切不可密集，尤其是战略要立在自动的地位，不要受制于敌才好。”对于军校毕业生的试验演习，蒋亦从严要求。
三是“厚以教养”，是蒋介石治军思想体系中重要内容。“教养”，亦即对军人的“精神教育”。蒋对军人“厚以教养”的原因，主要是受清末湘军首领曾国藩治军方式的启迪。蒋对《曾国藩全集》、《胡林翼全集》、《左宗棠全集》、《骆秉章全集》、《李鸿章全集》深有研究，他认为曾国藩之所以能平太平军，其重要原因在于有一支兵全为他所控制的有战斗力，有凝聚力的军队。
蒋在他所辑的《增补曾胡治兵语录》的序言中写道：“夫满清之所以中兴，太平天国之所以失败者，盖非人才消长之故，而实德业降替之征也。彼洪、杨、石、李、陈、韦之才略，岂不能比拟于曾、胡、左、李之清臣，然而曾氏标榜道德，力体躬行，以为一世倡，其结果竟能变易风俗，挽回颓靡。”正因为如此，蒋介石也积极效仿那一套封建统治术，将“治心”作为“治兵之本”，以曾国藩为楷模，身体力行。“教养”措施有编纂、制定和颁布《增补曾胡治兵语录》、《新兵精神教育问答》、《本校日课问答》等一系列书籍，作为精神教育教科书。他在亲自编写的《增补曾胡治兵语录》序言中明确指出：所辑增补的曾胡语录，“虽非治兵之语，而治心即为治兵之本”。
1925年9月9日，蒋对军校第二期毕业生明确强调：“军人最要紧的是精神，现在你们将要出去教人，最要紧的几种书籍。如增补曾、胡治兵语录，本校日课问答，革命军刑事条例，新兵精神教育问答等书，都时时要看”，“不能离手”。
在战争频繁、新兵不断增加的情况下，基层官佐对新兵精神教育时有放松，对此，蒋及时发出通令，要求切实纠正。
此外，蒋介石还采取通俗易懂的方式进行思想教育。在这方面，蒋介石比曾国藩高出一筹。在革命军中，除最早颁布的《国民革命歌》广为传唱外，蒋还亲自编写了《立志歌》、《放枪歌》、《军士爱民歌》等歌曲，以激士气。他还令政治部制作各种感化图，使军人受直观形象教育。在行军作战过程中，蒋还亲自编写“军人精神教育标语”，进行散发张贴，以激励斗志。
“教养”的内容是广泛的，其主要的有二：
第一、“亲爱精诚”。这既是黄埔军校的校训，又是蒋介石精神教育的主要内容。在整个黄埔训练时期，蒋在军校、军队中的演讲、在精神教育的书籍中，反复强调这一思想。如，1924年9月18日，蒋在军校演说中说：“本校的校训，是‘亲爱精诚’四个字，就是说：凡是同志同学都要相亲相爱，诚心诚意，精益求精的来团结我们精神的意思。”
1925年12月5日，蒋为“军校第三期同学录”告成作序，序文中详尽阐述“亲爱精诚”四个字，序曰：“阋墙之祸，甚于外侮之内侵，革命之成，全凭同志之相爱与相亲。传云：‘亲亲而仁民，仁民而爱物’。革命之道，仁爱之道，亦亲亲之道也。……至诚之意，团结精神，以学校为家庭，以同志为手足，以亲亲之道而亲同志，以爱物之理而爱同志，则主义实行，其有豸乎。夫同志之共死生、同患难，其关系之密切，有甚于父子兄弟之亲也，而团体之存亡成败，乃有重于其家庭间骨肉手足之生命也。”
第二、“杀身成仁”。这是蒋介石在军人中一贯灌输的军人人生观。1924年5月8日，蒋介石就任军校校长后第一次在军校演讲中强调：“有一句要紧话，请各位听着：就是我们军人的职分，是只有一个生死的‘死’字，我们军人的目的，亦只有一个死字，除了死字之外，反面说，就是偷生怕死，如果偷生怕死，不单是不能做军人，而且是没有人格，就不能算是人。古人说：‘与其背义而生，则生不如死。’这一句话，是为一般人说的，一般人尚应如此，何况我们军人呢？”
此后，蒋介石在许多演讲中，一再要求军人在任何情况下都要有“杀身成仁”的精神，如，1924年5月24日蒋在军校演说中说：军人“在万不得已的时候，或是被敌人拿去做俘虏，受侮辱的时候，如果到了这个时候，与其投降敌人，让敌人来侮辱我革命军人高尚洁白的身体，毋宁我先来自杀。……与其为我个人来污辱神圣不可侵犯的主义，那不如我杀身成仁，以保我革命军人的人格。所以我们革命军人头可断，骨可折，而主义是不可为人来侮辱的。”
四是“严以军纪”，这是蒋介石治军思想体系中的核心内容。蒋介石在就任军校校长后与全校师生第一次见面时所作演讲中就指出：“这个学校是军官学校，而且是本党办的，我们本党同志，对党既要严守纪律，对我们本校是要严守军纪，所以我们比普通党员多守一重军队的纪律，凡是纪律是非严肃不能维持的。”此后，蒋无论对军校师生演说，还是对军队官兵的训话，屡屡强调“严以军纪”的主张。
蒋介石指出：“军纪的根源是三民主义，军纪即以三民主义为中心。”军纪为什么要“从严”？蒋介石说：“在军队里，不是用军纪来维持，这军队就不成其为军队，”若军队“军纪废弛，士气颓丧，不变为旧式腐败军队不止，则革命军精神扫地殆尽，其将何以对我之上下同志，而实行我总理救国救民之三民主义呢？”
在黄埔训练时期，蒋为使军纪切实从严实施，除一再发表有关“严以军纪”的演讲外，还手订、颁发了一系列军律，发布各种饬令、训令、通令等，并督促切实执行。粗略统计一下，蒋在1924年至1925年两年间先后手订、颁发的有关军纪方面的法令、条例、训令近20项。
这里值得一提的是《革命军连坐法》。蒋第一次公开提出在军队实施“连坐法”主张，在1924年12月25日对教导团士兵的演讲。他说：“军队里面是要讲阶级的，阶级的意思就是和上楼的扶梯一样，一层一层数上去的，要这样才有上下之分，才有系统，如果没有上下之分，谁应听谁的命令呢？所以阶级是军队里面最当遵守的……比方打仗的时候，上官没有命令，一班人同退，就枪毙班长，一排人同退，就枪毙排长，一连人同退，就枪毙连长，一直至于一营一团退下来，就枪毙营长团长，……以后打仗的时候，有了这条连坐的军法，只要看见团长、营长不走，就大家都不敢走，打死就打死，何况官长是有学问的，大家跟着官长去打，是一定不会打败仗的。”
次年1月6日，正式制定《革命军连坐法》。这个连坐法一行，就使全军之中，人人似刀架在头上，似绳子缚着脚根，一节一节，互相瞻顾，连坐牵拉，谁也不能脱身。连坐法在革命军实施后，起到了预期的效果。淡水之役，有连长自行退却，立刑于军前，此后无敢退者。棉湖之战，教导第一团全团几覆，士兵无一人后却，虽是官兵之耐战，而连坐法之实行，也是有制约作用的。
综观这一时期蒋介石“严以军纪”的有关内容，最主要的内容集中在两个方面。
第一，强调“服从官长命令”，官长与士兵同样绳之于军纪。“服从官长命令”是军人的天职，蒋介石要求下属与士兵在任何时候，尤其是在战场上，“前进后退，须听命令，切不可违反上官意向，要知退后者不死于敌弹，必死于军法。”蒋介石要求官长对部下一定要“严厉”，“部下做错了事，决不能让他挨过，不但是要当面责备，并且要照纪律严办。”与此同时，蒋介石要求“官长为士兵表率，须有勇敢精诚之气，方能鼓励士兵，否则反为士兵窃笑背骂。”如上官犯军纪一定要受军纪裁判，所以官长士兵都是一样的。
蒋介石“严以军纪”不但有言，更有行。如，1925年5月20日，蒋介石对于在东征中违犯军纪的官兵一律从严执法，将在战场上潜逃的排长郭渠川，副排长董国柱，班长杲长胜，士兵黄玉琳、张荣兴等一起处决。
第二，强调军人必须“爱护百姓”，不许军人侵犯百姓利益。蒋在军校开学后的一周，给军校师生作题为《仁民爱物为军人之要道》的演讲。他说：“军人第一要爱护百姓，第二要爱惜物资。”“古人说：‘亲亲而仁民，仁民而爱物，’仁民就是爱百姓，爱物就是爱物资。要知这二件事，是军队的命脉，如果不能仁民爱物，就是以致我们军队的死命。以后你们对于百姓，无论男女老幼，都要亲爱小心，不可稍有轻侮的举动。对于物资，无论一草一木，都要珍惜，不可稍有暴弃的行为。”
蒋认为，军饷来源于百姓，吃百姓军饷的就应保护百姓利益，满足百姓要求。蒋说：“人民因为要挽救他们的生命和权利，才来给我们的饷；我们要争回人民的生命和权利，才有这种资格去吃他们的饷，不然，他们又何苦把血汗来养我们呢？如此看来，我们应该要如何保护人民呢？……现在军阀的军队，不但不是去保护人民，报效国家，而且反要到人民家里去奸淫掳掠，抢劫残杀，像他们这种样子的行为，真是违背天理，全无心肝了，还可以算是人类吗？”
蒋还认为，实现革命军的“救国救民”宗旨，军人必须“爱护百姓”。蒋说：“我党革命之目的，在救国救民，其成败亦在于得民心与否为断。”“革命军之功效，不仅在结聚革命群众而成军，并且能散军于俄顷之间，使复返于有训练之革命群众。……我革命军人本以解放人民痛苦为职志，为解除人民之倒悬，虽牺牲生命犹所不惜，个人权位更何足计。若抗命盘踞，以害人民，又与反革命军有何差异。”基于这种认识，蒋在黄埔训练时期，一再严令官兵“不要像土匪式的军队一样，抢劫财物，扰乱人民，”宁可挨饿，不要到民间去取东西吃，宁可自己挑担，不要拉挑夫，”如有骚扰人民，违犯军纪者，上自校长，下至士兵，人人都可以杀他。”
在军队行军作战中，蒋一再严厉申令“保护百姓”。如1925年6月革命军回广州，8日，蒋发出《申明军纪令》，令曰：“本军回到省城，第一要保护人民，维持治安，竭尽我们革命军人救国救民救本党的责任，不任长官士兵，如敢动民间一草一木，必照军法从事，并治其直属长官约束不严、违犯纪律之罪。特此申明，望饬各将士凛遵毋违！切切！此令。”
由于蒋介石严厉贯彻“保护百姓”的“严以军纪”的主张，革命军在二次东征作战中都得到广大人民的拥护和支持。1925年11月10日，蒋介石对第一师第二、三团战后训话中满意地指出：“这次作战，第一师各团无论官长士兵，通通能够坚耐劳苦，有时因为行军迅速，后方粮食不能接济，被服不能如期补充，各位弟兄都能忍受下去，宁可自己受尽饥寒的痛苦，而不骚扰百姓一草一木，因此军队无论到什么地方，一般人民都热烈的来欢迎。我们军队能做到这一点，比较等什么胜利都好得多，本军长对于第一师各团的官长弟兄们，是非常满足，而且表示十分的敬爱。”
五是“指导之以主义及政治观念”，这是蒋介石治军思想体系的重要内容，也是蒋治军思想区别于中国传统治军思想的根本点。所谓“指导之以主义及政治观念”，即以三民主义及其观念作为军队的指导思想。
这一治军思想的产生，首先在于国共合作后形成的政治氛围所制约，也就是说，蒋介石当时治军若不以三民主义为指导，那蒋就难于在军校校长、党军司令官职位上呆下去。蒋的这一治军思想是顺应国共合作后所形成的政治大势的必然举措。
其次，蒋介石之所以主张指导军队以三民主义及其政治观念，在于蒋认真吸取了中外治军的经验教训。
第一，蒋介石目睹了民国初年北洋军阀部队以及西南旧军阀因无主义作为指导而带来的严重后果。1924年6月，蒋在一个演说中说道：“十三年来，中国的军人被袁世凯辈弄坏了，他们专用金钱来收买军人，军人变为他们个人的利器，专供他们做家狗，如此久而久之，相习成风，就变成今日这个亡国的现象。”对于当时的西南军队，蒋认为，这种军队“名为革命军，实则内容腐败，甚于旧式”，军人“心目中几曾有革命意义？一切权利，咸为个人，军队为个人而设，事功为个人而图。”
第二，苏俄红军的政治治军的成功经验，是蒋在革命军中以主义为指导的主要原因。1923年8月，蒋介石率“孙逸仙博士代表团”赴苏俄考察政治、军事、党务。这次考察，蒋对苏俄红军的政治工作是推崇备至的，认为：“他们红军有许多地方用不着打仗，而使得敌人心悦诚服来投降，因为他们一举一动，都以主义为前提，都以精诚来团结。”因此，作为自称为孙中山忠实信徒的蒋介石，自然会效法苏俄红军的政治治军方式，对革命军以政治观念和某种团队精神教育在先。
蒋介石在军校和军队中的训话里，在书告中，屡屡强调军队应以三民主义为中心。1924年6月24日在军校演讲中说：“真正的革命军人，是要以信仰主义，服从纪律为职责”；7月30日在军校训话中的“革命”调子更高，他说：“以后我们党员对于三民主义绝对要服从，不准有一毫怀疑，而且不许有批评三民主义的态度，如果有怀疑三民主义或变更三民主义的人，就是叛党，那都是我们的敌人，”次年7月7日，蒋在向军事委员会写的“六大计划”书中提出：“施以严格的政治的军事的教育与训练，使成为有主义之军队，为人民痛甘而奋斗，为人民利益而努力。”蒋介石为标榜自己是孙中山的忠实信徒，一生都高唱三民主义。然不管哪个时期，蒋的那一套都只是挂羊头卖狗肉而已。
为贯彻这一治军思想，蒋介石效法苏俄红军在军校和军队中普遍设置政治部和建立党代表制度。蒋介石指出：政治部的任务是负责“主义上的训育和智育”；党代表实施政治训练，“使一般官长莫不了解党之主义，革命环境，恪守党纪军纪，以期凝集团体精神，提高战斗能力。”为提高军队的凝聚力和战斗力，蒋介石曾表示坚决实施党代表制度，他说：“中国军队党代表制度是第一次施行，本校长对此制度志在必行，常以为宁可无军队，不可无党代表。”正因为如此，在黄埔训练时期，蒋介石呈请任命了一批共产党员、国民党左派担任各级政治部主任和各级党代表。各级政治部与党代表的政治工作，有力地保证了这一时期军事斗争的胜利。
从上可以看出，黄埔训练时期的蒋介石，其治军思想是系统而又丰富的，其治军活动是勤奋的，这为他个人政治、军事上的“发迹”打下了基础。蒋介石这一时期的治军思想，在不久的北伐战争中进一步得到实施，但到了1927年4月12日政变后，蒋介石逐渐抛弃先进、科学的治军原则，掺入了法西斯式的治军思想，把国民党军队培植成维护其独裁统治的工具。
