蒋纬国生母是一位名叫金子的日本女子，1916年10月6日生下蒋纬国难产而亡。蒋纬国由日人山田纯太郎带至上海，被蒋介石收养。蒋介石视蒋纬国如己子，并将其交姚冶诚抚养。
由于蒋介石早年与妻子毛福梅感情恶化，大部分时间在上海、宁波、奉化居住，而很少回溪口，因此，蒋介石与少年时代的蒋经国相处时间不多，父子间缺少心灵沟通，父子关系相对冷淡。相较之下，蒋纬国自小与蒋介石相处时间颇多，感情甚深。
1937年蒋经国由苏联回国后，父子间相处的时间日益增多，蒋介石对蒋经国的了解也日益加深，父子感情因而有所增进。然而，蒋介石在日记中对蒋经国的记述仍停留在言行举止层面，在感情上仍不够细腻，更谈不上与蒋纬国相比。比如1938年10月南昌会战前夕，蒋介石在南昌接见将领，蒋经国由赣州赴南昌拜见父亲。父子相见，分外高兴，但蒋介石在日记中却轻描淡写地说：“与经儿在南昌相叙。”然后，笔锋一转说：“久未接纬儿函电，未知其身心平安否，无任系念。”字里行间仍见厚此薄彼的差别。直至1940年代初期，蒋经国在蒋介石心目中才有了和蒋纬国一样的位置，从蒋介石的日记中才看不出他对两个儿子在情感上有厚此薄彼的差异。
然而，随着时间的推移，蒋介石对蒋经国的感情日益加深，并逐渐在党政军方面对蒋经国委于重任，予以历练。如1944年5月6日，蒋介石在蒋经国的陪同下视察中央干校，其在日记中说：“青年团干部学校开学典礼已在五五节举行，此或经国为国尽忠，继承革命事业之发轫乎。”之后，蒋经国日益成为蒋介石实施内政外交的重要助手。如1945年10月出任东北特派员、1945年底代表蒋介石访问苏俄、1948年8月前往上海督导经济管制等。尤其在蒋介石众叛亲离，被逼第三次下野后，蒋经国始终侍奉左右，患难与共，成为蒋介石最得力、最可信任之人。迁台之后，蒋介石对蒋经国的培养更是迫切，让蒋经国“接班”的迹象日益明显。
当然，蒋介石在培植蒋经国的同时，也给了蒋纬国发展的机会。蒋介石一直想让蒋纬国做一名真正的军人，在他的推荐下，蒋纬国先后在德国慕尼黑军校、美国陆军航空对空战战术训练班和美国陆军装甲兵训练中心学习。1941年回国后，蒋纬国在胡宗南的部队任职。1945年12月，又调装甲兵教导总队战车第四团任中校团副，1950年被任命为装甲旅少将旅长，1958年升任装甲兵司令，直属陆军总司令彭孟缉。
装甲兵是一支兼具机动性与进攻性的部队，它不像空军、海军那样需要大量的后勤支援、复杂的技术要求、精密的通信设备；它不受气候地形的限制，行进速度快疾，因此它的机动性极强；它火力集中，杀伤力大，再加机动性极强，所以它的进攻性极强；它自身具有相当的防卫能力，再加上机动性、进攻性极强，所以不像其他军种那样容易拦击和互相制约。装甲兵在台湾是一支非常重要的部队，从固守台湾的角度讲，装甲兵无疑是一支反登陆、冲击滩头阵地的理想部队。同样，在陆军步兵部队或其他军兵种出现叛变时，装甲兵也绝对是一支最好最快的镇压力量。这一点，军人出身的蒋介石当然非常清楚。因此，他非常重视装甲兵的建设，为以防万一，蒋介石特地让蒋纬国出任装甲兵司令。
正因为蒋纬国出掌装甲兵，又长期在军队中任职，深知军权重要的蒋经国，对弟弟也怀有戒备之心，并处处防止其势力的扩张。
早在1955年，蒋介石曾计划让蒋纬国出任“国防部”第二厅厅长，但蒋经国知道后，就阻止了蒋介石的任命，而是让蒋纬国到毫无职权的第三厅任副厅长。蒋纬国后来回忆说：
本来父亲要我到第二厅当厅长，后来哥哥知道以后，就跟父亲说：“第二厅能讲英文的人比较多，第三厅一个都没有，弟弟还是到第三厅比较好。”结果父亲就着了他的道，把我改调到第三厅。
1964年，蒋介石又任命蒋纬国为“陆军指挥参谋大学校长”，并负责筹备“陆海空三军大学”，其目的是希望所有国民党陆海空三军高级将领均成为蒋纬国的学生。中国传统最重师生关系，谁抓着了军队中的师生关系，谁就成功了一半，蒋介石自己就是以黄埔军校校长起家的。然而，就在这一年，装甲兵却发生了一起意外事件，并在蒋经国的政工人员推动下，被定性为“湖口事件”，而事件的主角就是蒋纬国的亲信赵志华。赵志华是“中央陆军军官学校”第十期学生，后到美国西点军校专攻装甲作战课程。抗战时参加远征军，编入新一军装甲团。抗战胜利后被收编到装甲兵部，成为蒋纬国的部下。迁台后，经蒋纬国向蒋介石保荐，赵志华先后升任装甲一师师长、装甲兵少将副司令。
1964年1月21日，装甲兵副司令赵志华在湖口基地主持装甲兵第一师例行战备检查。在部队集合训话时，他突然发表反常讲话，并对部队说：“台北发生了政变，我们的领袖在台北遇难，被包围，我们现在要赶快到台北去救领袖，装一师有谁愿意跟我走，我们马上就出动，到台北去勤王。”结果，赵志华当场被捕。蒋纬国认为，赵志华之所以如此，是因为他精神分裂引起的，属于个人事件。然而，事件在政工人员的办理下，被认定为“兵变”。蒋纬国认为，政工人员之所以要把事件升级，就是为了打击他。他说：
没有想到，第二天，刘总司令突然来一通电话叫我到总部。我到了之后，刘总司令说：“老弟啊，都变了。”我说：“怎么了，发现新资料了吗？”他说：“不是的，这次他们蓄意的要把它报成湖口事件，我也没有办法扭转现在总政战部把案子接过去，一大批政战人员论功行赏，一连串的就把这个案子说成是兵变，还说幸亏有政战人员，使部队不至于酿成大祸。”虽然我已离开装甲兵，有心人士还要藉机打击我。事情有这样的发展，实在是出人意料。
“湖口事件”使蒋纬国在装甲兵的势力遭到了蒋经国的清洗。蒋纬国长期经营装甲兵，因此装甲兵成了他的势力范围，他人不敢染指，连无处不到的蒋经国也未能插足装甲兵。在装甲兵内部，人事关系、军官晋升，都是以司令蒋纬国为中心，唯其意志行事。“湖口事件”时，虽然蒋纬国已离开装甲兵，但其影响还在。事件不久，蒋经国升任“国防部”副部长，因此，他开始直接指导装甲兵的清理、整顿工作，装甲兵从此由蒋纬国移到蒋经国的门下，蒋纬国和装甲兵的紧密联系就此结束。
蒋介石当然不相信蒋纬国会参与其事，甚至不相信赵志华是真叛乱，但他从这件事情上却认定蒋纬国“识人不明”。很多年以后，蒋介石还对蒋纬国说：“纬国，你不论是学术，不论是工作，都很努力、认真，一切成绩都很好，就是识人比较差一点”，“譬如说湖口出的这件事情，照理赵副司令在你指挥下已经很久了，这样的人怎么还留在装甲兵呢？你识人是不够的”。可见，这起突发事件严重地影响了蒋纬国的仕途。很长时间，蒋介石对蒋纬国的观感一直未变。1968年，蒋介石在日记中说：“纬国未得批准，擅自在‘立法院’报告往访西班牙情形。此儿招摇欺妄，屡戒不改，应予严处，即记大过一次，并撤其陆军参大校长之职，调‘国防研究院’受训。上午，致函经国，处治纬国招摇与不法行为，先记大过一次，并另候处治。”此则日记说明，蒋纬国曾多次受到蒋介石的训诫，而此次处分尤为严厉。事实上，自从“湖口事件”后，蒋纬国就停止了晋升，一直挂着中将的军衔，直至蒋介石去世后，在宋美龄的干预下，才晋升为上将。
