1859年1月7日，出生在直隶（今河北）河间县西史经村。
1866年，7岁入本村私塾读书，5年后入其外公家所在地三十里铺毛公书院读书，1876年结业，考试名列前茅。
1881年到保定莲池书院进修2年，因家境艰难，1883年辍学回家。
1884年只身去大沽口投淮军，开始军旅生涯。
1885年进北洋武备学堂学习，每次考试都名列前茅。在学习期间，曾回原籍参加科举考试，考中秀才。
1890年北洋武备学堂毕业，被留校任教。
1893年投聂士成军中当幕僚，中日甲午战争前夕，随聂士成赴东北和朝鲜等地考察和测绘地形，编成《东游纪程》一书，被任命为该军军械局督办。甲午战争后，抄录和整理了几大本“兵书”，被袁世凯视为“鸿宝”，被委任为督操营务处总办，与段琪瑞、王士珍称为北洋“陆军三杰”。
1899年，冯国璋镇压义和团为清朝“立功”，次年由袁世凯保补用知州，随袁世凯入鲁，组成武卫右军先锋队20营。
1901年为袁世凯保定军政司教练处总办。
1901年11月，升为补用知府并加盐运使用权衔。
1903年，担任清政府练兵处军学司司长，亲手培养了一批具有浓厚北洋派系观念的军官。
1906年，署正黄旗蒙古副都统兼陆军贵胄学堂总办，与满族亲贵建立了密切联系。
1907年至1911年，一直任军咨使，曾条陈时事数万言，未被采纳，由是“钳口结舌”。
1911年为第一军总统，南下镇压武昌起义，在湖北按兵不动，迫使清廷起用袁世凯。
1911年11月1日，出任直隶都督兼民政厅长。
1913年12月16日，出任江苏都督，同年晋升陆军上将，后又授以宣武上将。袁世凯死后，为副总统，仍兼江苏督军。
1917年7月，以副总统代理大总统，通电讨伐张勋。张勋战败后，冯国璋依法将大总统职权还予黎元洪。
1918年8月13日，通电辞职。
1919年返回河间故里。
1919年12月28日病逝，终年60岁。
