献帝兴平二年(195)春，太祖率兵袭击定陶，因济阴太守吴资奋力保卫定陶南城，而未能攻克。
正巧吕布来到，太祖又将他击败。
这年夏，吕布派薛兰、李封驻守钜野，太祖前往偷袭，吕布带兵救援，但白话二十四史薛兰已败，吕布只好退回，薛兰等人被斩首。
吕布又会合陈宫所带一万多人从东缗赶来，此时太祖兵少，设下伏兵，大破吕布。
吕布连夜逃走，太祖追击，又攻克定陶，分兵驻守平定诸县。
吕布向东投奔刘备，张邈与吕布同行，让他弟弟张超带家属驻守雍丘。
这年八月，太祖围攻雍丘。
十月，天子封太祖为兖州牧。
十二月，雍丘守军溃败，张超自杀身亡。
太祖诛杀张邈三族。
张邈前往袁术处请救兵，结果被他的部下所杀。
兖州平定后，挥师东进，攻打陈国。
这一年，长安城中大乱，献帝东迁，护卫军在曹阳被乱党打败，献帝渡过黄河，到达安邑县。
汉献帝建安元年(196)正月，太祖到了武平，袁术任命的陈国国相袁嗣向太祖投降。
太祖准备去迎接献帝，众将中有人产生疑虑，惟有荀。。、程昱极力劝说，便派曹洪带兵西行，迎接献帝，卫将军董承和袁术部将苌奴据险阻止曹军前进。
汝南、颍川一带的黄巾何仪、刘辟、黄邵、何曼等人，都有数万之众。
当初追随袁术，后又依附孙坚。
二月，太祖派兵征讨，大败贼军，刘辟、黄邵被斩首，何仪投降。
献帝封太祖为建德将军，六月，又升任为镇东将军，封为费亭侯。
七月，杨奉、韩暹护送献帝回洛阳，杨奉另派兵驻守梁县。
太祖便赶到洛阳，保卫京都，韩暹逃走。
献帝授予太祖符节、黄钺，让他统领内外诸军，领尚书事务，总揽朝政。
此时洛阳城已残破不堪，董昭等人力劝太祖迁都许县。
九月，献帝车出頧辕关，向东进发。
献帝任命太祖为大将军，封为武平侯。
自从献帝被董卓威逼西迁长安，朝廷日渐混乱，直到此时，各项祭祀制度才又确立起来。
献帝迁都许县时，杨奉准备在梁县拦截，但错过了时机。
这年十月，曹公领兵征讨杨奉，他南逃到袁术那里，于是曹公进攻他在梁县的驻军，占据了梁县。
这时献帝封袁绍为太尉，袁绍以职位在曹公之下而深感耻辱，不肯接受。
曹公便辞去自己的职位，把大将军之职让给了袁绍。
因此，献帝任命曹公为司空，代理车骑将军。
这一年，曹公又采纳了枣祗、韩浩等人的建议，开始实行屯田制。
吕布袭击刘备，攻克下邳。
刘备投奔曹公，程昱劝说曹公:“依我看刘备有雄才大略，又深得民心，不会久居人下，不如趁早除掉他。”曹公回答:“如今正是招揽贤才之时，为杀一人而失天下人心，得不偿失。”张济从关中逃到南阳，他死后，侄子张绣统领他的人马。
建安二年(197)正月，曹公到达宛县。
张绣投降，事后又后悔，重又反叛。
曹公前往讨伐，遭到失败，自己被流箭射中，大儿子曹昂、侄子安民被杀死。
曹公退回舞阴县，张绣率骑兵抄袭，被曹公击败。
张绣逃往穰县，与刘表合兵。
曹公对众将说:“我让张绣等人投降，却犯了没有立即扣押人质的错误，所以遭到了失败。
我明白了失败的原因，请大家看着，从今以后我不会再失败了。”便撤兵回许都。
袁术准备在淮南称帝，派人告知吕布。
吕布扣留了他的使者，把他的信呈送给朝廷。
袁术大怒，派兵攻打吕布，被吕布击败。
这年九月，袁术率军进犯陈国，曹公率兵东征。
袁术听说曹公亲自出马，弃军逃走，留下部将桥蕤、李丰、梁纲、乐就;曹公一到，便击败了桥蕤等人，把他们全部斩首。
袁术逃回淮南，曹公回到许都。
曹公从舞阴回来以后，南阳、章陵等县重新反叛，归附张绣，曹公派曹洪去征讨，师出不利。
曹洪撤军，驻守叶县，又多次遭到张绣、刘表的袭击。
这年十月，曹公亲自南征，来到宛城。
刘表的部将邓济占据湖阳，曹公攻下湖阳，活捉邓济。
又一举攻下舞阴。
建安三年(198)正月，曹公回到许都，初次设置军师祭酒之职。
三月，曹公在穰县包围了张绣。
五月，刘表救援张绣，派兵切断曹军的后路。
曹公撤退，张绣追来，曹军不能前行，于是结成连营，得以慢慢前进。
曹公在给荀。。的信中写道:“贼军紧追我军，虽然我们每天只能走几里路，但我算计好了，到安众县时，一定会打败张绣。”到了安众县，张绣和刘表联军守在险要地方，曹军前后受敌，曹公派人乘天黑在险要处挖凿一条地道，把辎重物资全部偷运过去，又设下伏兵。
此时已天亮，贼军认为曹公已逃走，全军追赶。
曹公便派出步兵、骑兵两面夹攻，把贼军打得大败。
七月，曹公回到许都。
荀。。问曹公:“战前您料定一定会打败贼兵，有何根据呢?”曹公回答:“敌人阻止我回归的部队，与我背水作战，我由此而知一定会胜利。”吕布又帮助袁术，派高顺攻打刘备，曹公派夏侯。。去救援，曹军失利。
刘备被高顺击败。
九月，曹公东征吕布。
十月，大肆屠杀彭城的守军和百姓，活捉了彭城国相侯谐。
曹军继续前进，来到下邳。
吕布亲自率骑兵迎战，结果被曹公打得大败，他的勇将成廉也被活捉。
曹军乘胜追击，直逼城下。
吕布十分害怕，想要投降，遭到陈宫等人的劝阻，他们一边向袁术请求救兵，一边鼓励吕布出城迎战，再次失败后，退回城中坚守。
曹军攻城，一时难以奏效。
此时因连续作战，曹军已疲惫不堪，准备收兵，便白话二十四史采用荀攸、郭嘉的计谋，挖开泗水和沂水，淹灌下邳城。
过了一个多月，吕布的部将宋宪、魏续等人抓住陈宫，献城投降，曹公活捉吕布、陈宫，把他们全部杀掉。
太山郡臧霸、孙观、吴敦、尹礼、昌。。等人的队伍，在吕布攻打刘备时，都跟随吕布。
吕布失败后，曹公擒获了臧霸等人，对他们盛情款待，还分割青州、徐州靠近海边的地方委任他们治理，又从琅笽、东海、北海三个郡国中分出部分地区，设置城阳、利城、昌虑郡。
当初，曹公做兖州牧时，任命东平人毕谌为别驾。
张邈叛乱，劫走了毕谌的母亲、弟弟、妻子和儿女，曹公便辞退毕谌，对他说:“你的老母亲在叛贼那里，你也可以离开我。”毕谌向曹公叩头，表示决不因此而怀有二心，曹公十分赞赏他的行动，并感动得流下了眼泪。
毕谌离开曹公后，就跑到张邈那里，归附了张邈。
等到吕布被打败，毕谌被活捉时，众人为他担心，曹公说:“凡是孝敬父母的人，难道不也是忠君之人吗?这正是我所需要的人。”封他为鲁国国相。
