公元前202年2月，刘邦兑现了攻击项羽时的诺言，封韩信为楚王，封彭越为梁王。
受封的韩信和彭越感恩戴德，联合燕王臧荼、赵王张敖（其父张耳亡故）、韩王信、衡山王吴芮，联名共同上表给刘邦，请他即位称帝。朝会上，刘邦让群臣讨论韩信等诸侯王的联名表奏。刘邦说：“吾闻帝贤者有也，空言虚语非所守也，吾不敢当帝位。”群臣皆曰：“大王起微细，诛暴逆，平定四海，有功者辄裂地而封为王侯。大王不尊号，皆疑不信。臣等以死守之。”刘邦三让，群臣三请。之后，刘邦说：“诸君必以为便，便国家。”意思是：“既然你们大家都觉得这样有利，那我就勉为其难吧。”
公元前202年2月28日，刘邦在山东定陶汜水之阳举行登基大典，定国号为汉，是为汉高祖帝，以吕雉称皇后，刘盈称皇太子。
即位后，刘邦又加封英布为淮南王，把衡山王吴芮迁为长沙王，让他负责招抚秦朝滞留在两广的兵将所建立的南越国。正要考虑临江王共敖的时候，不料其子共驩是项羽的崇拜者，为项羽而起兵叛汉。这屁股还没坐稳，就有人作乱，于是刘邦命卢绾、刘贾率兵讨伐，很快将共驩打败并擒获，将其杀之于洛阳，临江侯国不再续封。
之后，刘邦置酒洛阳南宫，对众人说：“列侯诸将都要畅所欲言，我之所以能拥有天下，什么原因？而项羽失掉天下又是因为什么？”高起、王陵说：“陛下慢而侮人，项羽仁而爱人。但是您用人攻城略地，得到的都赏赐大家，能够与大家共享利益。项羽则妒贤嫉能，功者害之，贤者疑之，战胜而不予人功，得地而不予人利，此所以失天下也。”刘邦说“你们只知其一，不知其二。运筹策帷帐之中，决胜於千里之外，我不如张良；镇国家，抚百姓，我不如萧何；连百万之军，战必胜，攻必取，我不如韩信。这三位都是人中俊杰，而我却能使用他们，这才是我拥有天下的原因。项羽有一范增而不能用，所以他被我擒获。”
刘邦的自我认识是非常准确的，他虽然上过书院读过书，也练了些三脚猫功夫，但是生性放浪不羁，吃喝玩乐五毒俱全，才学根本不如张良、萧何、韩信。但也正是因为张良、萧何、韩信等都具备某种才能，所以为人处世不免思虑再三瞻前顾后，比如沛县起事的时候，萧何和曹参成为首领的可能性都打鱼刘邦，但是两人全都选择放弃，事实证明他们放弃是对的，因为他们只能在某个领域或专业施展才能，而不能驾驭各具心思的大众，能够凌驾天下群雄的，唯有“我是流氓我怕谁”的刘邦。刘邦的放荡不羁，从另一个角度讲就是豁达，能够拿得起放得下，对一时成败得失满不在乎，之所以这样才能在项羽千百次打击下仍然屡败屡战，成为打不死的小强，最终脱颖而出。
即便当了皇帝，其实具体事务他也不管或不耐烦管，也许是自知管不好，因为他之前的履历不过是只当过一个小小的亭长，他把这些艰巨细致的工作全盘交给了萧何，让萧何看着办，他要做的就是当老大，人心不古，他只需要在这众多的“不古”中执掌平衡。也正是因为他并没有什么雄才大略，所以才没有也不可能像秦始皇那样唯我独尊，将天下一切都操于自我之手，以一己私智驾驭天下，而是把诸事交与了萧何们，让他们根据社会需要去摸索，因此大汉江山奠定伊始，便是能够顺应天下的王朝。中国成为统一帝国的开端是秦朝，我们中国的政治体制和制度也是秦朝开创的，但它那么命短一闪而过，东西两汉却存续长达八百年，我们中华名族从此就叫做了汉人、汉族。
汉朝的江山固然是刘邦打下的，但汉朝的政治基础，却是萧何奠定的。这个萧何，因为是出身与县政府秘书长的缘故，对管理各项事物具有浓厚兴趣，甚至到痴迷的程度，否则攻入秦都咸阳后，别人感兴趣的都多是金银财物和美女，何仪他却偏偏急如星火地赶往丞相御史府，抱出一大堆户籍、地形、法令等图书档案呢？萧何此举，令全军上下无不佩服，连刘邦都惭愧地说：“萧何确是异才，不枉我提拔他一场。”萧何收藏的这些秦朝的律令图书档案，使刘邦集团对天下的关塞险要、户口多寡、强弱形势、风俗民情等等了如指掌，为制定正确的方针政策和律令制度找到了可靠的根据，对日后西汉政权的建立和巩固，起到了巨大的作用。
刘邦出征项羽时，他只管前方的事，萧何坐镇关中，实际上行使了汉王辖区最高管理者的职能。由于几经战事，这时的关中已是满目疮痍，残破不堪，秦都咸阳被项羽放火烧了三个月，已成一片瓦砾。萧何留守关中，安抚百姓，恢复生产，全力收拾关中残破局面。他重建散乱的秩序，对百姓施以恩惠。他还让百姓自行推举年龄在五十岁以上、有德行、能做表率的人，任命他们为“三老”，每乡一人；再选各乡里的三老为县三老，辅佐县令，教化民众。由于萧何施政有方，从而使关中社会经济迅速得到恢复，建立了稳固的后方，保障了前线的需要。刘邦兵败荥阳的时候，关中壮丁多数已被征发，萧何便调拨老弱及不到服役年龄的少年到荥阳增援，刘邦这才得以重振旗鼓，与项羽大军相持于荥阳、成皋一带。当时，萧何坐镇关中，征发兵卒，运送粮草，供应汉军；侍奉太子，制定法令规章，建立宗庙秩序。刘邦几次战败弃军逃跑，萧何若稍有二心，便可置刘邦于死地。但萧何每次都征发关中兵，补足汉军缺额，刘邦也因此得以重新振作，越战越强，终于逼得项羽兵败垓下，自刎乌江。汉朝江山未定，萧何已经积累了足够的组织管理经验，因此大汉王朝甫一建立，就具备了成熟的管理基础。
正是由于“无才”的刘邦与多才的萧何这一对组合，从而使得大汉王朝所形成和传承的统治风格大大不同于秦朝。秦始皇统一天下以后，把商鞅变法的成果推向全国，他也由此成为一位权力空前的统治者。他做的第一件事，就是让大臣们给自己起一个新名号。秦始皇在下达诏书时就明确说让大臣们讨论“帝号”，而不是讨论“王号”，认为自己已经超越了“王”，而与“帝”并肩而立。中国上古有三皇、五帝、三王。“三皇五帝”是上古传说中的领袖，“三王”是信史中比较确切的夏朝的开创者大禹、商朝的开创者商汤，周朝的开创者周武王。秦始皇已经不屑于和三王并立，而要与五帝同辉。大臣们则更是心领神会，既然秦始皇自比五帝，那就干脆就给他再抬高一级，直接和三皇并立。于是李斯代表大臣们向秦始皇建议，以后您就叫“泰皇”吧，理由是上古时期的“三皇”泰皇最为尊贵。秦始皇说保留这个“皇”字，再加上一个“帝”字，以后我就叫“皇帝”了。他的这个决定，背后大有深意。秦始皇取三皇的“皇”字，五帝的“帝”字，意思是自己不仅高过五帝，甚至也高过三皇，堪称古今第一人。秦始皇给自己取了一个至高无上的名号，那么只有近乎无限的权力才配得上它。因此自从皇帝诞生以来，皇权就近乎无限。皇帝就是国家，没有任何制度能够制约皇帝的权力。有时臣子可以通过进谏等手段使皇帝“收回成命”，那也只是改变了皇帝的想法，并没有影响皇帝的权力。同时，绝对的权力意味着绝对的责任，皇帝对百姓所负的责任也近于无限。公元前219年，秦始皇巡游到今天的山东半岛一带，登上琅琊台，让李斯写了一篇文章，刻在一块石头上，这就是著名的《琅琊台刻石》。这篇文章歌颂了秦始皇统一天下的功绩，也指出了皇帝应该承担的责任，比如皇帝应该兢兢业业，勤于政务；应该尽力了解各种情况，做到兼听则明，办事公正；应该保障百姓的物质生活，确保社会秩序稳定，维护国家的公平与正义。秦始皇拥有绝对的权力，又自认为对百姓具有绝对的责任，也就热衷于标榜自己的全知全能。
承袭于秦朝的汉朝，皇帝所具有的权力和责任与秦始皇没有什么差别，但流氓无产者出身的刘邦自始至终没有像秦始皇那样标榜自己全知全能。汉武帝“独尊儒术”以后，汉代儒家提倡的“天人感应”思想开始对政治产生影响。这种思想认为，上天一直在监督皇帝的行为，如果皇帝有什么地方做得不对，就会发生日食、地震之类的灾异，这是来自上天的警告。这套理论在汉朝的庙堂上站稳脚跟以后，士大夫们如果想要规劝皇帝，就经常会拿灾异来说事。这就吸取了秦朝的教训。秦朝只知道依靠暴力和法律来统治，却不知道利用社会伦理，最后民众不堪忍受，秦朝就灭亡了。汉朝皇帝接受儒家的伦理观念，标榜自己敬畏上天，爱民如子，给自己加上了条条框框，反而增加王朝的稳固。因为皇帝敬畏上天，就意味着皇帝是代表上天在进行统治。皇帝爱民如子，就意味着皇帝变成了百姓的父母，百姓对皇帝就必须像对父母那样尊敬。故而在汉代以后，皇帝虽然仍然拥有绝对的权力，承担着绝对的责任，但戴上了一层温情脉脉的面纱，这也就是所谓的“外儒内法”。
刘邦和萧何就是外儒内法的代表，不是秦始皇和商鞅那样的一味依靠严刑峻法的铁腕法家。韩非子说，君主要维护自己的权力，主要依靠“刑赏二柄”，“刑”就是刑罚，制定严密的法律，设立执法机构，设计出各种恐怖的刑罚，用来震慑臣民；“赏”就是赏赐，对于有功之人，给予各种形式的赏赐，比如爵位、金钱、土地。韩非子曾在秦国呆过较长时间，秦始皇多曾与之交流，若不是李斯从中嫉妒，韩非大有可能取而代之成为秦国相，因此秦始皇深刻明白皇权的驭民之术，但是他过分迷信法家权术，不重中火不屑于思想引领，焚书坑儒如同大禹的父亲鲧治水一样，是一味的“堵塞”，而不知道或不屑于向大禹那样去“疏导”。但是严刑峻法的淫威最终不能禁锢人的大脑思维，因此当严刑峻法使得人无法承受时，不由自主就会发自内心喊出一句“你凭什么？”所以陈胜说：“王侯将相宁有种乎。”
人类的社会管理是个相当复杂的事情，即便到现在，到底什么制度最好，也没有定论，即便人们普遍接受的民主政治，用丘吉尔的话来说，也并非最好的制度，只不过“是最不坏的制度”。发家的思想源自荀况的性恶论，天然趋利的人，没有统一严格的法制怎么管得住，就如同俗话说小孩子一样，“三天不打上房揭瓦”，为了利益杀人越货什么勾当都干得出，不施之严刑峻法就不能安定安宁，而儒家的思想则源于周公的礼制，强调管人须得管住其心，须得有道德道义垂范。“外儒内法”，则不失之为折中选择。
萧何最大得贡献是在总结秦法的基础上制定了汉朝的法典《九章律》。刘邦初入关中，与父老乡亲约法三章：“杀人者死，伤人及盗抵罪”，将秦朝的严刑峻法一律废止。这其实是流氓无产者的做法，除了三件事，别的什么都不管。这在战时非常有效用，简便易行便于管理，又去掉了束缚在人们身上的枷锁，是人们扬眉吐气，仇恨秦朝而人心向汉。但是建国之后，这样管理社会显然不行，人与人之间的关系错综复杂，各种各样纠纷矛盾纷纭复杂，“三章之法不足以御奸，于是相国萧何捃摭秦法，取其宜于时者，作律九章。”《九章律》分别是盗律、贼律、囚律、捕律、杂律、具律、户律、兴律、厩律。前六篇源于李悝的《法经》六篇（盗法、贼法、囚法、捕法、杂法、具法），秦商鞅改法而称律，建立了严密的秦律体系，萧何在秦法六律的基础上，补充了户律（户口管理、婚姻制度和赋税征收）、兴律（主要规定征发徭役、城防守备）和厩律（主要规定牛马畜牧和驿传方面），合为九篇。萧何的《九章律》以“约法省禁，蠲削烦苛”为原则，对定罪、刑罚有所减缓，删除了秦律中很多不合时宜的条文。《九章律》奠定了汉朝治国行政制度的基础。
奠定汉朝政治风格的另一位人物是叔孙通。
叔孙通是秦朝七十个博士之一，陈胜起义的时候，赵高和秦二世召集博士们问：“楚地派去守边的士兵半路造反，现已经攻下蕲县，攻入了陈郡，你们说该怎么办？”博士们都说：“对于造反的人绝不能宽恕，请陛下火速发兵前往剿灭。”秦叔孙通却说：“他们说的都是谬论，如今天下一统，各郡县的城池都已铲平，民间兵器都已销掉，当今圣上又是英明的皇帝，下面有完备的法令，官吏都效忠于职守，四面八方像辐条向着轴心一样向着朝廷，在这种情况下，哪有什么人敢造反？那些人不过是一群偷鸡摸狗的盗贼，哪值得一提，各地的郡守郡尉很快就可以把他们逮捕问罪了，有什么可担心的。”秦二世一听转怒为喜，说：“好。”然后又挨个问其他博士，博士们有的说是“造反”，有的说是“盗贼”。于是秦二世下令各地“严防盗贼。”骗过秦二世后，叔孙通转脸就去投奔了项梁，项梁在定陶失败身死后，叔孙通又投奔了楚怀王，楚怀王被项羽封为“义帝”迁往长沙后，叔孙通就留下来侍奉项羽，刘邦率各路诸侯攻入彭城时，叔孙通穿一套儒生服装去见刘邦，被刘邦骂了出去，叔孙通立刻改穿短衣，一副楚人打扮，刘邦看着心里高兴，就任命叔孙通当了自己的博士。叔孙通投靠刘邦的时候，跟着他一道前来的弟子有一百多，但叔孙通一个也不向刘邦推荐，而是专门给刘邦推荐了一些土匪强盗，他的弟子都在背后骂他，叔孙通听说后对他们说：“汉王现在正冒着枪林箭雨打天下，你们能去打仗吗？所以我现在只有先给他推荐那些能够冲锋陷阵、斩将拔旗的勇士。你们要等一等，我是不会忘了你们的。”
待到刘邦当了皇帝，他的大臣大将还和往常一样，在宴会上酗酒争功，狂呼乱叫，甚至拔剑击柱，无奇不有，刘邦很讨厌，叔孙通就对刘邦说：“儒生不能帮你攻城占池，但却可以帮你守天下。请让我去找些儒生，让他们和我的弟子们一道给您制定一套朝廷上使用的礼仪。”刘邦说：“会不会太复杂呢？”叔孙通说：“五帝用的音乐各不相同，三王用的礼仪也不一致。礼，是根据着不同时代的人情世态所制定的一套规矩准绳。我可以参照古代的礼法，吸收秦朝的一部分东西，来给您制定一套符合今天使用的制度。”刘邦说：“您试着办吧，要注意简便易学，要考虑我能够做到。”叔孙通就去找曲阜一带的儒生，不料两个拒绝参加，骂叔孙通说：“您所侍奉过的主子差不多有十个了，你都是靠着拍马屁博得你主子的宠爱，现在天下才刚刚安宁，死的还没有埋葬，伤的还没有恢复，你就又闹着制订什么礼乐。礼乐制度的建立那是行善积德百年以后才能考虑的事情。我们不去，您自己去吧，别玷污了我们！”叔孙通笑道：“你们可真是些榆木脑袋，根本不懂时代的变化。”于是叔孙通就带着他找的三十多个儒生，把他们和自己的弟子合在一起，共二百多人，在野外拉起绳子立上草人，演习一个多月，尔后叔孙通对刘邦说：“您可以去看看了。”刘邦到那里看着他们演习了一遍，放心地说：“这个我能做到。”于是下令叫群臣们来排练、演习，准备十月岁首朝会正式使用。待到十月朝会时，叔孙通主持了仪式：天亮之前，由谒者领着诸侯大臣们按次进入殿门，院子里排列着执戟的勇士。叔孙通喊一声：“趋。”郎中们就站到了殿前台阶上；功臣、列侯、将军们依次站在西边，面朝东；丞相以下的文官依次站在东边，面朝西。有九个傧相，负责上下传呼。这时，皇帝的车子从后宫驶出来，贴身人员拿着旗子，高喊肃静，然后群臣向皇帝朝贺，所有人都诚惶诚恐，肃然起敬。行礼过后，按着礼法摆出酒宴，那些有资格陪刘邦坐在大殿上的人都叩伏在席上。他们一个个按爵位高低依次给刘邦祝酒。等到酒过九巡，谒者传令说：“止。”哪一个稍有不合礼法，负责纠察的御史立即就把他拉出去，不管多大官职。整个朝会从始至终，没有一个敢喧哗失礼。刘邦心满意足地说：“今天我才真正体会到了作皇帝的尊贵。”于是提升叔孙通作了太常，赐给他黄金五百斤。叔孙通趁机对刘邦说：“我的那些弟子们已经跟我好多年了，是他们和我一块儿制定的这套礼仪，请陛下也能给他们一些官做。”刘邦一听，立即任命那些人都当了郎官。郎官就是在皇帝身边参与议事并负责传达事宜的秘书或参谋。叔孙通出宫后，把刘邦赏给他的那五百斤黄金都分给了那些儒生。儒生们都高兴地：“叔孙通可真是个圣人，他能把握住形势的需要。”汉高祖九年，刘邦调任叔孙通为太子太傅。就这样，叔孙通使芒砀山盗贼刘邦尊重了儒术。而叔孙通并不是纯粹的儒，他的所学更多是黄老道家学说，故而又逐渐对刘邦灌输了道家无为而治的理念。
另外，决定汉朝风格的还有汉朝的开国历史大大有别于秦朝。秦朝的开国，是秦始皇凭借列祖列宗数代人所打造的诸侯秦国，因此是不折不扣的家天下，所以秦始皇视天下万民万物为一己之下，以威严统带，以严刑峻法约束。而汉朝却大大不同，刘邦起于微末草莽，侥幸得以在天下并起的诸多反秦实例中先入关中，却仍不得不屈从最强大的项羽，被项羽封为汉王。后来趁齐国反叛项羽，还定三秦，然而并没有把三秦全部纳于自己直辖，而是与除了死硬的章邯之外的另两位三秦王组成联合体，然后率领西魏王下河内，占洛阳，其后便是打着为义帝复仇的名义，联络诸多诸侯对抗项羽，在决战垓下的时候，又与韩信、彭越约定三分天下。知道此时，刘邦未必有称帝的念头，而韩信、彭越受刘邦裂土而封，感念刘邦的仁德，会同各诸侯共尊刘邦即帝号，为天下盟主，可以说大汉王朝建国伊始是具有股份性质的国家而并非刘邦一人之家天下，故而刘邦不可能像秦始皇那样霸道。这也为汉朝立国初期又经历再次整合过程以及韩信、彭越、英布等异姓王被杀而埋下伏笔。
天下既定，刘邦打算建都洛阳，有个齐国人娄敬，被发往陇西戍边，路过洛阳，穿着羊皮袄去见的同乡虞将军，说：“我希望见到皇帝谈谈有关国家的大事。”虞将军说：“你一个边卒能谈什么国家大事。”娄敬说：“我必须直接对皇上说，你给引荐一下。”虞将军要给他一件光鲜的衣服换上，娄敬说：“我穿着丝绸衣服来，就穿着丝绸衣服去拜见，穿着粗布短衣来，就穿着粗布短衣去拜见。”于是虞将军进宫把娄敬的请求报告给刘邦。刘邦召娄敬进宫来见，并赐给他饭吃。等了一会儿，刘邦就问娄敬要谈什么大事，娄敬对刘邦说：“陛下建都洛阳，难道是要跟周朝比试一下兴隆吗？”刘邦说：“是的。”娄敬说：“陛下取得天下跟周朝是不同的。周朝的先祖从后稷开始，尧封他于邰，积累德政善事十几代。公刘为避开夏桀的暴政而到豳居住。太王因为狄族侵扰的缘故，离开豳，拄着马鞭只身移居到岐山，国内的人都争相跟着他去岐山。到了周文王做了西方诸侯之长时，他曾妥善地解决了虞国和芮国的争端，从此才成了禀受天命统治天下的人，贤能之士吕望、伯夷自海边回来归附于他。周武王讨伐殷纣时，不相约而自动到孟津会盟的八百诸侯，大家都说殷纣可以讨伐了，于是就灭掉了殷。周成王即位，周公等人辅佐他，就在洛邑营造成周城，把它作为天下的中心，四方各地的诸侯来交纳贡物赋税，道路是均等的。君主有德行就容易靠它称王统治天下，没德行就容易因此灭亡，凡是建都于此的，都要像周朝一样务必用德政来感召人民，而不想依靠险要的自然形势骄奢淫逸虐待百姓。到了周朝衰败的时候，天下没谁再来朝拜，周室已经不能控制天下，不是它的恩德太少，而是形势太弱了。陛下从沛县起事，招集三千士卒，带着他们投入战斗，席卷蜀、汉，平定三秦，与项羽在荥阳交战，争夺成皋之险，大战七十次，小战四十次，使天下百姓血流大地，父子枯骨曝露于荒郊之中，横尸遍野不可胜数，悲惨的哭声不绝于耳，伤病残疾的人们欲动不能，这种情况却要同周朝成王、康王的兴盛时期相比，我个人认为不能同日而语的。关中有高山被覆，黄河环绕，四面边塞可以作为坚固的防线，突然有了危急情况，百万之众的雄兵可备一战。借着秦国原来经营的底子，又以肥沃的土地为依托，这就是所说的形势险要、物产丰饶的‘天府’之地啊。陛下进入关中把都城建在那里，山东地区即使有祸乱，秦国原有的地方是可以保全并占有的。与别人搏斗，不掐住他的咽喉，击打他的后背，是不能完全获胜的。如果陛下进入关中建都，控制着秦国原有的地区。这也就是掐住了天下的咽喉而击打它的后背啊。”
刘邦征求大臣们的意见，大臣们大多都是关东人，争先恐后说周朝建都在洛阳称王天下几百年，秦朝建都在关内只到二世就灭亡了，不如建都在周朝都城。刘邦疑虑不定，张良说：“洛阳虽然有险固，但它中间的境域狭小，不过几百里方圆，土地贫瘠，四面受敌，不是用武之地。关中东面有崤山、函谷关，西面有陇山、岷山，肥沃的土地方圆千里，南面有富饶的巴、蜀两郡，北面有利于放牧的胡苑，依靠三面的险阻来固守，只用东方一面控制诸侯。如果诸侯安定，可由黄河、渭河运输天下粮食，往西供给京都；如果诸侯发生变故，可顺流而下，足以运送物资。娄敬的建议是对的。”刘邦说：“娄就是刘啊。”于是赐娄敬改姓刘，授给他郎中官职。刘邦当即决定定都关中，由于原来咸阳的宫殿被项羽烧掉了，就选择了咸阳以东的长安（今陕西西安），取长治久安之意。开基肇始，史称西汉。
长安的未央皇宫建成的时候。刘邦大会诸侯、群臣，在未央宫前殿摆设酒宴。刘邦捧着玉制酒杯，起身向太上皇献酒祝寿，说：“当初大人常以为我没有才能，无可依仗，不会经营产业，比不上刘仲勤苦努力。可是现在我的产业和刘仲相比，谁的多呢？”殿上群臣都欢呼。
刘邦当上皇帝后，把管理国家的事项交给了萧何，那么他自己在干什么呢？就是确保江山稳定，图谋万世永续。江山初定，为了使天下太平，刘邦所做的第一件事就是论功行赏，大封功臣。这是个复杂的活，因为事关每个人的切身利益，项羽就是在封赏问题上给自己埋下了地雷。固然有张良这样的表率，封赏功臣时，张良不曾有具体战功，刘邦说：“出谋划策于营帐之中，决定胜负在千里之外，这就是子房的功劳。让张良自己从齐国选择三万户作为封邑。”张良说：“当初我在下邳起事，与主上会合在留县，这是上天把我交给陛下。陛下采用我的计谋，幸而经常生效，我只愿受封留县就足够了，不敢承受三万户。”于是封张良为留侯。但是这毕竟属于特例，当刘邦封赏到二十多人时，其余的人激烈地争论起来，人人都摆出自己的功劳，说比别人大，日夜争功而不能决出高下，因此封赏难以继续进行。刘邦在洛阳南宫从桥上望见将领们坐在沙地上彼此议论，问张良：“这些人在说些什么？”张良说：“陛下不知道吗？这是在商议反叛呀。”刘邦大惊，问：“会吗？”张良说：“陛下以平民身分起事，靠这些人取得了天下，现在陛下做了天子，而所封赏的都是萧何、曹参这些陛下所亲近宠幸的老友，所诛杀的都是一生中仇恨的人。如今军官们计算功劳，认为天下的土地不够一一封赏的，这些人怕陛下不能全部封到，恐怕又被怀疑到所犯的过失而遭受诛杀，所以就聚在一起图谋造反了。”刘邦忧心忡忡地说：“这件事该怎么办呢？”张良说说：“皇上平生憎恨，又是群臣都知道的，谁最突出？”刘邦说：“雍齿，我早想杀掉他，可又不忍心。”张良说：“现在赶紧先封赏雍齿来给群臣看，群臣见雍齿都被封赏，那么每人对自己能受封就坚信不疑了。”于是刘邦便摆设酒宴，封雍齿为什方侯，并当中紧迫地催促主管评定功劳的丞相、御史加紧进行评定工作。群臣吃过酒后，都高兴地说：“雍齿尚且被封为侯，我们这些人就不担忧了。”
大事既定，此后张良便以体弱多病为由，闭门研究导引之术，不食五谷，没有大事从不出门。
刘邦所做的第二件事就是下令在全国范围通缉项羽的亲信和旧部，以清除帝国的反对势力。因为在他刚刚宣布就任皇帝之位的时候，就有临江王共敖之子驩“为项羽叛汉”。
但是让刘邦意想不到的是，燕王臧荼第一个反叛了。因为此前他对于加入刘邦阵营一直犹犹豫豫，后来时迫于韩信大军压境才不得不臣服刘邦的，自思肯定的不到刘邦信任，万一被刘邦列为清理对象就麻烦了，不如一不做二不休，索性就反了。于是他宣布反汉，刘邦亲自征伐，此时天下已定，一个小小燕国哪里抗拒得了，结果臧荼很快兵败被斩杀，刘邦任命他的同年同月同日生的同窗好友命卢绾为燕王。
到了秋天，利几又反了。利几是项羽的部将，项羽失败时，利几投降了刘邦，刘邦封他为颍川侯。刘邦在洛阳的时候，打算变更一下他的封地，利几犯了嘀咕，一位刘邦要谋害他，所以就反了。刘邦派兵前去，利几逃往不知去向。
臧荼和利几的反叛，弄得刘邦疑神疑鬼，这时候，有人上书告发韩信谋反，刘邦向诸将征询对此事的意见。诸将都说：“赶紧发兵，活埋这个忘恩负义的小子！”高祖自知不是好主意，就没有吭声。这时，张良已经借口有病闭门修炼导引术去了，只有陈平依然是刘邦身边最重要的谋士。刘邦便问陈平，陈平开始不肯出主意，直到刘邦再三追问才说话。刘邦对陈平说：“我打算派兵前去讨伐他，你看怎么样？”
陈平反问：“陛下的军队比韩信的军队厉害吗？”
刘邦回答：“不见得。”
陈平又问：“陛下手下的战将中，有谁在战场上能敌过韩信？”
刘邦回答：“没有人能敌得过他。”
陈平说：“那么您要出兵去打韩信，胜负就难以预料，这样做我真是很为陛下担心啊！”
刘邦忙问有没有什么稳妥的办法。陈平说：“古时，天子常常在全国各地巡行，会见各地的诸侯。南方有一个地方叫云梦泽。陛下装作出游云梦泽，要在陈州会见各路诸侯。陈州在楚地西界，韩信听到天子出游，又到了他的地盘上，他当然会来谒见。当他谒见陛下的时候，您便可以把他抓起来。这样就不用派兵，只需一个武士就足够了。”
刘邦依计行事；韩信果然郊迎在路中央。刘邦便让埋伏下来的武士将韩信捆得结结实实，投入囚车中。但是哪有韩信谋反的真凭实据，后来刘邦把韩信贬为淮阴侯，留居京城，不让他到外地任职，这样韩信也就不能有所作为了。
春天，刘邦又认为韩王信雄壮勇武，他的封地颍川北靠近巩县、洛阳，南逼近宛县、叶县，东边则是重镇淮阳，这些都是天下的战略要地，于是就下诏命韩王信迁移到晋阳以北的地区，建都晋阳。韩王信上书说：“我的封国紧靠边界，匈奴常常入侵，晋阳距离边境较远，请允许我建都马邑。”刘邦答应了，韩信就把都城迁到马邑。马邑就在雁门关下。
不料由此引发祸事。
匈奴原本在遭受李牧、蒙恬两次打击后一蹶不振，数十年不敢窥伺中原，然而此时匈奴冒出来一位杰出领袖，他就是冒顿单于。
冒顿本是头曼单于的太子，但是头曼单于因为特别喜爱一个妃子，在匈奴不叫妃子，叫阏氏，头曼单于想立这个阏氏生的儿子当太子，就把冒顿派到月氏去当人质。冒顿刚到月氏，头曼就攻打月氏，图谋让月氏人把冒顿杀掉，冒顿偷了月氏人马逃回了匈奴，头曼单于认为他很勇猛，就罢了想杀掉他的念头，还给了他一万骑兵让他统领。
冒顿就制造了一种响箭，叫做鸣嘀，训练他部下射箭说：“凡我鸣嘀所射目标，如果谁不跟着我全力去射击它，就斩首。”有人不以为然，不射鸣嘀所射的目标，冒顿当下就他杀了。不久，冒顿以鸣嘀射击自己的爱马，左右之人有几个不敢射击，冒顿立即又杀了他们。过了些日子，冒顿又用鸣嘀射击自己阏氏，左右之人感到恐惧，不敢射击，冒顿又把他们杀了。过些日子，冒顿出去打猎时，用鸣嘀射击了头曼单于的马，这时左右之人美欧因恐惧而不射击的了。于是冒顿就在跟随父亲头曼单于打猎时，用鸣嘀射向头曼的脑袋，他左右的都跟着把箭射向头曼单于，头曼当场身亡。
之后冒顿又把他的后母及弟弟也就是头曼最喜欢的阏氏和想要立为太子的儿子以及不服从他的大臣全部杀死，自立为单于。
冒顿当了单于后，东胡首领（东胡人称首领为大人）听说冒顿杀父自立，就派使者对冒顿说想得到头曼的千里马。冒顿问群臣，群臣都说：“千里马是匈奴的宝马，不要给。”冒顿说：“怎可同人家是邻国却吝惜一匹马呢？”于是就把千里马给了东胡。过了一段时间，东胡大人以为冒顿怕他，就派使者对冒顿说，想要单于的一个阏氏。冒顿又询问左右之臣，左右大臣皆发怒说：“东胡没有道理，竟然想要阏氏，出兵打他。”冒顿说：“怎可同人家为邻国却吝惜一个女人呢？”于是就把自己的阏氏送给了东胡。东胡大人愈来愈骄傲，向西进犯侵扰。东胡与匈奴之间有一块空地，没人居住，这地方有一千多里，双方都在这空地的两边修起哨所。东胡派使者对冒顿说：“匈奴同我们交界的哨所以外的空地，你们匈奴不能去，我们想占有它。”冒顿征求群臣意见，群臣中有人说：“这是被丢弃的空地，给他们也可以，不给他们也可以。”于是冒顿大怒，说：“土地，是国家的根本，怎可给他们！”于是冒顿杀掉了那些说给东胡空地的人杀了。立即上马，命令国内如有后退者就杀头，于是他率军向东袭击东胡。
东胡很轻视曾经被李牧、蒙恬打趴下过的匈奴，因此没做防备。等到冒顿领兵到来，一开战东胡就大败，东胡大人也被斩首，冒顿用他的头骨做了一个尿壶，天天往里撒尿。
此后冒顿又乘胜发兵，向西驱逐走月氏，向南吞并楼烦等部落，还收复了被蒙恬夺取的匈奴领地。经过一系列征伐，草原各族无不臣服匈奴，至此，冒顿雄踞大漠南北，统一了蒙古草原，建立了强大的匈奴帝国。匈奴帝国疆域十分广阔，最东达辽河流域，最西到葱岭，南达长城，北抵贝加尔湖。这也是匈奴帝国史上最强大的时期，拥有“控弦之士”三十余万。
于是冒顿便把目光投向富庶的中原。在这年秋天，冒顿单于出兵马邑，包围了韩王信，韩王信屡战不敌，为此多次派使者到匈奴处求和。汉朝怀疑韩信多次与匈奴派使者联络室有背汉之心，就派人责备韩王信，韩王信害怕被杀，就当真背叛了汉朝，和匈奴结盟，双方约定好共同攻打汉朝。于是冒顿率兵越过雁门关，会合韩王信攻打晋阳。
刘邦闻听晋阳危急，便亲率大军前去迎战。冒顿假装失败逃跑，引诱汉军追击。刘邦初次与匈奴交战，不明匈奴的底细，就派使臣出使匈奴摸底，匈奴把他们强壮的士兵和肥壮的牛马都藏起来，只显露出年老弱小的士兵和瘦弱的牲畜，派去的使臣十余批回来，都向刘邦汇报说匈奴可以攻击。刘邦又派那个当初劝他定都关中的刘敬再去出使匈奴，他回来报告说：“两国交兵，该炫耀自己的长处才是，我去那里却只看到瘦弱的牲畜和老弱士兵，这一定是故意显露自己的短处。我以为匈奴王是个有谋略的人，不能攻打。”这时刘邦已经带着军队追击越过了雁门关，刘邦听了刘敬的话非常恼怒，骂刘敬：“齐国孬种，凭着两片嘴捞得官做，现在竟敢胡言乱语阻碍我的大军。”就用镣铐把刘敬拘禁起来押在广武县。刘邦弃大军率轻骑部队向北追击到平城（今大同），冒顿以四十万大军在白登山把刘邦包围起来。刘邦登上山头向四面眺望，只见匈奴骑兵往来驰骋，西方的全是白马，东方的全是青马，北方的全是黑马，南方的全是赤马，非常强劲，四面八方都有匈奴的骑兵屯驻把守。
当时正值天气严寒，连日雨雪不断。高祖刘邦和将士们都冻得手脚发僵。在被围了三天后，粮食快吃完了，汉军饥寒交迫，危在旦夕。被围到第七天，陈平看到冒顿单于常和阏氏骑马出出进进，浅笑低语，情深意笃，于是想到冒顿虽能出奇制胜，恐怕也不免被美女所惑，于是就想从阏氏身上打主意。他派遣使臣，乘雾下山，拜见阏氏，向阏氏献上了许多的金银珠宝，说是汉朝皇帝送给阏氏的，另取出一幅图画，说是汉帝请阏氏转给单于的。
阏氏久居草原，哪见过这么多黄金珠宝，登时目眩心迷，爱不释手。打开图画，见画上绘着一个绝色美女，便问：“这幅美人图是干什么用的？”汉使装出一副虔诚的样子，回答说：“汉帝被单于包围，非常愿意罢兵言和。所以把金银珠宝送给您，再请您代他向单于求情，可又怕单于不答应，就准备把国中的第一美人献给单于。因为美人现在不在军中，所以先把她的画像呈上。”阏氏说：“这个用不着，赶快拿回去。”汉使说：“汉帝也觉得把美人献给单于，怕会夺了单于对您的宠爱，可是事出无奈，只好如此。如果您能解得了我们的围，那我们当然不会把美人献给单于了，情愿给您多送点儿金银珠宝。”阏氏说：“请你回去告诉汉帝，尽管放心好了。”说完，将图画交还给使者后，使者就回去了。
于是，阏氏来到后营，对单于说：“军中得到消息说，汉朝有几十万大军前来救援，只怕明天就会赶到了。”单于问：“有这样的事？”阏氏又说：“汉、匈两主不应该互相逼迫得太厉害，现在汉朝皇帝被困在山上，汉人怎么肯就此罢休？自然会拼命相救的。就算你打败了汉人，夺取了他们的城地，也可能会因水土不服，无法长住。万一灭不了汉帝，等救兵一到，内外夹攻，那样我们就不能共享安乐了。”说到这里，阏氏泪如雨下，呜咽得连话都说不出来了。单于一时也不知怎么办才好了，于是问：“那怎么办呢？”阏氏又说：“汉帝被围了七天，军中没有什么慌乱，想必是有神灵在相助，你又何必违背天命，非得将他赶尽杀绝呢？不如放他一条生路，以免以后有什么灾难降临到咱们头上。”单于将信将疑，卡哈冒顿与韩王信的将军王黄和赵利约定了会师的日期，但王黄与赵利的军队没按时到来，冒顿疑心他们同汉军有预谋，就解除了包围圈的一角。当时天降大雾，汉朝派人在白登山和平城之间往来，匈奴一点也没有察觉，陈平对刘邦说：“请命令士兵每张强弩朝外搭两支利箭，慢慢撤出包围。”就这样，汉军撤进平城，这时汉朝的后续援兵到了，匈奴这才解围而去。
刘邦回到广武县便赦免了刘敬，对刘敬说：“我不听您的意见，因而在平城遭到围困。”赏赐刘敬食邑二千户，封为关内侯。
韩王信投向匈奴后，不时在边境骚扰，刘邦就把他二哥刘仲封为代王，以韩信从前手下的大将陈豨为相国，戍卫北疆的军队统归他们管辖。
陈豨临行前向老上司韩信辞行。韩信被贬为淮阴侯后，常装病不参加朝见，刘邦曾经在悠闲时和韩信谈论各位将军才能的高下，认为各有长短。皇上问韩信：“像我的才能能统率多少兵马？”韩信说：“陛下不过能统率十万。”刘邦说：“你怎么样？”韩信回答说：“韩信将兵，多多益善。”皇上笑着说：“您多多益善，为什么还被我辖制？”韩信说：“陛下不善于统领士卒而善于领导将领，这就是我被陛下辖制的原因。况且陛下是上天赐予的，不是人力能做到的。”此时陈豨来辞行，韩信拉着他的手避开左右侍从在庭院里漫步，仰望苍天叹息说：“你可以听听我的知心话吗？有些心里话想跟你谈谈。”陈豨说：“一切听任将军吩咐！”淮阴侯说：“您管辖的地区，是天下精兵聚集的地方，而你，是陛下信任宠幸的臣子，如果有人告发说你反叛，陛下一定不会相信，再次告发，陛下就怀疑了，三次告发，陛下必起疑心，恐怕你的灾祸就要临头了。不过，若将来有一天你被逼谋反，我在京城定会助你一臂之力。”陈豨知道这是韩信因为自己的委屈有感而发，便就槛骑驴顺着韩信的话说：“我一定听从您的指教！
陈豨休假回乡路过赵国，赵相国周昌看到陈豨的随行宾客有一千多辆车子，把邯郸所有的官舍全部住满了。陈豨回到代国，周昌就请求进京朝见。见到刘邦后，就对刘邦说陈豨宾客众多，在外独掌兵权恐怕会有变故。刘邦就命人追查陈豨的宾客在财物等方面违法乱纪的事，其中不少事情牵连到陈豨，陈豨非常害怕，暗中派宾客到韩王信的部将王黄、曼丘臣处通消息。
汉高祖十年（前197年）七月，刘邦的父亲刘太公去世，刘邦召各地诸侯大臣进京举丧，但陈豨称自己病重，请假不来。九月，韩王信又派王黄、曼丘臣对陈豨进行挑唆，于是陈豨便与王黄、曼丘臣一同反叛，赶走了刘仲，自立为代王，劫掠了赵、代两地。刘仲奔回，这个少年时一贯被刘太公作为榜样教训刘邦的二哥被贬为合阳侯。
刘邦亲自前往邯郸督率驻军讨伐陈豨，要韩信一同前往，韩信却以告病为由不随前往。
刘邦到达邯郸后高兴地说：“陈豨不在南面占据漳水，北面守住邯郸，由此可知他不会有所作为。”赵相国上奏请求把常山的郡守、郡尉斩首，说：“常山郡共有二十五座城池，陈豨反叛，失掉了其中二十座，他们失职。”汉高祖问：“郡守、郡尉反叛了吗？”赵相国回答说：“没有。”汉高祖说：“这是力量不足的缘故。”赦免了他们。刘邦问周昌说：“赵国还有能带兵打仗的吗？”周昌回答说：“有四个人。”然后让这四个人拜见刘邦，一见便破口大骂道：“你们这些小子们也能带兵打仗吗？”四个人惭愧地伏在地上。但刘邦还是各封给他们一千户的食邑，任命为将。左右近臣谏劝道：“有不少人跟随您进入蜀郡、汉中，其后又征伐西楚，有功却未得到普遍封赏，现在这几个人有什么功劳而予以封赏？”刘邦说：“这就不是你们不能了解的了！陈豨反叛，邯郸以北都被他所占领，我用紧急文告来征集各地军队，但至今仍未到达，现在可用的就只有邯郸一处的军队而已。我何必要吝惜封给四个人的四千户，不用它来抚慰赵地的年轻人呢！”左右近臣都说：“是，是。”于是汉高祖又问：“陈豨的将领都有谁？”左右回答说：“有王黄、曼丘臣。”汉高祖说：“我知道了。”于是各悬赏千金来求购王黄、曼丘臣等的人头。
此时，韩信的一位家臣得罪了韩信，韩信把他囚禁起来，打算杀掉他，这位家臣的弟弟向吕后告发韩信准备反叛，吕后打算把韩信召来，又怕他不肯就范，就和萧何谋划，令人假说刘邦平叛归来，说陈豨已被俘获处死，列侯群臣都来祝贺。韩信到来后，萧何命令武士把韩信捆起来，在长乐宫的钟室杀掉了。韩信临死斩时说：“我后悔没有采纳蒯通的计谋，以致被妇女小子所欺骗，难道不是天意吗？”韩信被夷灭了三族。后来人们都说：“成也萧何败也萧何。”
鉴于邯郸地区兵力不足，刘邦向彭越征兵，彭越说有病，只派将领带兵前来，刘邦很生气，派人去责备。彭越很害怕，打算亲自前往谢罪，他的部将扈辄说：“大王当初不去，被他责备了才去，去了就会被捕。不如就此出兵造反。”彭越不听。这时，彭越的太仆得罪了彭越，彭越打算杀掉他，太仆慌忙逃到汉刘邦那里，控告彭越和扈辄阴谋反叛。于是，刘邦派使臣出其不意将彭越逮捕，囚禁在洛阳，经主管官吏审理，认为他谋反罪证具备，请求依法判处。刘邦赦免了他，废为平民百姓，流放到蜀地。彭越走到郑县，赶上吕后从长安来，彭越对吕后哭泣，分辩没有罪行，希望回到故乡昌邑。吕后答应下来，和他一块向东去洛阳。吕后给刘邦致信说：“彭王是豪壮而勇敢的人，如今把他流放蜀地，这是给自己留下祸患，不如杀掉他。”于是刘邦就批准诛杀了彭越，灭其三族，还把彭越剁成了肉酱，又把肉酱装好分别赐给诸侯。
汉高祖十一年（前196年）冬天，汉军在曲逆城下攻击并斩杀了陈豨的大将侯敞、王黄，又在聊城把陈豨的大将张春打得大败，斩首一万多人。太尉周勃平定了晋阳和代郡。十二月，汉高祖亲自率军攻打东垣，但未能攻克，叛军士卒辱骂刘邦。不久东垣投降，凡是骂汉高祖的士卒一律斩首，其他没骂的士卒则处以黥刑，在额头上刺字，把东垣改名真定。王黄、曼丘臣的部下所有被悬赏征求的，一律都被活捉，因此陈豨的军队也就彻底溃败了。
刘邦到达洛阳后说：“代郡地处常山的北面，赵国却从山南来控制它，太遥远了。”于是就封儿子刘恒为代王。
汉高祖十二年（前195年）冬，樊哙的士卒追到灵丘把陈豨斩首。
刘邦从平叛陈豨的军中回到京城，见韩信已死，又高兴又怜悯，问：“韩信临死时说过什么话？”吕后说：“韩信说悔恨没有采纳蒯通的计谋。”刘邦就诏令捕捉蒯通。蒯通被带到，刘邦说：“你唆使淮阴侯反叛吗？”蒯通回答说：“是。我的确教过他，那小子不采纳我的计策，所以有自取灭亡的下场。假如那小子采纳我的计策，陛下怎能够灭掉他呢？”刘邦生气地说：“煮了他。”蒯通说：“哎呀，煮死我，冤枉啊！”刘邦说：“你唆使韩信造反，有什么冤枉？”蒯通说：“秦朝法度败坏，政权瓦解的时候，山东六国大乱，各路诸侯纷纷起事，一时天下英雄豪杰象乌鸦一样聚集。秦朝失去了他的帝位，天下英杰都来抢夺它，于是才智高超，行动敏捷的人率先得到它。跖的狗对着尧狂叫，尧并不是不仁德，只因为他不是狗的主人。正当这时，我只知道有个韩信，并不知道有陛下。况且天下磨快武器、手执利刃想干陛下所干的事业的人太多了，只是力不从心罢了。您怎么能够把他们都煮死呢？”刘邦说：“放掉他。”就赦免了蒯通的罪过。
吕后诛杀了韩信和彭越，英布内心产生恐惧。这年夏天，刘邦赐给诸侯的彭越的肉酱送到淮南，英布正在打猎，看到肉酱，特别害怕，暗中使人部署，集结军队，守候并侦察邻郡的意外警报。
英布宠幸的爱妾病了，请求治疗，医师的家和中大夫贲赫家住对门，爱妾多次去医师家治疗，贲赫认为自己是侍中，就送去了丰厚的礼物，随爱妾在医家饮酒。爱妾侍奉英布时，称赞贲赫是忠厚老实的人。英布生气地说：“你怎么知道的呢？”爱妾就把相交往的情况全都告诉他。淮南王疑心她和贲赫有淫乱关系。贲赫惊惧，借口有病不去应班。英布更加恼怒，就要逮捕贲赫。贲赫跑到长安上书告变。刘邦召集将领们问：“英布造反，对他怎么办？”将领们都说：“出兵打他，活埋了这小子，还能怎么办！”夏侯婴召原楚国令尹薛公问这事。令尹说：“他本来就当造反。”夏侯婴说：“皇上分割土地立他为王，分赐爵位让他显贵，面南听政立为万乘之主，他为什么反呢？”令尹说：“往年杀死彭越，前年杀死韩信，这三个人有同样的功劳，是结为一体的人，自然会怀疑祸患殃及本身，所以造反了。”
英布向东攻打荆国，荆王刘贾出逃，死在富陵，英布劫持了他的部队，又渡过淮河攻打楚国。楚国调动军队在徐、僮之间和英布作战，楚国分兵三路，想采用相互救援的奇策。有人劝告楚将说：“英布擅长用兵打仗，百姓们一向畏惧他。况且兵法上说：‘诸侯在自己的领地和敌人作战，一旦士卒危急，就会逃散。’如今兵分三路，他们只要战败我们其中的一路军队，其余的就都跑了，怎么能互相救援呢！”楚将不听忠告。英布果然打败其中一路军队，其他两路军队都四散逃跑了。
英布的军队向西挺进，在蕲县以西的会甀和刘邦亲自率领的军队相遇。英布的军队非常精锐，致使刘邦本人遭受箭伤，这是刘邦与项羽交战与鸿沟受到箭伤的第二次中箭。刘邦躲进庸城壁垒，坚守不出，见英布列阵一如项羽的军队，皇上非常厌恶他。和英布遥相望见，远远地对英布说：“何苦要造反呢？”英布说：“我想当皇帝阿！”皇上大怒，骂他，随即两军大战。英布的军队战败逃走，渡过淮河，几次停下来交战，都不顺利，和一百多人逃到长江以南。
英布原来是番县令吴芮的女婿，以这层关系，长沙哀王吴回（吴芮之孙）派人诱骗英布，谎称和英布一同逃亡，诱骗他逃到南越，所以英布相信他，就随他到了番阳，英布到了那***阳人在兹乡百姓的民宅里杀死了。
平定英布后，刘邦在回京途中，过沛县时停留下来，在沛宫置备酒席，把老朋友和父弟都请来一起纵情畅饮。挑选沛中儿童一百二十人，教他们唱歌。酒喝得正痛快时，高祖自己弹击着筑，唱起自己编的歌：“大风刮起来啊云彩飞扬，声威遍海内啊回归故乡，怎能得到猛士啊四方！”让儿童们跟着学唱。于是高祖起舞，情绪激动心中感伤，洒下行行热泪。高祖对沛县父老兄弟说：“远游的赤子总是思念着故乡。我虽然建都关中，但是将来死后我的魂魄还会喜欢和思念故乡。而且我开始是以沛公的身份起兵暴逆，终于取得天下，我把沛县作为我的汤沐邑，免除沛县百姓的赋税徭役，世世代代不必纳税服役。”沛县的父老兄弟及同婶子大娘亲戚朋友天天快活饮酒，尽情欢宴，叙谈往事，取笑作乐。过了十多天，高祖要走了，。沛县父老要高祖多留几日。高祖说：“我的随从人众太多，父兄们供应不起。”于是离开沛县。这天，沛县城里全空了，百姓都赶到城西来牛、酒等礼物。高祖又停下来，搭起帐篷，痛饮三天。沛县父兄都叩头请求说：“沛县有幸得以免除赋税徭役，丰邑却没有免除，希望陛下可怜他们。”高祖说：“丰邑是我生长的地方，我最不能忘，我只是因为当初丰邑人跟着雍齿反叛我而帮助魏王才这样的。”沛县父老父仍旧请求，高祖才答应把丰邑的赋税徭役也免除掉，跟沛县一样。
鉴于韩王信仍然和匈奴一起屡次侵扰北部边境，刘邦对这种情况很忧虑，就问刘敬对策。刘敬说：“汉朝天下刚刚平定，士兵们被兵火搞得疲惫不堪，对匈奴是不能用武力制服的。冒顿杀了他的父亲自己做了君主，又把他父亲的许多姬妾作自己的妻子，他凭武力树威势，是不能用仁义道德说服的。只能够从长计议让他的子孙后代臣服汉朝了，然而又怕陛下不能办到。”
刘邦说：“果真可行的话，为什么不能办！只是该怎么办呢？”刘敬回答说：“陛下如果能把皇后生的大公主嫁给冒顿作妻子，给他送上丰厚的礼物，他知道是汉帝皇后生的女儿又送来丰厚的礼物，粗野的外族人一定爱慕而把大公主作正妻，生下的儿子必定是太子，将来接替君位。为什么要这样办？因为匈奴贪图汉朝的丰厚财礼。陛下拿一年四季汉朝多余而匈奴少有的东西多次抚问赠送，顺便派能言善辩的的人用礼节来开导启发他。冒顿在位，当然是汉朝的女婿；他死了，他汉朝外孙就是君主。哪曾听说外孙子敢同外祖父分庭抗礼的呢？军队可以不出战便使匈奴逐渐臣服了。如果陛下不能派大公主去，而让皇族女子或是嫔妃假冒公主，他也会知道，就不肯尊敬亲近她，那样就没什么好处了。”刘邦听后说：“好的。”便要送鲁元公主去匈奴。
吕后得知后日夜哭哭啼啼，对刘邦说：“我只有太子和一个女儿，怎么忍心把她抛掉远嫁匈奴去！”刘邦终究不能派出鲁元公主，便找了个宫女以大公主的名义，嫁给冒顿君主作妻子。同时，派遣刘敬前往与匈奴订立议和联姻盟约。
刘敬从匈奴回来，便称说“匈奴在河套的白羊、楼烦两个部落，离长安最近的只有七百里路，轻装骑兵一天一夜就可到达关中地区。关中地区刚刚经过战争还很凋敝，人丁稀少，而土地肥沃，可以大大加以充实。当初各地诸侯起兵发难时，若不是有齐国的田氏各族以及楚国的昭、屈、景三大宗族参加是不能兴盛起来的。如今陛下虽然把都城建在关中，但实际缺少人口。北边靠近匈奴敌寇，东边有六国的旧贵族，宗族势力很强，一旦有什么变故，陛下是不能高枕无忧的。我希望陛下把齐国的田氏各族，楚国的昭、屈、景三大宗族，燕、赵、韩、魏等国的后裔，以及豪门名家都迁移到关中居住。国内平安无事，可以防备匈奴；若所封诸侯王有什么变故，也能率领他们东进讨伐。这是加强中央权力而削弱地方势力的方略啊。”刘邦说：“好得很。”于是派刘敬按照他自己提出的意见把十万多的人口迁到了关中。
刘邦在讨伐陈豨的时候，燕王卢绾也率兵自东北方向攻打陈豨，陈豨派遣王黄求救于匈奴，而卢绾也派其臣张胜出使匈奴，并散言陈豨已经战败，欲令匈奴勿发兵助之。臧荼的儿子臧衍恰好逃亡在匈奴，对张胜说：“您之所以在燕得到重用，是因为您通晓匈奴的事情，而燕所能够长久存在的原因，是因为其他诸侯屡屡造反，天下征战不休。现在您为了燕，想要迅速消灭陈豨，但陈豨被消灭了以后，下一个就该轮到燕了，您和您的主上马上就会成为别人的俎上鱼肉。您为何不让燕暂且放过陈豨，并且和匈奴联合呢？如果局势和缓，燕就能够长存；即使朝廷逼迫侵削，燕也算有了安全的保障。”张胜认为他说的有道理。于是他便转而暗中劝匈奴帮助陈豨。卢绾察觉情况不对，怀疑张胜勾结匈奴谋反，于是上书刘邦，请求族灭张胜。张胜从匈奴返回，向卢绾解释了他为什么要那样做的理由，卢绾醒悟，于是对刘邦假称是他人谋反，为张胜开脱，使得张胜能够安心做他和匈奴之间的线人。
卢绾又派范齐出使陈豨，劝他转入游击作战，与燕“连兵勿决”。但此事却被陈豨的降将告诉了刘邦。刘邦派使臣召卢绾，卢绾称病不敢前往。刘邦又派辟阳侯审食其、御史大夫赵尧召卢绾，并借机调查他的下人。卢绾愈加恐惧，闭门谢客。他对他宠信的臣下说：“现在不是刘姓而做王的，只剩下我和长沙王吴芮了。去年春天朝廷族灭了淮阴侯韩信，夏天又诛杀了彭越，都出自吕后的计谋。现在皇帝有病，政事皆决于吕后，吕后专门想要找借口诛杀异姓诸王和大功臣。”于是仍称病不往。他的手下都逃跑躲藏起来。但这段话终究被泄露到辟阳侯耳中。辟阳侯回来后，详细向刘邦做了禀报。刘邦更加生气。
汉十一年春天，韩王信又和匈奴骑兵一起侵入参合，对抗汉朝。汉朝派遣柴武带兵前去迎击，柴武先写给韩信说：“皇帝陛下宽厚仁爱，尽管有些诸侯背叛逃亡，但当他们再度归顺的时候，总是恢复其原有的爵位名号，并不加诛杀。这些都是大王您所知道的。现在您是因为战败才逃归匈奴的，并没有大罪，您应该赶快来归顺！”韩王信回信道：“皇帝把我从里巷平民中提拔上来，使我南面称王，这对我来说是万分荣幸的。在荥阳保卫战中，我不能以死效忠，而被项羽关押。这是我的第一条罪状。等到匈奴进犯马邑，我不能坚守城池，献城投降。这是我的第二条罪状。现在反而为敌人带兵，和将军争战，争这旦夕之间的活头。这是我的第三条罪状。文种、范蠡没有一条罪状，但在成功之后，一个被杀一个逃亡；现在我对皇帝犯下了三条罪状，还想在世上求取活命，这是伍子胥在吴国之所以被杀的原因。现在我逃命隐藏在山谷之中，每天都靠向蛮夷乞讨过活，我思归之心，就同瘫痪的人不忘记直立行走，盲人不忘记睁眼看一看一样，只不过情势不允许罢了。”于是两军交战，柴武屠平参合城，并将韩王信斩杀。
刘邦从匈奴降人那里，听到了张胜在匈奴为燕使者的消息，于是判定：“卢绾果然造反了。”公元前195年（汉高祖十二年）三月，刘邦因为箭伤发作病重，以樊哙为将军，率军击燕。后又改以周勃代之。
卢绾听说刘邦生病，带着他的家属、宫人、亲信等共数千骑，在长城下等候，希望刘邦病愈之后，亲自入长安谢罪。然而此时，刘邦已经病重了。
刘邦子侄大限已到，看着的太子刘盈，宽厚而仁爱，恐怕他压不住群雄，便撑着病体，带着群臣到太庙立遗嘱。他命人牵来一匹白马，把白马杀死，然后起誓说：“从今往后，没有功劳的人不能封侯，不姓刘的人不能封王。非刘氏而王，天下共击之。”吕雉问他：“萧相国死后，由谁来接替呢？”刘邦说曹参。吕又后问曹参之后是谁，刘邦说：“王陵可以在曹参之后接任，但王陵智谋不足，可以由陈平辅佐。陈平虽然有智谋，但不能决断大事。周勃虽然不擅言谈，但为人忠厚，日后安定刘氏江山肯定是他，用他做太尉吧。”吕后又问以后怎么办，刘邦有气无力地说：“以后的事你也不会知道了。”
四月刘邦驾崩，卢绾遂带领众人逃亡到匈奴，匈奴封他为东胡卢王。此后卢绾被蛮夷侵占抢掠，常常想着回归汉室，寄居北方一年多以后，在公元前194年死于匈奴，卒年六十三。
刘邦所封的异姓王，唯独吴芮及其子孙世袭的长沙王善始善终，成为其后仅存的异姓王，原因是他和张良关系密切，张良辞官隐居后，在吴芮家中小住，建议吴芮明哲保身，吴芮按张良的建议，低调行事，多次把自己领地割让给刘邦的子女。当时北方由于臧荼、韩王信、陈豨、卢绾的缘故兵荒马乱，吴芮辖区相对平静，吸纳了大量商家南下长沙。吴芮以德政稳定民心，真心实意为百姓谋利，占领南越后，派出大量农业技术人才在南越推广“芮”稻，开发利用当地资源，宣传“重民”理念。吴芮又以示好措施，在广西、越南等边疆地区推行和平共处政策，帮助其发展生产，受到当地百姓尊敬。另外，他还与秦朝南征百越的赵佗长时间和平相处，刘邦将吴芮由衡山王迁为长沙王时，明确将赵佗占据的南海三郡划给了吴芮，但吴芮并没有因此进攻赵佗。汉高祖十一年（前196年）夏，刘邦派遣大夫陆贾出使南越，劝赵佗归汉。在陆贾劝说下，赵佗接受了汉高祖赐给的南越王印绶，臣服汉朝，成为汉朝的一个藩属国。
汉高祖十二年四月二十五日（公元前195年6月1日），刘邦崩于长乐宫，享年六十二岁，葬于长陵（在今陕西咸阳），谥号高皇帝，庙号太祖。
