彭城大战的时候，项羽捉获了刘太公和吕雉。广武对峙，他就绑起刘太公来要挟刘邦，说：“你不出来，我就烹了刘太公。”刘邦回答说：“我与你都曾是义帝的臣子，约为兄弟，我父亲就是你父亲，你如果想要烹了自己的父亲，那就请分我一杯羹吧。”
如此言语，突显了刘邦的流氓嘴脸，然而天下无敌的项羽，偏偏就对这个流氓毫无办法。争权夺利的斗争中，温文尔雅的形象是毫无作用的，刘邦的忍耐终于换来了丰硕的成果。项羽无计可施，他做不来干脆把刘太公和吕雉杀掉的决绝之事，便于汉王四年（前203）九月放回刘太公、吕雉等人质，和刘邦和谈，约定双方以鸿沟（在荥阳东南）为界，以东属楚，以西属汉。
和约达成，项羽回师东向。刘邦在张良、陈平的劝说下，突然发兵从后追击，杀至固陵（今河南淮扬西北），因为韩信、彭越不来会合，遭到项羽的反击，再次大败。
韩信在攻克齐地后，考虑到前此刘邦在修武夺取他的士兵，就要求刘邦封其为假齐王（假是代理的意思）。当时刘邦正在荥阳苦守，闻言大怒，却被张良、陈平暗踹其脚，提醒他不能在此紧要关头失去了有力的盟军。于是刘邦面上转怒为喜，回答说：“大丈夫称王就称真的，当什么假王呀。”遂封韩信为齐王。
固陵之战，韩信等又不来救援，刘邦干脆答应破楚以后，把从陈县以东直到海滨的土地都封给韩信，把睢阳以北直到榖城的土地都封给彭越。十二月，韩、彭及英布、周殷等各路兵马齐集，把项羽团团包围在垓下（今安徽灵壁南）。
刘邦让士兵们全都学习楚国歌曲，整晚不停地演唱，项羽听了大惊失色，以为楚地已尽被占领。他慷慨悲歌道：“力拔山兮气盖世，时不利兮骓不逝。骓不逝兮可奈何，虞兮虞兮奈若何！”于是告别心爱的美人虞姬，骑上良马乌骓，率精锐800人奋战突围而出。等到渡过淮河，部下只剩了百余人。
最终项羽逃至乌江（今安徽和县东北）边，从者仅二十八骑。乌江亭长驶一叶小舟前来接他，说：“江东虽小，地方千里，众数十万人，亦足王也。愿大王急渡。今独臣有船，汉军至，无以渡。”项羽慨叹道：“天要灭亡我，还回去干嘛呢？我当年率八千江东子弟西渡，到今天没有一个能跟我回去，就算江东父老可怜我，仍然以我为王，我自己还有什么脸面去见他们呢？”
于是把乌骓送给乌江亭长，自己奋勇迎战追来的汉军，又杀百余人，力尽自刎而死。楚汉战争就此结束，西楚灭亡。
次年（前202）正月，诸侯共举刘邦为皇帝，定都洛阳，西汉建立。
项羽虽灭，但此时的刘邦也只是名义上统一了天下而已。包括韩信、彭越等新封诸侯，以及残存的旧诸侯在内，关东大片土地依然独立于中央管辖之外，汉朝实际控制地域还不足三分之一。刘邦所要迎接的，是一个更复杂、更艰难的削平割据的过程。这个过程，一直延续到他生命结束。
首先，刘邦先要对付自称用兵“多多益善”的天才军事家韩信。他在称帝之初，就将韩信由齐王改封为楚王，以剥离其牢固的山东根据地。汉高祖六年（前201），刘邦伪游云梦，大会诸侯，趁机捕拿韩信，没收封地，降其为淮阴侯。高祖十一年（前196），又捕杀梁王彭越。
韩信、彭越虽然拥兵自大，却还没来得及真正造反，刘邦所面对的第一拨造反势力来自于北方。高祖五年（前202）七月，燕王臧荼造反，九月汉军平灭臧荼，封卢绾为燕王。不久以后，陈豨、韩王信勾结匈奴单于冒顿（音莫毒），南下进攻太原。高祖七年（前200），刘邦亲率大军攻破韩王信，并杀向代谷（今陕西繁峙西北），希望一举击溃匈奴主力。
冒顿把壮士和肥牛马都藏匿起来，刘邦的侦察人员看到的全是老弱残兵，以及瘦弱的牲畜，于是回报说“匈奴可击”。刘邦得到虚假情报，即率32万大军北伐，他所在的先头部队杀到平城（今山西大同西北）白登，被冒顿40万大军团团围住。刘邦被困整整7日，多亏陈平献计，派人贿赂匈奴阏氏（即王后），阏氏劝冒顿说：“两主不相困。今得汉地，而单于终非能居之也。且汉王亦有神，单于察之。”冒顿这才解围退兵。
刘邦逃出生天，采纳娄敬的建议，与匈奴“和亲”。本来是打算真把大女儿送过去的，可是皇后吕雉死也不肯答应，说：“妾唯太子，一女，奈何弃之匈奴？”刘邦没办法，只好挑选了一名宫女，假冒长公主，送去嫁给冒顿。高祖十二年（前195），燕王卫绾也起而造反，被樊哙打败，逃往匈奴。
第二拨造反势力来自于南方。淮南王英布，因为壮年时曾受秦朝的黥刑（在脸上刺字），也被称为黥布，他被项羽封为九江王，后归刘邦，在南方攻击项羽侧翼，建功颇伟。彭越被杀后，英布害怕同样
的命运也迟早会落到自己头上，于是孤注一掷，掀起反旗。高祖十一年（前196）十月，已届暮年的刘邦亲自率兵南下，讨伐英布。
两位老战友临阵对面，刘邦问英布为什么造反，英布回答说：“欲为帝尔。”刘邦大怒，挥军直进，终于平定叛乱，但他也在战斗中被流矢射中。归师途中，刘邦回到老家沛县，召见故人父老子弟，痛饮了十多天酒。他想起百战功成，英雄暮年，天下虽已基本平定，可是如韩信、英布等一流将才也被自己杀得差不多了，北方匈奴是最大的祸患，将来谁可抵御呢？左思右想，慷慨生哀，这才唱出了著名的《大风歌》。
刘邦回到都城后就一病不起。吕雉延请良医前来给他诊脉，医生说“病可治”，刘邦破口大骂：“吾以布衣提三尺剑取天下，此非天命乎？命乃在天，虽扁鹊何益！”喝退良医，不使治病，遂于高祖十二年（前195）四月，病逝于长乐宫中。