鸿沟协议后，项羽率领楚军向东撤退了。刘邦也打算向西撤退。张良和陈平却一致认为不能放虎归山。他们对刘邦说：“现在汉王已经占有大半个天下，很多诸侯都拥护您。项羽兵疲粮尽，这正是灭楚的好机会。今天如果放走项羽，不去追击他，打个比方说，这就等于是养着老虎害自己呀！”(原文见《史记·项羽本纪》)刘邦认为他们俩说得有理，决定利用项羽向东撤退疏于戒备的时机，突然发兵追击，并且约会韩信和彭越南下会师，共同歼灭楚军。
汉王刘邦五年(公元前202年)十二月，项羽全军被汉军包围在垓下(今安徽省灵壁县东南)。楚军几次和汉军交战都不能取胜，兵力损失很大。为了瓦解楚军斗志，刘邦命令士兵大唱楚国歌曲。楚军听了，人人思乡厌战，军心大为动摇。一天夜里，项羽正在帐中饮酒解愁，忽然听到从四面传来楚军的歌声，他大吃一惊，疑惧地说：“汉军已经把楚地都占领了吗？要不然汉军里头怎么有这么多的楚人呐！”当时，他最宠爱的美人虞姬正在陪侍着他，一匹驰骋沙场、身经百战的乌骓(毛色青白色的马)马还拴在营帐外边。项羽心乱如麻，非常绝望，不禁流着眼泪，唱出一首慷慨悲凉的歌来：“力拔山兮气盖世，时不利兮骓不逝。骓不逝兮可奈何，虞兮虞兮奈若何！”(《史记·项羽本纪》)这几句歌词译成白话就是：力大能够拔山啊，壮气压倒了世间的一切；不料时机不利啊，连乌骓马也不济！乌骓马不济了啊，那可叫我怎么办？虞姬啊，虞姬！我怎么能对得起你！
项羽反复地唱了几遍。虞姬也作歌相唱和道：“汉兵已略地，四面楚歌声。大王意气尽，贱妾何聊生。”虞姬唱完歌，便自刎身死了。
项羽乘着天还没亮，骑上乌骓马，带着剩下的800名骑兵舍命突围南走。天亮的时候，汉军发觉项羽已经逃走，就派了5000名骑兵追击。项羽狼狈逃窜，向南渡过淮水。这时候跟随他的骑兵只剩下100多人了。他们迷了路，向一个农夫问路。农夫故意指点相反的方向，使他们陷入沼泽中。大队汉兵追赶上来，把他们重重包围在乌江(今安徽省和县东北长江边上)地方。这时候，项羽只剩下28名骑兵，他知道自己怎么也逃不脱了。不过他还是顽强地作了最后的挣扎。项羽把28名骑兵分成四队，冲入汉军阵地，杀死了一些汉军兵将。他来到乌江岸边，乌江亭长请他赶快上船渡江。项羽感到没有面目再见江东父老，不愿上船，他把乌骓马赏给了亭长，然后和汉军展开了步战，又杀死许多汉兵，自己也受了重伤，最后自杀身死。
项羽感到没有面目再见江东父老，不愿上船。
在楚、汉成皋一垓下之战中，开始的时候，项羽的兵力和声威都比刘邦强大得多，结果却是刘胜项败。这首先是由于刘邦和项羽代表着统一和分裂的两种不同的政治主张。项羽和刘邦在推翻秦朝的斗争中，都有过很大的贡献。可是在灭秦以后，项羽代表旧封建贵族的利益，分封了许多诸侯王，违反了人民建立统一国家的愿望；加上他在战争中，坑杀降卒，虏掠老弱妇女，引起人民的怨恨。刘邦代表当时新兴地主阶级的利益，他要建立一个统一的新兴的封建政权，符合当时历史发展的趋势，在客观上也符合当时广大人民的愿望。在政治上，刘邦废除秦朝的苛法，注意争取人心，因而获得人民一定程度的拥护。人民支持刘邦，反对项羽，是刘胜项败的根本原因。
在军事上，刘邦对于战争全局处置得比较得当，能做到正面坚持、敌后骚扰和两翼牵制相配合的战略原则，因而迅速改变了双方力量的对比，完成了对楚军的战略包围，使楚军陷于多面作战、疲于奔命的困境。在项羽势衰力竭、形势发生了根本变化的时候，刘邦立即集中优势兵力，转入追击，全部歼灭了楚军，取得了最后胜利。项羽恰好相反，他虽然拥有较强的实力，在军事指挥上也有一定才能，但是在战略上没有通盘考虑。他过高地估计了自己的力量，过低地估计了对手的力量；又不注意运用智谋，四面出击，到处求战，总是摆脱不了顾此失彼的被动地位，使他的部队疲于奔命，弄得士气消沉，人心厌战，最后落得个“四面楚歌，一败涂地”的结局。