刘邦原名刘季，排行第三，老家在沛县丰邑（今江苏丰县）的中阳里。战国时代，这里属于楚国管辖，楚在被秦夺取了旧都郢（今湖北江陵北）以后，就东缩局促于苏、皖和浙北地区，再难振作。秦王政二十四年（前223）年，秦将蒙武攻入寿春（今安徽寿县），楚国末代君主昌平君战死，大将项燕自杀，楚国灭亡，刘邦的老家也因此被并入秦的泗水郡——那年刘邦应该是25岁，或者34岁，总之，已经成年了。
然而大概由于出身太低，刘邦本人倒并没有什么亡国之痛，据说他曾经前往都城咸阳，看到秦始皇出行，排场盛大，不禁叹息说：“嗟乎，大丈夫当如是也！”而一点没有感到悲痛或愤怒。他的父亲名字已不可考，可能叫刘执嘉，史称刘太公，母亲王氏。
刘邦本人的相貌据说相当有威严，高颧骨，挺鼻梁，胡子又长又黑，最奇特的是左腿上竟然长着72颗黑痣——古人认为这个数字很吉利，主大贵之相。
刘太公薄有家财，可能是富农或者小地主，生了好几个儿子，日子过得还算太平。可惜老三刘季不成器，整天游手好闲，结交一班地痞流氓，不肯好好干活，振兴家业。在太公想来，这儿子唯一的长处就是好交朋友，不如给他弄个小吏当当，刘邦对此倒不反对，于是便做上了泗水亭长。
秦以十里为一亭，亭设亭长，相当于后世的里长。泗水亭在沛县以东，隔泗水相望。这个亭长职务本应该是不轻松的，古代官、吏区别很大，亭长为吏，俸禄不高，要管的杂七杂八的事务可实在不少。刘太公没想到这个儿子连做吏也不踏实，整天喝酒使性，还侮辱同僚取乐，遂愤恨得骂他“无赖”。但是单父（今山东单县）人吕公倒很看得起刘邦，主动提出把女儿吕雉嫁给他做正妻——也就是后来的西汉高皇后。
刘邦在家乡过着游手好闲的日子，天下大势却发生了翻天覆地的变化。秦始皇三十六年（前210）七月，始皇帝嬴政病逝于沙丘平台（今河北省平乡县东北），次子胡亥阴谋篡位，是为秦二世。二世元年（前209）七月，陈胜、吴广在大泽乡（今安徽宿县东南刘村集）揭竿而起，拉开了秦末农民大起义的序幕。
其实在此之前，正当着泗水亭长的刘邦就已经准备造反了。他造反的理由，和陈胜、吴广颇有异曲同工之妙，也是押送一批农民去服徭役，只不过目的不是去渔阳戍边，而是去郦山建造始皇帝陵墓，不是因为延误日期，而是因为沿途多人逃亡，估计等到了关中，恐怕只能剩下自己一个了。
反正完不成任务是死罪，刘邦干脆横下一条心来，召集大家喝酒，说：“你们想逃就都逃吧，我也准备隐姓埋名去过流亡生活。”众人一哄而散，只有十几个青年感慕他的“义举”，愿意跟他一起逃亡。
据说当晚，一行人乘着酒意乱蹿，突然撞见一条大蛇拦在路中，刘邦大喝道：“壮士行，何畏？”冲上去一剑把蛇斩为两段。后来有人再经过此地，见到一位老妇哀哀痛哭，问她原因，回答说：“我儿子是白帝之子，变做一条蛇卧在当地，结果被赤帝之子杀掉了。”这就是高祖斩白蛇起义的传说，所以后来五行学说昌盛了，称汉为“火德”，服饰尚赤。
刘邦既已逃亡，不敢回家，就藏匿在芒、砀两山（今安徽砀山东南）间，跟从者日益增多。等到陈胜、吴广举事以后，关东很多郡县的百姓都杀死长官，打开城门响应起义军。消息传到沛县，沛县县令坐不住了，他想与其被人杀掉，不如自动投诚，或许还能保住一条活命。县令找来主吏萧何和狱椽曹参，和他们商议此事。
两人建议说：“您是秦朝的官吏，现在想背叛秦朝，这种反常的举动很难令人相信，更难使人跟随。现在因为反抗秦的暴政而逃亡在外的本地人有好几百，您不如派人去招他们回来，威吓县内众人，大家就不敢不听从了。”县令赞成他们的建议，于是萧何、曹参就派樊哙去请刘邦。
萧何、曹参以及樊哙，全都是刘邦的老朋友，他们的意图非常明显，是想架空县令，而拥刘邦为主，树起反秦大旗。这一阴谋终于还是被县令看破了，紧闭沛县城门，不肯放刘邦进去，还满城搜杀萧何、曹参。
萧何、曹参翻越城墙前往投奔刘邦，刘邦射了一封箭书入城，晓喻百姓说：“天下苦秦久矣。今父老虽为沛令守，诸侯并起，今屠沛。沛今共诛令，择子弟可立者立之，以应诸侯，则家室完。不然，父子俱屠，无为也。”城中父老响应刘邦的号召，杀死县令，迎接他入城，并想让他当沛县县令。
刘邦还待推辞，可是萧何、曹参那帮家伙都怕万一起义失败，全家都会被秦诛灭，大家都往后缩，谁也不敢当头领。最终刘邦只好自称“沛公”，正式举起了反秦的大旗，召集县中青壮子弟，很快就聚集了数千兵马。
秦二世元年（前207）十月，刘邦攻占胡陵（今山东金乡东南）、方与（今山东金乡北）两县，随即在丰邑击破秦泗水郡监的讨伐军。十一月，又在薛县（今山东滕州东南）、戚县（今山东滕州南）击杀了秦泗水郡守。
然而就在他的势力逐步壮大的时候，当年十二月，陈胜在下城父（今安徽蒙城西北）遇害，以章邯为主将的秦军开始了大规模反扑。刘邦从丰邑、沛县一直转战到萧县（今安徽萧县）一带，兵马越打越少，唯一的收获是得到了一个名叫张良的人才。
张良字子房，是韩国旧贵族的后代，城父（今安徽亳州东南）人。自从韩国灭亡后，他就心存报仇之念，曾于秦始皇二十八年（前219）在博浪沙（今河南原阳东南）狙击过秦始皇出巡的车驾。他雇佣了一名大力士，手持铁椎奋力向秦始皇乘坐的马车掷去，可惜事先情报不准，只砸碎了副车。秦始皇大怒，派人在附近大肆搜索了整整十天，张良无地存身，改名换姓，狼狈逃到下邳（今江苏宿县西北）。
张良在民间蛰伏了将近十年，其间据说得遇“圯下老人”，传授他《太公兵法》。圯就是桥梁，张良某日从桥上经过，见到一位老人不慎把鞋子落到了桥下。老人很不客气地对他说：“孺子，下取履（鞋）。”张良倒不生气，不但下桥去取了鞋子，还恭恭敬敬帮老人穿上。
老人大笑而去，过一会又折回来说：“孺子可教也。”要他五日后天一亮就到桥上来等。张良如约前往，老人已在桥上，责备他说：“和老年人定约，你怎么能晚到呢？”约定五日后再见。张良等了五天，公鸡才叫就去了，可还是慢了老人一步。再约五天，这回张良学了乖，大半夜地就等在桥上，等了没多久，老人就到了，很高兴地给了他一本书，说：“读此则为王者师矣。后十年兴。”
关东起义烽火燃起，张良也聚集了百余名青年响应。因为听说陈人秦嘉杀害了陈胜派去的监军，在留（今江苏沛县东南）立景驹为楚王，就前往投靠，路遇刘邦。张良向刘邦讲起《太公兵法》，大老粗刘邦竟然一听就懂，张良叹道：“沛公殆天授。”就跟从刘邦，做了厩将。