有一天，他和民伕们一起坐在地上休息。他对大家说：“你们到骊山去做苦工，不是累死也是被打死；就算不死，也不知道哪年哪月才能回乡。我现在把你们放了，你们自己去找活路吧！”
民伕们感激得直流眼泪，说：“那您怎么办呢？”
刘邦说：“反正我也不能回去，逃到哪儿是哪儿。”
当时，就有十几个民伕情愿跟着他一起找活路。刘邦同十几个民伕逃到芒砀（音ｍáｎｇAｄàｎｇ）山躲了起来。过了几天，聚集了一百多人。
沛县县里的文书萧何和监狱官曹参（音ｓｈēｎ）知道刘邦是个好汉，很同情他，暗暗地跟他们来往。
赶到陈胜打下了陈县，萧何和沛县城里的百姓杀了县官，派人到芒砀山把刘邦接了回来，请他当沛县的首领。大家称他沛公。
刘邦在沛县起兵以后，又招集了两三千人，攻占了自己的家乡丰乡。
接着他带了一部分队伍攻打别的县城，不料留在丰乡的部下叛变。刘邦得到这个消息，要回去攻打丰乡，可是自己的兵力不足，只好往别处去借兵。
他到了留城（今江苏沛县东南），正好张良也带着一百多人想投奔起义军。两人遇在一起，很谈得来。他们一商量，觉得附近的起义队伍中，只有项梁声势最大，决定去投奔项梁。
项梁见刘邦也是一个人才，就拨给他人马，帮助他收回丰乡。从此，刘邦、张良都成了项梁的部下。
陈胜、吴广等主要起义领袖死了以后，由于各地起义的领导权都落在旧六国贵族手里，彼此争夺地盘，闹得四分五裂。秦国的大将章邯、李由，想趁机会把起义军一个个击破。
在这个紧要关头，项梁在薛城召开了会议，决心把起义军整顿一下。为了扩大号召，项梁听了谋士范增的意见，把流落在民间的楚怀王的孙子（名叫心）找了来，立为楚王。因为楚国人对当年楚怀王受骗死在秦国，一直为他抱不平。为了提高号召力，大家把他的孙子仍称作楚怀王。