这个成语是来自于刘邦的一个典故：

秦二世是个无能的皇帝，他不但信任奸臣赵高，而且还杀了许多忠心的大臣。老百姓都过得很不好，因此，到处都有人起来反抗。而刘邦和项羽就是归属于楚怀王的军队中。
有一天，楚怀王对刘邦和项羽说：“你们谁要是先进入关中，谁就可以称王。”于是，刘邦和项羽分别带着军队像西路和北路出发。
一路上，刘邦没有受到什么阻力，还打了几场胜仗，顺利进了关中。不过，刘邦一进入咸阳城后，显现原本贪酒好色的本性，一直待在宫里不肯出来，完全忘了自己的目的。等到张良去劝他，他才恍然大悟，赶快召集关中父老、英雄们开会，和他们做了三个约定—杀人者死，伤人及盗抵罪，剩下的都可以废掉秦朝法律。
所有的官吏和以前一样平安无事，百姓们得知也都很高兴，四处宣传：“如果刘沛公可以回到关东，那么我们老百姓就有好日子过了。”因此，刘邦很顺利地收买了关中的人心。

汉高祖刘邦（公元前256年或前257年～前195年），字季，沛县丰乡（今江苏省丰县）人，曾做过亭长。亭是县下面最小的行政单位，十里一亭。

有一次，刘邦押着一批民夫到骊山去，一路上民夫不断开小差，刘邦估计到达骊山时，这批民夫会逃跑完的。一天夜里，他叫民夫们都吃饱饭，喝足酒，然后对大家说：“你们干脆都逃走吧，我也准备逃亡了！”说罢，把民夫全部放了。有十几个壮丁看到刘邦如此仗义，不愿离开他，表示要跟他一块去逃亡。

他们一行人乘着黑夜往前逃去。走着，走着，前方探路的人突然跑了回来。向刘邦报告说：“不好了，前面……路上……有……有一条大蛇！”刘邦此时已经醉醺醺的，他乘着酒性说：“壮士走路，怕什么蛇！”他拔出宝剑，壮着胆子，冲上去一剑把蛇砍成两段。壮士们看到他如此勇敢，更加佩服他了。后来，有人把刘邦斩蛇的事，加油添醋地编成一段迷信故事：刘邦斩蛇走了之后，有个老婆婆在死蛇旁边放声痛哭。有人问她为什么哭。她说：“我的儿子被人杀了。”又问：“你的儿子被谁杀了？”她说：“我的儿子是白帝的儿子，他变成一条蛇，躺在路当中，结果被赤帝的儿子杀了。我怎能不哭呢！”说完，老婆婆就不见了。编造这个故事的目的是为了表示刘邦是“真龙天子”，以增加他的号召力，使人们更加拥护他。

陈胜、吴广在大泽乡起义的时候，许多郡县的老百姓纷纷响应。刘邦的老朋友、在沛县当文书的萧何和当监狱官的曹参，打发刘邦的连襟樊哙把逃亡在外的刘邦找了回来。他们经过一番商量，杀了沛县县令，推举刘邦为沛公，在沛县起兵反秦。刘邦根据“白帝、赤帝”的故事，以赤帝的儿子自居，他树起书有“刘”字的赤色旗帜，在沛县一带招兵买马，很快就拥有二三千人。但是刘邦觉得自己力量不足，就带领人马投奔了项梁，开始和项梁并肩作战。

项梁在定陶牺牲后，楚怀王命令项羽北上救赵，派刘邦带兵西进，攻打咸阳，并约定：谁先打进咸阳，平定关中，就封他在关中做王。刘邦带兵一路西进，在高阳采纳郦食其的意见，攻下陈留，解决了军粮不足的问题，又诱使南阳郡守投降，并封其为殷侯，这样，军队前进的阻力减少了。从此，刘邦军队所到之处，秦军纷纷投降，刘邦顺利向咸阳推进。

秦二世三年（公元前207年）八月，刘邦进了武关。十月，打到灞上，秦王子婴见大势已去，就乘了素车白马，带着玉玺，向刘邦投降。

过了几天，刘邦召集各县有威望的父老豪杰到灞上，对大家说：“你们已经吃尽了秦朝的苦头，什么诽谤一下朝政就满门抄斩啦，私下议论一下时势就要杀头啦，这样太残暴了。现在，我只和大家约法三章：第一，杀人要偿命；第二，打伤人要制罪；第三，偷盗的要判罪。除了这三条，其余秦朝的法律一概废除。我是替父老们除害来的，决不坑害大家，希望大家不要害怕，并把我的话转告百姓们。”

老百姓听说刘邦对他们如此宽大仁慈，争先恐后地拿着牛羊肉、酒和粮食来慰劳士兵。刘邦再三推辞说：“仓库里有的是粮食，乡亲们何必破费呢？”老百姓看到刘邦如此爱护他们，都希望他能够永远在关中做王，代替秦朝的统治。