秦末，起兵反秦的各地部队中，要算项羽和刘邦这两部分兵力最为强大。那时，以项羽为首的各路起义将领，在河北一带，彻底消灭了秦将章邯率领的主力军；同时，刘邦长驱直入，向西进兵，攻下秦都咸阳，摧毁了秦朝的统治。
据《史记•髙祖本纪》说，刘邦当时比较重视民心的向背，军纪也比较好。刘邦的部队，进至灞上（灞上以西的白鹿原，在今陕西西安市东)的时候，秦王（子婴）前来投降，脖子上套着带子，双手捧着皇帝的印，跪在道旁，有的将领主张把秦王杀了，刘邦不同意，说：“他既已投降，就不必杀他了。”当即把他看管起来，大军于是开入咸阳。刘邦见秦宫中宫室壮丽，珍宝无数，颇想享受一番，樊哙[kuài]、张良一致劝阻，于是把财物府一律封存，不许擅动。并且把部队撤出城外，驻扎在灞上。
刘邦当时召集各县代表人物举行了会议，刘邦对大家说:“各位父老们，你们已被暴秦折磨够了，我现在宣布废除秦的一切苛法,地方官吏照常工作。我们是为父老们除害来的，不是来欺压你们，请不要害怕！我们的部队，已经撤回灞上，等各地将领到来以后再共同商定今后的大事。”刘邦为安定秩序、收拾人心，还宣布了三条约法，他说：“与父老约，法三章耳：杀人者死，伤人及盗抵罪。”（杀了人的要偿命，伤害了人的要治罪,抢劫了东西的要惩处。）刘邦还派出人员会同秦朝原来的地方官吏，在各县各乡普遍宣传。关中各地群众，因此都安定下来,有的拿着牛肉羊肉和酒食，来慰劳刘邦的部队。刘邦不受，说道：“我们部队军粮很充足，并不缺乏，不劳破费！”于是群众更加拥护，都希望刘邦继秦为王。
由于上述刘邦的“与父老约，法三章耳”，后来就产生了成语“约法三章”。它形容：公开讲定条件（不一定三条），切实遵照执行。
《汉书•刑法志》：“汉兴之初，虽有约法三章，网漏吞舟之鱼。”
邹韬奋《经历•种种尴尬》我们很郑重地和工头约法三章，什么时候交稿，什么时候看校，什么时候拼版。”