改过自新一词出自汉朝司马迁所著《史记·孝文本纪》。

淳于意年轻时，先后在公孙光、公乘阳庆门下学习医术。两年后，淳于意为人治病，常常是药到病除，很快成为了名医。淳于意喜欢云游，拒绝给权贵的侍医，因此得罪了不少权贵。在淳于意当上太仓长后，有人告发他不为人医治，被朝廷判罚肉刑。临行前，他的五个女儿嚎啕大哭。淳于意抱怨自己没有儿子，在危急关头没人帮助自己。小女儿缇萦听后非常悲痛，并暗下决心解救父亲。缇萦跟着父亲到长安后，她上书朝廷，请求给予父亲改正错误的机会，并愿意替父受罪。汉文帝看了奏表后，被她的孝心感动，便赦免了淳于意的罪，并废除了肉刑。

后来，人们把这个故事演变成成语改过自新，意思是改正错误，重新做人。