自惭形秽原是出自《荀子》中的“兼爱非攻”一篇。其中有一句话是“吾日三省吾身：为人谋而不忠乎？与朋友交而不信乎？传不习乎？”这句话中的“省吾身”说的就是自我反省，自我检讨的意思。再结合“为人谋而不忠乎？与朋友交而不信乎？传不习乎？”三个问题，就形成了“自勉，自问”与“自惭，自省”的意思，由此就有了“自省自惭”的含义。
而另有一种说法，据传春秋时期，吴国有一个名叫季札的士人，他曾独自潜心研究诗书礼乐，不食人间烟火。后来，当他得到机会去见孔子时，却因见到孔子的文采高于自己，使他内心自惭形秽，最终归隐于大山之中。
如此看来，“自惭形秽”的寓意已经非常明显，就是说在面对比自己更出色的人或比较自己的不足时，深感惊讶并从中找到超越自己的动力，并在这种自我惊讶和反思中成长。