春秋时期，越国和吴国是邻国，越国趁着吴国忙于进攻楚国而经常出兵去袭击吴国的边境。吴国被惹烦了，就出兵讨伐越国，不料却吃了败仗，吴王阖闾也因为受伤而死去。他的儿子夫差继承吴王之位后，为报父仇，励精图治，后来大败越国，并乘胜攻入了越国的都城。越王勾践率领着仅存的五千残兵败将退到了会稽，并派人向吴国求和。
吴国的大臣伍子胥对夫差说：“越王勾践为人能含辛茹苦，今天要是大王不一举歼灭他，将来一定会后悔。”可是吴王夫差因为这次的大胜而骄傲自满，根本听不进伍子胥的劝谏，下令准许越国议和。吴王大胜越国以后，夫差自以为从此可无后顾之忧了，于是一心想到中原和晋国、齐国等国家比试比试，分个高下。而这时的越王勾践时刻不忘丧国之耻，卧薪尝胆，越国的国力渐渐恢复起来。伍子胥又规劝夫差说：“勾践一餐没有两味荤菜，哀悼死去的，慰问有病的，将打算有所作为。这个人不死，一定是吴国的祸患。现在吴国有越国在身边，就像得了心腹疾病。(原文是：‘越在我，心腹之疾也。’)大王不先铲除越国，却一心致力攻打齐国，不是很荒谬吗?”可吴王还是不听伍子胥的规劝。由于他连年用兵，结果国力空虚，终于在公元前473年被越国消灭了。
成语“心腹之患”由“心腹之疾”演变而来，比喻隐藏在内部的严重祸害。