伍尚说：“我知道去了最后也不能保全父亲的性命。可是只恨父亲召我们是为了求得生存，要不去，以后又不能洗雪耻辱，终会被天下人耻笑。”又对伍子胥说：“你可以逃走，你能报杀父之仇，我将要就身去死。”
伍尚接受逮捕后，使臣又要逮捕伍子胥，伍子胥拉满了弓，用箭对准使臣，使臣不敢上前，伍子胥就借机逃走。
伍奢听说伍子胥逃跑了，就说：“楚国君臣将要苦于战火了。”伍尚来到楚都，楚平王就把伍尚和伍奢一块儿杀了。
伍子胥逃到昭关(在安徽含山县)的一条江边，没有办法过江，后面又有追兵，他害怕被抓之后不能报大仇，因为焦虑，一宿间满头的黑发变得雪白，这就是“一夜白头”的典故伍子胥年纪轻轻就已经是满头银发了。
一个在江上打鱼的老渔翁发现他在江边乱转，就渡他过江，伍子胥很感激，当场就把身上的佩剑解下来递给渔翁，说：“这是我贴身的佩剑，价值百金，送给老丈且当酬劳吧。”老渔翁摇头表示不要：“按照楚国的法令，能抓住伍子胥的人，赏粮食五万石，封执圭的爵位(楚最高爵位)，我如果贪图财物就不会渡你过河。”
拜谢了老渔翁，伍子胥要饭逃到了吴国，当时吴王僚刚刚当权执政，吴王僚的堂兄弟公子光做将军。因为有才干，伍子胥就通过公子光的关系在吴国做了官。
有一天，他走在街上看到很多人围在一起，就好奇地去看。原来是一个人准备和另外好几个人打架，那个人准备扑向另外几个人的时候，表现出的愤怒万夫难敌，连天上的行云都为之停步，还没有动手那几个人就吓坏了。正在这时，一个女子的声音轻轻地叫了一声：“专诸!”那个人马上收手，乖乖跟着女子就回去了。这大概是历史上记载的最早的怕老婆的故事了。
伍子胥很是纳闷，就尾随那个叫专诸的人回家，问他当时的情况：“我看壮士在盛怒之下的杀气足以动摇天地，连我伍子胥都为之战栗，为什么您听到一个女子的呼唤就回去了呢?”专诸说：“我今天屈身一人之下，他日必定出头于万人之上。”伍子胥暗自赞叹，再看专诸的容貌，目深口阔，知道他不是一般人，就暗地里和他结交。
过了很久，由于楚国和吴国的边境都养蚕，两国的女子为了争采桑叶大打出手，楚平王听说了大发雷霆，就出兵攻打吴。吴国派公子光出战，并且攻占了楚国的边城，但是公子光很快就撤军回国。这时候，伍子胥就劝说吴王僚，说：“楚国是可以打败的，应该命令公子光乘胜继续打下去。”
公子光听说了，就对吴王说：“伍子胥的父亲、哥哥都是被楚国杀死的，他劝说大王攻打楚国，是为了报他的私仇，并不是真心为吴国考虑。”吴王听从了公子光的建议，不再出兵。
伍子胥感觉到公子光是个很难对付的人，手里又握有兵权，就刻意接近他，时间长了，又发现公子光有野心，想杀死吴王自立为君。既然不能用对楚用兵的建议劝说公子光，就献计让公子光刺杀吴王，并向公子光推荐专诸做刺客。为避嫌疑，伍子胥离开朝廷到乡下种地去了。
又过了五年，楚平王死了，平王和当初从太子建那儿夺来的秦国女子生的儿子即位，就是楚昭王。
吴王僚趁楚国办丧事，就派他的两个儿子领兵袭击楚国，至使吴国国内空虚。公子光一看机会来了，就于四月丙子日请吴王僚赴宴。
吴王僚在赴宴前问他的母亲：“公子光为我准备了酒席，前来邀请我聚会，该没有什么变故吧?”母亲说：“光最近心神不宁，常常有羞愧怨恨的神色，不能不小心谨慎。”
于是，吴王僚穿了三层狻猊铁甲，派手执武器的卫兵排列在路旁，从王宫的大门一直排到公子光家的大门，台阶、坐席、身旁，都是吴王的亲信，两旁站着的侍卫都手握长戟，并把戟的横刃互相交错着来防卫。真可以说是壁磊森严啊。
公子光一看，以为自己的事情败露了，打算取消行动。专诸劝阻说：“千万不可，我看僚的表情并不像知道我们要暗杀他。况且如今箭在弦上，不杀是不行了。”公子光就听了专的的话。