刘牢之的死像一支鲜血染就的路标为刘裕指明了方向，但他明白，现在还不是时候。所以他只是默默地脱下戎装，回到了老家京口。刘裕的以退为进使他躲过了杀身之祸，得势之后的桓玄尽诛北府旧将，只有刘裕得以幸存。
两年后，篡晋为楚的桓玄人心尽失，刘裕在京口与何无忌、魏咏之、檀凭之、檀道济、刘毅、孟昶等二十七人结盟起事，兴义兵诛讨桓玄。从此，这支由下等士族和军官组成的崭新政治力量迅速崛起，一举打破了南渡以来东晋的门阀政治格局。在刘裕的领导下，仅仅数天义兵就攻入了建康，一年后迎回晋安帝，平定桓玄之乱，而刘裕也凭借再造晋室之功被封为镇军将军、徐兖刺史、都督十六州诸军事，掌握了朝廷大权。（晋安帝本来要封刘裕更大的官职，但刘裕坚决不受，还是实权要紧。）