晋安帝复位后，刘裕掌握了东晋大权。刘裕本来是个出身贫苦的小军官，在士族中没有什么地位。他为了提高自己的威望，决定发动北伐。
公元409年，刘裕从建康出发，先出兵包围了南燕（十六国之一）的国都广固（今山东益都西北）。南燕的国主慕容超着急了，向后秦讨救兵。
当时，后秦在北方是个比较大的国家。后秦国主姚兴派使者到晋军大营去见刘裕，说：“燕国和我们秦国是友好邻国。我们已派出十万大军驻扎在洛阳。你们一定要逼燕国，我们不会坐视不救。”
刘裕听了使者这番威胁的话，冷笑一声说：“你回去告诉姚兴。我本来打算灭掉燕国之后，休整三年再来消灭你们。现在既然你们愿意送上门来，那就来吧！”
使者走了以后，有人对刘裕说：“您这样回答他，只怕激怒了姚兴。如果秦兵真的来攻，我们怎么对付？”
刘裕泰然说：“你就不懂得这个理儿。俗话说：‘兵贵神速’，他们如果真的要出兵，就会偷偷出兵，何必先派人来通知呢？这完全是姚兴虚张声势，吓唬我们。我看自己也顾不过来，哪有什么能力救人呢。”
不出刘裕所料，那时候后秦正跟另一个小国夏国互相攻打，还打了败仗，更谈不上出兵救南燕。没有多久，刘裕就把南燕消灭了。
过了几年，刘裕平定了南方的割据力量，再一次北伐，进攻后秦。他派大将王镇恶、檀道济带领步兵，从淮河一带出兵向洛阳方向进攻，自己亲自率领水军沿着黄河进军。
那时候，北方鲜卑族建立的北魏开始强大起来，它的势力已经发展到黄河北岸。北魏在北岸集结了十万大军，威胁晋军。刘裕的水军沿着黄河前进，有时风猛水急，晋军的船只被水冲到北岸，就受到魏兵的攻击。
刘裕派水军上北岸去打魏军，魏兵就逃，等晋军回到船上，他们又在北岸骚扰，弄得晋军来回奔跑，没法顺利进兵。
刘裕派了一个将军带了七百兵士、一百辆兵车登上北岸，沿岸摆开一个半圆形的阵势，两翼紧紧靠着河岸，中间鼓出，当中的一辆兵车上竖了一根白羽毛。因为这种布阵形状像个月钩，所以名叫“却月阵”。
魏兵远远观察着晋军的布阵，不懂是什么意思，也没有敢动。
一会儿，只见晋军中间车上有人举起白羽毛，两侧就涌出了二千名兵士，带着一百张大弓，奔向兵车。
魏兵看看这个阵势，也没有什么大不了，就集中三万骑兵向河岸猛攻晋阵。晋阵上一百辆兵车上的弓箭齐发，仍旧挡不住魏兵。
没料到晋军在却月阵后面，另外布置好一千多支长矛，装在大弓上。这种长矛约有三四尺长，矛头特别锋利。魏兵正向晋军猛攻的时候，晋军兵士们就用大铁锤敲动大弓，那长矛往魏军飞去，每支长矛就能射杀魏兵三四个，三万名魏兵一下子就被射死了好几千。其他魏兵不知道晋军阵后还有多少这种武器，吓得抱头乱窜，全线崩溃。晋军又乘胜追击，杀死了大批魏兵。
刘裕打退魏军，打通了沿黄河西进的道路，顺利西进。那时候，王镇恶和檀道济带领的步兵，已经攻下洛阳，在潼关和刘裕水军会师。接着刘裕派王镇恶攻下长安，灭了后秦。
刘裕灭了后秦，把他一个十二岁的儿子和王镇恶留在长安，自己带兵回南方。
过了几年，晋安帝死去，刘裕认为时机成熟，就派人劝说刚刚即位的晋恭帝让位。公元420年，刘裕即位做了皇帝，改国号为宋。这就是宋武帝。东晋王朝在南方统治了一百零四年，到这时候灭亡了。