苻坚一想，要是不答应后撤，不是承认我们害怕晋军吗？他马上召集秦军将领，说：“他们要我们让出一块阵地，我们就撤吧。等他们正在渡河的时候，我们派骑兵冲上去，保管能把他们消灭。”
谢石、谢玄得到苻坚答应后撤的回音，迅速整好人马，准备渡河进攻。
约定渡河的时刻到来了，苻坚一声令下，苻融就指挥秦军后撤。他们本来想撤出一个阵地就回过头来总攻。没料到许多秦兵一半由于厌恶战争，一半由于害怕晋军，一听到后撤的命令，撒腿就跑，再也不想停下来了。
谢玄率领八千多骑兵，趁势飞快渡过淝水，向秦军猛攻。这时候，朱序在秦军阵后叫喊起来：“秦兵败了！秦兵败了！”后面的兵士不知道前面的情况，只看到前面的秦军往后奔跑，也转过身跟着边叫嚷，边逃跑。
苻融气急败坏地挥舞着剑，想压住阵脚，但奇兵像潮水般地往后涌来，哪里压得住。一群乱兵冲来，把苻融的战马冲倒了。
苻融挣扎着想起来，晋兵已经从后面赶上来，把他一刀砍了。主将一死，秦兵更是像脱了缰绳的惊马一样，四处乱奔。
阵后的苻坚看到情况不妙，只好骑上一匹马拼命逃走。不料一支流箭飞来，正好射中他的肩膀。苻坚顾不得疼痛，继续催马狂奔，一直逃到淮北才息了口气。
晋军乘胜追击，秦兵没命地溃逃，被挤倒的、踩死的兵士，满山遍野都是。那些逃脱的兵士，一路上听到风声和空中的鹤鸣声（文言是“风声鹤唳”，唳音ｌì，就是鹤鸣声），也当作东晋追兵的喊杀声，吓得不敢停下来。
谢石、谢玄收复了寿阳，派飞马往建康送捷报。
这一天，谢安正跟一个客人在家里下棋。他看完了谢石送来的捷报，不露声色，随手把捷报放在床上，照样下棋。
客人知道是前方送来的战报，忍不住问谢安说：“战事情况怎么样？”
谢安慢吞吞地说：“孩子们到底把秦人打败了。”
客人听了，高兴得不想再下棋，想赶快把这个好消息告诉别人，就告别走了。
谢安送走客人，回到内宅去，他的兴奋心情再也按捺不住，跨过门槛的时候，踉踉跄跄的，把脚上的木屐的齿也碰断了。
经过这场大战，强大的前秦大丧元气。苻坚逃到洛阳，收拾残兵败将，只剩下十几万。但是慕容垂的兵力却丝毫没受到损失。不出王猛所料，鲜卑族的慕容垂和羌族的姚苌终于背叛了前秦，各自建立了新的国家——后燕和后秦，苻坚本人也被姚苌杀了。