谢安派出的将领胡彬，率领水军沿着淮河向寿阳进发。在路上，他得知寿阳已经被前秦的前锋苻融攻破。胡彬只好退到硖石(今安徽凤台西南)，扎下营来，等待谢石、谢玄的大军会合
苻融占领寿阳以后，又派部将梁成率领五万人马进攻洛涧(在今安徽淮南东)，截断了胡彬水军的后路。晋军被围困起来，军粮一天天少下去，情况十分危急。
胡彬派出兵士偷偷送信给谢石告急，说：“现在敌人来势很猛，我军粮食快完，恐怕没法跟大军会合了。”送信的晋兵偷越秦军阵地的时候，被秦兵捉住。这封告急信落在苻融手里，苻融立刻派快马到项城去告诉苻坚。苻坚一连得到秦军前锋的捷报，更加骄傲起来。他把大军留在项城，亲自率领八千名骑兵赶到寿阳，恨不得一口气把晋军吞掉。他到了寿阳，跟苻融一商量，认为晋军已经不堪一击，就派了一个使者到晋军大营去劝降。
那个派出的使者不是别人，恰恰是前几年在襄阳坚决抵抗过秦军、后来被俘虏的朱序。朱序被俘以后，虽然被苻坚收用，在秦国当个尚书，但是心里还是向着晋朝。他到晋营见了谢石、谢玄，像见了亲人一样高兴，不但没按照苻坚的嘱咐劝降，反而向谢石提供了秦军的情报。他说：“这次苻坚发动了百万人马攻打晋国，如果全部人马一集中，恐怕晋军没法抵挡。现在趁他们人马还没到齐的时候，你们赶快发起进攻，打败他们的前锋，挫伤他们的士气，就可以击溃秦军了。”
朱序走了以后，谢石再三考虑，认为寿阳的秦军兵力很强，没有把握打胜，还是坚守为好。谢安的儿子谢琰劝说谢石听朱序的话，尽快出兵。
谢石、谢玄经过一番商议，就派北府兵的名将刘牢之率领精兵五千人，先对洛涧的秦军发起突然袭击。这支北府兵果然名不虚传，他们像插了翅的猛虎一样，强渡洛涧，个个勇猛非凡。守在洛涧的秦军，不是北府兵的对手，勉强抵挡一阵，败了下来，秦将梁成被晋军杀了。秦兵争先恐后渡过淮河逃走，大部分掉在水里淹死。
洛涧大捷，大大鼓舞了晋军的士气。谢石、谢玄一面命令刘牢之继续援救硖石，一面亲自指挥大军，乘胜前进，直到淝水(今淝河，在安徽寿县南)东岸，把人马驻扎在八公山边，和驻扎寿阳的秦军隔岸对峙。
苻坚派出朱序劝降以后，正在洋洋得意，等待晋军的投降，突然听到洛涧失守，像头上挨了一下闷棍一样，有点沉不住气。他要苻融陪着他到寿阳城楼上去看看对岸形势。苻坚在城楼上一眼望去，只见对岸晋军一座座的营帐排列得整整齐齐，手持刀枪的晋兵来往巡逻，阵容严整威武。再往远处看，对面八公山上，隐隐约约不知道有多少晋兵。其实，八公山上并没有晋兵，不过是苻坚心虚眼花，把八公山上的草木都看作是晋兵了(文言是“草木皆兵”)。
苻坚有点害怕了，他转过头对苻融说：“这确实是强大的敌人啊！怎么能说他们弱呢？”打那以后，苻坚命令秦兵严密防守。晋军没能渡过淝水，谢石、谢玄十分着急。如果拖延下去，只怕各路秦军到齐，对晋军不利。
谢玄派人给苻坚送去一封信，说：“你们带了大军深入晋国的阵地，现在却在淝水边摆下阵势，按兵不动，这难道是想打仗的吗？如果你们能把阵地稍稍往后撤一点，腾出一块地方，让我军渡过淝水，双方就在战场上比一比输赢。这才算有胆量呢！”
苻坚一想，要是不答应后撤，不是承认我们害怕晋军吗？他马上召集秦军将领，说：“他们要我们让出一块阵地，我们就撤吧。等他们正在渡河的时候，我们派骑兵冲上去，保管能把他们消灭。”
谢石、谢玄得到苻坚答应后撤的回音，迅速整好人马，准备渡河进攻。约定渡河的时刻到来了，苻坚一声令下，苻融就指挥秦军后撤。他们本来想撤出一个阵地就回过头来总攻。没料到许多秦兵一半由于厌恶战争，一半由于害怕晋军，一听到后撤的命令，撒腿就跑，再也不想停下来了。
谢玄率领八千多骑兵，趁势飞快渡过淝水，向秦军猛攻。
这时候，朱序在秦军阵后叫喊起来：“秦兵败了！秦兵败了！”后面的兵士不知道前面的情况，只看到前面的秦军往后奔跑，也转过身跟着边叫嚷，边逃跑。苻融气急败坏地挥舞着剑，想压住阵脚，但奇兵像潮水般地往后涌来，哪里压得住。一群乱兵冲来，把苻融的战马冲倒了。苻融挣扎着想起来，晋兵已经从后面赶上来，把他一刀砍了。主将一死，秦兵更是像脱了缰绳的惊马一样，四处乱奔。
阵后的苻坚看到情况不妙，只好骑上一匹马拼命逃走。不料一支流箭飞来，正好射中他的肩膀。苻坚顾不得疼痛，继续催马狂奔，一直逃到淮北才息了口气。晋军乘胜追击，秦兵没命地溃逃，被挤倒的、踩死的兵士，满山遍野都是。那些逃脱的兵士，一路上听到风声和空中的鹤鸣声(文言是“风声鹤唳”，唳音lì，就是鹤鸣声)，也当作东晋追兵的喊杀声，吓得不敢停下来。谢石、谢玄收复了寿阳，派飞马往建康送捷报。
这一天，谢安正跟一个客人在家里下棋。他看完了谢石送来的捷报，不露声色，随手把捷报放在床上，照样下棋。客人知道是前方送来的战报，忍不住问谢安说：“战事情况怎么样？”谢安慢吞吞地说：“孩子们到底把秦人打败了。”客人听了，高兴得不想再下棋，想赶快把这个好消息告诉别人，就告别走了。
谢安送走客人，回到内宅去，他的兴奋心情再也按捺不住，跨过门槛的时候，踉踉跄跄的，把脚上的木屐的齿也碰断了。
经过这场大战，强大的前秦大丧元气。苻坚逃到洛阳，收拾残兵败将，只剩下十几万。但是慕容垂的兵力却丝毫没受到损失。不出王猛所料，鲜卑族的慕容垂和羌族的姚苌终于背叛了前秦，各自建立了新的国家——后燕和后秦，苻坚本人也被姚苌杀了