九月，苻坚率领的主力军攻下项城（今河南项城），在这里驻扎下来。苻融的先锋部队经过一个多月的日夜行军，已经到了淮河北岸的颍口（今安徽颍上县正阳镇），并且向淝水（淮河支流，在今安徽寿县境内）西岸的重镇寿阳（今安徽寿县），展开了进攻。

前秦大军压境，东晋宰相谢安和将军桓冲坚决主张抵抗。晋孝武帝任命谢安为战时最高统帅──征讨大都督。谢安胸有成竹，从容不迫地进行抗战部署。他推派谢石代理征讨大都督的职务，负责指挥全军；谢玄担任前锋都督，连同青年将领谢琰（yan演）和桓伊等一起，率领八万名“北府兵”(北府兵，东晋时军府设在京口（今江苏镇江），在京都建康之北，因而称北府；北府兵主要由流落江南的北方农民组成。)沿淮河西上；另派将军胡彬率领水军五千人去增援战略要地寿阳。

苻坚依仗自己的兵多，他不等各路人马到齐，就命令苻融向普军发动猛烈进攻。十月，胡彬的水军还没有到达寿阳，苻融就把寿阳攻破了。胡彬在半路上听到寿阳失守的消息，被迫把部队退到一边是河水，一边是高山的硖石（今安徽凤台西南），在这个地势险要的地方扎下营来。专等谢石大军的到来。苻融占领了寿阳以后，一面派兵围攻硖石，一面派梁成率领五万军队控制了洛涧（即洛水注入淮水的地方，在今安徽淮南东）。梁成封锁了淮水，阻止从东面来援的谢石、谢玄大军。谢石命令晋军在离洛涧二十五里的地方，驻扎下来。

谢石的大军不能前进，被围困在硖石的胡彬水军就孤立了，眼看军粮就要吃光，情况十分危急。为了迷惑敌人，胡彬命令士兵们拿着簸箕，天天在河岸上扬簸沙土，使远处的秦军看见，好象是在扬米，表示自己的军粮还很充足；同时，他又给谢石写了一封告急信，说：“现在敌军势力很大，这里的军粮已经吃完，情况十分紧急，恐怕再不能和大军相见了。”他把密信交给了一个亲兵，叫他乘夜突围出去，送给谢石。不幸这个亲兵在途中被秦军捉住，告急的密信也给搜去了。苻融得到胡彬缺粮的情报，立即派人星夜到项城去报告苻坚，说：“现在晋军人少粮尽，正是打败他们的好机会，应该马上发动进攻，不能叫他们跑了。”

狂妄自大的苻坚正在为攻占项城沾沾自喜，听到苻融的密报，更是心花怒放。当天晚上，苻坚把大军留在项城，悄悄地带领八千名轻骑兵，不分昼夜地奔往寿阳。他到达后，和苻融计议了一下，决定先派朱序到晋军去劝降。朱序原来是东晋防守襄阳的将领，襄阳失守时被俘。朱序到晋营后，不但没有劝降，反而向谢石透露了秦军的真实情况，并且建议谢石：应乘前秦各路兵马还未集中，立即发起反攻，只要打败它的前锋，挫伤它的锐气，秦军是不难打败的。谢石和谢玄等仔细地研究了朱序的密报，决定派刘牢之带领五千名北府兵，夜袭洛涧。刘牢之是北府兵的有名勇将，他在战斗中，斩杀案将梁成。秦军失去主将，无心再战，晋军乘胜追击。谢石率领晋军主力渡过洛涧，在淝水东面的八公山（今安徽寿县东北）下，扎下营寨。

洛涧方面失利的消息接二连三地传到寿阳，苻坚心中忐忑不安，他和苻融一起登上寿阳城楼，瞭望晋军的动静。他向东望去，只见晋军阵容严整，旗号鲜明，不由得暗自吃了一惊。他迎风向北远望，恍惚之间，好象八公山上，漫山遍野都是晋军。他感到十分意外，转身对苻融说：“你看，晋军这么多人马，明明是强敌，怎么能说他们是弱军呢！”他连忙下令，要各军严密防守淝水防线，没有他的命令，谁也不许渡水出击。其实，八公山上哪里有什么晋军呢，是北风把山上的草木吹得左右摇摆。苻坚因为内心慌乱，造成错觉，误以为是晋军在那里练兵习武哩！这段史实，就是后来“草木皆兵”一句成语的来历。

秦军虽然在洛涧吃了败仗，锐气受到一些挫折，但是人数仍然比晋军多好几倍。晋军只有速决，才有取胜的可能。普将谢玄派人用激将法去对苻融说：“将军领兵深入我境，却沿淝水布阵，这是作持久的打算，哪里是要进行决战呢？如果你们把阵地稍稍向后移动一下，让出一块地方，使晋军渡过淝水，两军决一胜负，不是很好吗？”苻融把晋使的要求报告给苻坚，苻坚不顾诸将反对，同意将阵地后撤，以便趁晋军渡河时进行突然袭击，一举打败晋军。

到了约定的日子，苻坚传下将令，叫秦军拔营后退。秦军本来内部不稳，阵势混乱，这一撤更加造成阵势大乱。谢玄等带领八千骑兵乘势抢渡淝水，展开猛烈攻击。朱序在阵后高喊：“秦军败了，秦军败了！”秦军后方部队一听，一时分辨不清是真是假，争着选命。苻融赶快跑到阵后去阻止队伍后退，被乱军冲倒坐骑，死于晋军刀朝之下。苻坚看到前线这样大败，吓得丧魂落魄，慌忙跳上战马，混在乱军中狼狈奔逃。晋军乘胜猛追，秦军人马互相践踏，死伤很多。幸存的秦军官兵昼夜不停地奔跑，连头也不敢回一下，甚至听到随风吹来的鹤叫声音也以为是晋军追兵到了。这就是后来“风声鹤唳成语的来历。那时候；正是十一月，天气严寒，这些逃出来的秦兵，在惊慌的同时，更伴随着冻饿，又死亡了不少。苻坚本人也中箭负伤。他逃回洛阳时，原来的几十万大军，只剩下十几万残兵败卒了。

淝水之战是东晋和十六国时期最大的一次战争。前秦从大举进攻到淝水决战，前后只有四个月的光景，就全线崩溃了。经过这一战，东晋相对稳定的局面得到了巩固，江南的经济、文化进一步发展。与此相反的是，由于苻坚的失败，前秦政权随之瓦解，北方再度陷入割据混乱的局面。