公元8年，苻堅準備親率百萬大軍，進攻東晉。按照慣例，前秦內部自然有主戰與主和兩派。主戰派分別是秘書監朱彤，還有唯恐下不亂的鮮卑族的慕容垂與羌族的姚萇。其中朱彤曾經率軍攻取了梁州，所以認為東晉不堪一擊，而慕容垂與姚萇則是希望趁此時機，脫離苻堅的統治，建立各自政權。
主和派則是勢力強大，苻堅的弟弟符融、太子符宏、和尚道安、苻堅老婆張夫人以及已經去世的丞相王猛都是主和派。可是苻堅自己卻是主戰派。所以公元8年的七月，苻堅宣布親自南征。
苻堅將南征路線分為四路，8月初，由前鋒都督符融率領5萬人，從西安出發。西部軍隊由羌族姚萇率領，從四川沿長江而下。北部軍隊從河北出發，西北部軍隊，從甘肅出發。中軍由由苻堅親自坐鎮，領步兵60萬，騎兵7萬，從西安出發。
前秦的軍隊非常分散，西部、西北部、北部、中部各個地方都有軍隊，戰線拉的極長。到了九月份，苻堅率領的中軍到達了河南沈丘（項城），然而這時候隻有符融率領的前鋒軍到達了壽縣西北的正陽關鎮（穎口），河北的兵才到徐州，甘肅的兵更慢，才剛到鹹陽，而姚萇率領的西部軍則是磨磨蹭蹭沒有積極行動。
所以前線隻有符融的5萬軍隊投入了戰鬥。十月十八日，符融先是攻破了壽縣，擒獲了守將徐元喜。然後派梁成率5萬人駐紮在大澗溝（洛澗或洛河），阻擋東來的東晉援軍。
當時東晉丞相是謝安。謝安以弟弟謝玄為主帥帶兵八萬拒敵，另派胡彬率5000水軍，沿淮河進軍支援壽縣。不過，胡彬還未到，壽縣就被符融攻破，所以胡彬的5000援軍就駐紮在了陝石（禹王山旁邊）。謝玄的軍隊，忌憚梁成的5萬人馬，就在距離大澗溝5裏的地方安營紮寨。
此時兩軍的部署已經很明了了，除了胡彬的5000水軍孤軍深入之外，大澗溝以西由前秦軍隊控製，東晉則防守在大澗溝以東。就在雙方對壘之時，符融擒獲了一個由胡彬派出，向謝玄求救的密使，符融認為東晉軍隊已經彈盡糧絕，就有了輕敵的想法。所以馬上派人彙報給苻堅，苻堅於是就脫離大部隊，僅帶了8000騎兵趕到壽縣與符融回合。
這時候的苻堅，輕敵的思想也越來越嚴重，竟然又出了昏招。他派原來東晉襄陽的守將朱序去遊謝玄投降。要知道雖然朱序被俘虜，但是他對東晉也是一門忠烈。當時不僅堅守了襄陽一年時間，而且朱序的老媽都率領婢女修複城牆，來阻擋前秦進攻，可見對東晉的忠誠。苻堅竟然派他去做客，明顯腦子短路了。
朱序到了謝玄那裏，自然是將前秦內部情況一清二楚的透漏給了謝玄，還出了一個主意，讓謝玄趁苻堅的百萬大軍還沒有集合完畢，趕緊主動進攻，這樣獲勝的機會還大一些。謝玄覺得也有道理，於是派劉牢之率領5000軍隊進攻梁成的5萬人。
劉牢之率領的5000人叫做“北府兵”，是由北方流亡到東晉的普通百姓組成的軍隊。