受朱序的建議，決定一戰。
十一月初，謝玄派北府軍第一猛將鷹揚將軍劉牢之精選精銳五千，奇襲洛澗西岸的秦軍梁成部。劉牢之原本打算乘夜奇襲，但在距洛澗十里時已被秦軍發覺，經驗豐富的梁成立即在洛澗西岸列陣以待。
劉牢之當機立斷，趁著黑夜兩軍相互看不清對手的多少，率五千晉軍強渡洛澗，猛擊秦軍。秦軍中不少是新兵，在夜晚被晉軍的氣勢所嚇到，發生騷亂。梁成奔到最前沿試圖制止騷亂，結果正好撞上劉牢之的主突擊方向。秦軍兵力雖多，但在黑夜裡調動指揮不便，在這一點上對晉軍沒有優勢，梁成被劉牢之率部斬於陣中。
劉牢之趁著秦軍混亂，分兵穿過秦營南面，繞到秦軍背後切斷秦軍的歸路。失去指揮的秦軍驚恐萬狀，頓時崩潰，慌不擇路湧向淮水試圖渡河北逃，很多人淹死或被晉軍殺死、自相踐踏而死。
3. 結果：晉軍陣斬秦衛將軍梁成、揚州刺史王顯、弋陽太守王詠等十員將領（另一說王顯被晉軍俘虜），秦軍陣亡達一萬五千人，餘眾潰散，大批的軍器輜重被晉軍繳獲。
洛澗之戰的勝利，極大地鼓舞了東晉軍隊計程車氣，重挫了前秦軍隊的銳氣，為後來的淝水之戰中東晉以少勝多奠定了基礎。這場戰役也展現了東晉北府兵的強大戰鬥力以及劉牢之等將領的出色指揮才能。