就在王伯當集結起兩萬大軍，在嵩山與箕山兩山之間向西穿行時，楊廣的船隊已經到達了汝水河口。汝水河口所在的汝南縣是淮河之南唯一不在朝廷治下的地區。盤踞著一支打著瓦崗軍旗號的五六千人武裝。
隋軍隨即輕鬆攻下了他們所佔據的汝南縣城，他們的頭領受領大赦詔向隋軍投降。楊廣將這支降軍調往大別，桐柏兩大山脈間的義陽關駐守，提防蕭銑的北侵。
楊廣在汝南稍做停留，留下上千驍果軍等待降軍與後續隋軍換防後，數百隻維京戰船就駛入了汝水。船隊中的那些蜈蚣戰艦不適合在汝水中航行，就掉頭東返。它們未來的任務就是依託淮河兩岸的隋軍據點，在淮河水道中來回巡邏遊弋。
此時已是四月初，東南風正盛。維京船鼓足了風帆，水手們奮力划槳。浩浩蕩蕩的船隊，僅一日一夜時間，就駛入春雨綿綿的汝水河谷。層層疊疊的桅帆向北移動。兩岸林地丘陵之中不時冒出鄉人山民向河中窺探，他們看到如此景象，莫不稱奇。
夾在伏牛山與箕山之間的汝水河谷在這天下大亂之時，也出了不少盜匪，在山間結營紮寨，不過規模都很小。郡縣城池基本上都還掌握在朝廷手中。
不過此時，卻有一隻龐大的軍隊沿著箕山北麓山腳進入了嵩陽境內。這支軍隊看衣著顯然不是隋軍。他們正是瓦崗大將王伯當所率領的兩萬精兵。
沿途郡縣的隋軍守軍莫不能擋，有的縣長直接投降對方，更多的是棄城而逃，急奔向東都向洛陽留守王世充報信。當然也有不少頑強抵抗縣城，王伯當急於趕到汝州，除非這些城池的戰略位置非常重要，直接威脅到自己後勤補給和歸路，王伯當也並不去理會。
王伯當的大軍晝夜疾行，兩日便趕到汝水河谷北端的汝州境內，一舉攻下並無多少隋軍防守的汝陽縣城，以此作為為前方防線提供糧草的糧草囤積轉運之所。同時徵集大量民夫，在汝水河谷中構築了一道長達十里的防線，將汝水河谷截斷，並在汝河東西兩岸各構築一個大營。
工地上，王伯當正在探查構築的汝水防線的進度，遠遠的有兩騎飛馳而來，他們是王伯當前昨日派出的探馬。這二人在王伯當面前勒住馬韁，跳下馬來急急叩拜說：“稟告將軍，隋軍前鋒離此不到五十里路程。”
王伯當有點意外的說：“怎麼會這麼快，這汝水兩岸地勢雖然平坦，但並無現成道路，按估算他們最早也是三天後才能到達。”
另一探馬說了句讓王伯當更為意外的話：“啟稟將軍，這隋軍並沒有走陸路，而是乘舟踏水而來。”
王伯當以為自己聽錯或理解錯了，斷喝一聲：“什麼？你把話說清楚，再說一遍！”
“啟稟將軍，隋軍並不是在陸路上行軍，他們是乘坐大批船隻而來，陸地上只有少量警戒的部隊隨船隊而行。這些船隻造型奇特，船隻頗大，可載數十人，卻能在很淺的水域上航行。”這一次那探馬將話講得仔細，讓王伯當明明白白。
王伯當眉頭擰在一起，稍稍思索片刻就下令道：“快，那個防線不要修了，來不及也沒用了，命令所有兵卒和民夫加強營壘的工事。另外在河中堆砌障礙物和設定攔河鐵索！“
事實上，隋軍來的比王伯當想象的還有快，僅僅三個時辰後，隋軍的前出斥候偵騎的身影就出現在王伯當的視線中。王伯當思索該如何佈防時。隋軍的前軍已經到了。
王伯當最終選擇在汝水攔河鐵索的兩邊擺開陣形攔截隋軍，並在兩岸設立大量弓弩手，準備在擊破隋軍岸上之軍後，再攢射河中的隋軍船隻。他已從探馬口中得知，隋軍的這些船隻並沒有甲板，也沒有船棚。船上兵士都是暴露在露天之中，所以用箭矢就應該能輕易破之。
……
汝水河道上一條較大的維京船中，楊廣用望