与此同时，在齐国特工的精心安排下，韩世忠、姚平仲的真身到了楚州。卢俊义让他们清楚了事情的整个过程，但没有讲是自己派人贿赂童贯的亲信太监，而是说童贯自己想到韩世忠和姚平仲二人为何非要面见圣上所以瞎胡疑猜，加上往日的忌恨厌烦所以才痛下杀手。至于卢俊义在童贯军中安插奸细乃是军事常识，并没有引起二人的猜疑。
韩世忠和姚平仲细细想了童贯往日对待自己的情形，不得不承认，童贯确实忌恨、提防他们，童贯有充分杀他们的理由、动机，而且他之前还想编造莫须有的罪名杀自己，他们二人在童贯手下绝无前途。在赵宋朝廷内，做为一个军人，不跟着童贯就无处可去，另外一个掌握军队的高俅比童贯更为嫉贤妒能，每个人都知道，齐国大将林冲、王进、杨志、史文恭都是被高俅逼走的，而且高俅也不能为了他们二人得罪童贯，唯今之计，只有归顺卢俊义。但是他们又怀疑卢俊义能否经得住童贯六十万人马的攻击。卢俊义便跟他们打赌，如果卢俊义成功击溃童贯大军，他们二人就要加入齐军，如果不能，则放他们回乡隐居，二人同意。
卢俊义调集张顺的水军第一军和刘梦龙的水军第二军，自己率领二十万陆军，除了卢俊义的陆军第一军，还有呼延灼的陆军第三军，当然还有王寅的陆军第五军和杜壆的陆军第六军，第五军主力是方腊明教残部，第六军主力是王庆残部，这两军跟童贯都是血海深仇，这种战斗意志足以抵挡平日训练不足，加上齐军船坚炮利，这一仗童贯不能幸免。虽然卢俊义只有三十万人，而童贯有五十万人，兵力相差悬殊，但这一点并不足以改变战役的最终结果。
四月底，卢俊义就在洪泽湖和淮河上转悠。有赖于情报总署的得力工作，他清楚地知道童贯的军事计划，童贯青睐于淮河航运便利，而垂涎于收服运河之功，所以他从刚占领淮河上游时就开始伐木造船，准备从水路攻占楚州，进而占领运河两端的扬州和济州，将卢俊义控制的运河尽数夺回。所以未来的决战战场也就在淮河和运河之间的洪泽湖。
经过数天的考察，卢俊义看中了龟山。龟山，又名下龟山，位于淮河之滨，三面石壁临湖，一面与陆地相连，形如一只巨龟，匐伏在淮河出口入洪泽湖处，是淮运分流的天然鱼嘴， 由于它临于天险淮水，历史多为用兵之地，故龟山又称“军山”。洪泽湖像一只葫芦，龟山水域就如同葫芦嘴，是洪泽湖的湖口，在此地攻击童贯大军甚佳。
宣和四年五月初十，两军在洪泽湖的龟山水域接触。童贯率师顺淮河而下，直奔湖口。卢俊义督领齐军在湖口河面布防，迎击官军。齐军在湖口河面设置了一座巨大的浮筏，筏上环造木城，设立望楼，有四五千弓弩兵把守，浮筏两侧还有许多炮船守护。齐军凭借这个水上堡垒粉碎了官军多次进攻，童贯恼羞成怒，倾其全部水师与齐军决战。经十个时辰的激战，齐军击毙了近万名敌人，但终因寡不敌众，浮筏被突破。这使得从淮河进入洪泽湖的通道出现了缺口，童贯的军队一经由此长驱直入，将会对齐军后方造成严重威胁。卢俊义并没因作战失利张皇失措，经过冷静思考，一个扭转败局的良策在他头脑中迅速形成。
原来官军水师是由大小不同的两类战船组成，大船就是那种海鳅船，比较笨重，船上配有床弩，可屯放辎重，用于远程射击和保障后勤供应；小船就是那些征召来的渔船或商船，多数没有篷盖，每船有十几把桨，布置了一些臂张弩和黑漆弓，运行灵便，是主要的攻击力量。这两类战船只能互相配合作战而不能分离。卢俊义还敏锐地意识到，童贯大破方腊和王庆后骄横轻敌，求胜心切，战局发展有可能使其轻便船只脱离大船编队，首先闯入洪泽湖。因此，只要相机封锁淮河河面就能将敌大船与小船相分割，实施各个击破。于是卢俊义下令，浮筏缺口暂不修复，原地监视敌人动向。
果不出所料，童贯把卢俊义的诱敌策略看作是齐军无力抵抗的表现，他命令一千多艘小船运载十万多名官兵从浮筏缺口全部冲入洪泽湖中。卢俊义见敌人中计，便立刻下令封锁河面。一夜之间，湖口河面间神奇地出现两道浮筏，将敌水师船队拦腰斩为两段。同时，上百只齐军小船满载柴草、硝药冲进官军停靠在淮河的大型船队放火。刹时间，湖口河面烈焰滚滚，火光冲天，恰似当年的吴魏赤壁鏖战。