621年十月（武德四年），刘黑闼大败李神通和罗艺联军，并获得了李神通的全部军资，势力大涨。刘黑闼乘胜攻陷瀛州，抓获刺史卢士睿，又攻陷观州。
李渊得知李神通和罗艺联军被打败（主要是李神通大败），只好增派人手，责其再战。令薛万均、薛万彻兄弟领兵一万从太原出发，进入河北。徐世绩领兵一万从上党（今山西长治）出发，增援李神通。
薛万均领兵东进行至赵郡，唐朝郡守郭强生出城相迎，薛万均命大军城外扎营，兄弟二人随同郭强生进城，郭强生当晚设宴，宾主尽欢，薛万均兄弟喝的大醉。没想到郭强生已经反水投靠了刘黑闼，将薛万均兄弟及随从被全部擒获。第二天，李如圭率军赶到，向城外唐军进攻，唐军大败，溃不成军，争相奔逃撤回太原。
李如圭知道薛万均与宋成有交情，私下对薛万均说道：“我早年与宋成相识，对其感恩戴德，知你与他有交情，就放你一回。对外就说你我相识可也，不要连累了宋成。”
李如圭将薛万均兄弟及随从全部放回，薛万均对被放原因闭口不谈。
突厥人见中原战火重启，趁机越过边境抢掠，幽州边关告急，罗艺只好领兵撤回涿郡，抵抗突厥。
徐世绩率军行进至洺州（河北永年县）与李神通部队会合，发现李神通实力大损，可战之兵只有一万，双方合兵一处继续北进。刘黑闼亲率四万大军南下迎敌，二军在鸡泽县相遇。
刘黑闼发现对面是二支兵马，徐世绩和李神通，刘黑闼与徐世绩相识十多年，知之甚深，知其是难啃的硬骨头。李神通则是手下败将，故令部队猛攻李神通部队。
徐世绩不得已，领兵强攻刘黑闼，试图缓解李神通的压力。然而李神通顶不住强大攻势，开始溃败而逃。
刘黑闼命令攻击李神通的部队回头夹击徐世绩，徐世绩大败，损失人马过半，只带领数千兵残兵逃回洺州。
李渊闻报各路兵马再次大败，刘黑闼大军扩张迅速，战火几乎蔓延至河北全境，才知事态严重，下令征调各地府兵，任命李世民为平叛总管，统管所有平叛兵马。
李渊同时令李瑗率领二万兵马东进河北，进攻赵郡，然后攻击刘黑闼的后方信都郡（今河北翼县）。为了提升李瑗的实力，特意听从了屈突通的建议，给李瑗调派了一员用兵严谨、熟悉河北的战将，程名振。
在各路府兵征调之际，李世民率领就近二千兵马先期赶往洺州。在洺州北五十里的洛水城是保护洺州的门户，该城守将李去惑早先见徐世绩和李神通大败，投降了刘黑闼。如今听闻李世民亲帅大军前来，又立刻派人通知李世民，说举兵投降。李世民令王君廓率领八百骑兵快速前往接收，并令李去惑率领守军与王君廓换防，撤回洺州（害怕他们再度反水）。
李世民将徐世绩和李神通的残兵败将收集起来，合计一万多人，亲自率领增援洛水。
刘黑闼得知李去惑叛变后，立刻领兵前来夺取洺水城。由高雅贤率领的一万前军与李世民军在洛水城下相遇，双方混战。
李世民命令罗士信率领一千步兵进城与王君廓换防（以便发挥骑兵野战的优势）。刘黑闼率领三万大军随后赶到，李世民见敌军势大，领兵稍退。
刘黑闼将洛水城团团围住，一面攻城，一面分兵布阵迎战李世民。
李世民登高遥望，见刘黑闼有数万大军，迎面列阵的也有一万多兵马，命令尉迟敬德和侯君集各率一千兵马冲阵，二支兵马陷入敌阵中，进退不得。李世民又令王君廓、王世贵率领二支兵马接应他们撤回。
刘黑闼以攻城为主，对待李世民的挑战，摆开阵势，只守不攻。第一天，李世民进行了数次试探，也没有找出刘黑闼的破绽，不敢全军压上孤注一掷。
徐世绩眼看着敌军在城下修建鱼梁大道，逐渐加长加高，一点点向城墙延伸。焦急地对李世民说道：“一旦鱼梁大道建成，此城必破。不如令罗士信夜晚突围，与我军会合后，退回洺州。”
李世民冷冷地答道：“将敌军主力在此多拖住一天，就能为其它各地争取更多时间，加紧增兵布防。我们征调的府兵不日即可赶来，说不定还有机会在此聚歼敌军呢。”
罗士信守城，居高临下，对战局一目了然，眼见李世民兵马太少，冲不破刘黑闼阻击部队。罗士信不见突围命令（能用旗语联络），只能坚守。
随着一天天熬过，伤亡增多，战力不足，战士们已无轮转休息的时间，只能连续奋战。此时，罗士信的战士们几乎人人带伤、疲惫不堪，已经无力突围，只能继续咬牙坚持，寄希望于援军了。
第六天，鱼梁大道建成，战鼓雷鸣，刘黑闼总攻洛水城，罗士信眼见敌军顺着鱼梁大道冲上城墙，守在前沿拼命抵挡，犹如河道中的一颗巨石。敌军如潮水般涌来，四个城门尽失，各处守军被屠杀。罗士信大铁枪上下翻飞，身前二三米处近者披靡，尚有数十名战友围绕在身边。罗士信见到前后蜂拥而至的敌军，知道自己这里是仅存的抵抗力量了，率领数十人退至城墙上的箭楼。楼内通道狭窄，罗士信一夫当关，连杀数名近前悍将，敌军暂退。
罗士信等人稍得喘息，顿感饥渴难耐，手脚酥软，眼前却是滴水全无。（连续肉搏数个时辰，能活下来的都意志力超强的战士！）
刘黑闼现身箭楼，大声喊道：“罗老弟可好？”
罗士信陡然站起身来，挺拔身躯，回答道：“老子好的很。”
刘黑闼一人手持钢叉过来，在距罗士信五六米的地方站定，冷笑道：“嘿嘿，你小子就是死鸭子上架，嘴硬。你看你们人人带伤，兵器都拿不稳，再战就是挨宰，何不降我？！”
罗士信明白刘黑闼说得对，心念一转，说道：“你说我要是拼死再战，能不能再搏杀数人？”
“能有如何？”
“我要用我的命换取手下这三十人性命。”
“好，你若束手就擒，我保证释放他们。”
罗士信放下兵器，身后的众战士也都放下了武器。
李世民看到敌军总攻城池，城上敌军攒动，城上的唐军大纛掉到城下，一声叹息，知道刘黑闼已攻下城池，此后，就会全力向己进攻，命令全军撤退。
刘黑闼率领大军尾追而至，李世民见敌势大，干脆放弃洺州全境，直退到魏郡，布置防线。
刘黑闼请罗士信喝酒，畅谈曾经并肩战斗、等闲生死的过往，喝的酣畅淋漓。罗士信说道：“你能连败唐军，发展的轰轰烈烈，死不足惜，我敬你一杯！”
二人对干一碗后，罗士信接着说道：“秦王待我不薄，我的亲朋好友都已当官。我是山东汉，你是河北豪，咱们走的不是一条路。”
“那我要以你之头，振奋军心。”
“咱们朋友一场，以我之头助你，我了无遗憾。”
罗士信想起一人，哈哈大笑，接着说道：“你看我用自己一命换得部下三十条性命，这笔买卖是不是大赚？”
“程大嘴（程咬金）说宋成是鬼才，从来都是只赚不亏，说我直楞，不会做买卖。以后他再不能小瞧我也。”
刘黑闼压制心头情感，说道：“身后之事有何要求？”
“我曾将裴仁基父子遗骸葬在北邙山，若是可能，将我葬在他们旁边。”
刘黑闼点头。
罗士信被杀，时年二十三岁，刘黑闼释放了罗士信的三十名部从，并转告了罗士信的遗嘱，让他们携带尸体而去。
李世民见到罗士信的尸体，扶棺痛哭。
秦琼率兵赶来，见到罗士信的尸体，大恸不已几近晕厥。程咬金也赶来，悲痛不已。秦琼与程咬金商议，大战在即，就我一人向秦王告假，埋葬罗士信，你要带好我们山东子弟兵。程咬金点头应答。
李世民准许了秦琼的的请求，秦琼带着这三十名幸存者，护送罗士信棺椁，前往北邙山安葬。秦琼将罗士信安葬在裴仁基父子墓地的旁边，一面痛感失去罗士信，一面回顾与裴仁基的战斗友谊，自己当初叛离王世充，裴仁基回话：“遥祝秦弟展宏图！”没想到自此永诀，唏嘘不己。默默地说道：“你们在地下相聚，给我留个位置，早晚我要找你们去的。”
622年二月（武德五年），刘黑闼在相州自称汉东王，建年号为天造，任命范愿为左仆射，董康买为兵部尚书，高雅贤为右将军，将窦建德的夏政权文武官员全部恢复原职，定都洺州（今河北永年东南）。建立法规主持政务，全部效法夏政权的制度。
