当然，这种归降只是名义上的，李渊此时不可能来干涉杜伏威的事务，所以杜伏威仍然是一家独立势力。杜伏威为何在此时降唐，其理由历史中没有明确记载，当时李唐的势力还远未达到一统天下之势，比杜伏威自己也强不了多少，其老巢太原正被刘武周猛攻，河北窦建德、河南王世充也正在蚕食唐朝的地盘，别说统一，连李渊自己的生死都还是未知之数。杜伏威居然在此时降唐，应该说实在是眼光独到，不过由此可见，杜伏威此人并无天下大志，其起义只是形式所迫，所图的和翟让一样，在乱世中保全一方而已。
天下局势已经明朗，李渊、王世充、窦建德三足鼎立之势，已基本形成，三巨头之间摩擦不断，时刻准备决战。在这种背景下，李子通全力进攻沈法兴，渡江攻克了沈的重镇京口，又击杀了沈派来迎击的大将蒋元超，沈主力丧失殆尽，只得放弃丹阳、毗陵，逃回吴郡老家。趁李、沈交战，杜伏威以辅公佑为主将，阚陵、王雄诞为副将，领数千精锐进攻李刚刚夺取的丹阳。
但时机没掌握好，沈法兴败得太快，李子通得以亲率主力数万迎战，军容极盛。辅公佑眼看众寡不敌，情急之下活用了杜伏威对上募的那套手段，辅挑选千人持长刀为前锋，又以千人紧随其后，自己领其余兵力再紧随其后，宣言说，前阵有退后者，后阵斩之。江淮军本就剽悍，再有如此严酷的军法，自然人人奋勇向前，尤其前锋的长刀阵更是有进无退。双方一接战，李子通部气为之夺，当即败退。
辅公佑忘记了自己兵力过少，下令追击，结果反而被逼急了的李子通军击败，从追击者沦为逃跑者。当夜，李子通因取胜而轻敌，扎营不设防备，王雄诞力劝辅公佑夜袭，辅过于谨慎不敢出击，王雄诞干脆擅自领了几百人自行出击。王雄诞在李子通营中大肆纵火，李子通促不及防，大败溃散，几万人一夜间散个干净。这一仗是杜伏威与李子通的决战，关系到江淮的霸业，杜伏威先胜后败最后全胜，戏剧性地击破十倍于己的李子通主力。
李子通随即收集余部，又聚集了二万余人，这时李的地盘已归杜所有，势力又远不如杜，因此只好向沈法兴下手。李子通突袭沈法兴的老巢吴郡，沈根本没来得及恢复元气，自然不是李的对手，结果只剩几百人逃了出来，打算投奔同乡闻人遂安，不料又和闻人所部起了冲突，沈落水溺死，江淮三大势力之一的沈法兴就此了帐，从起兵到灭亡，仅三年时间。
李子通灭沈法兴后势力又有所恢复，为永绝后患，杜伏威派王雄诞进攻李子通。李领精兵据守独松岭与王相持，王看出李色厉内荏，派人多造旗鼓，夜间则虚设灯火，尽力制造数十万大军的假象。可能是上次被夜袭留下了严重的心理阴影，李子通草木皆兵之下，居然自行烧了营帐，连夜全军撤退。王追击到杭州城下，李部崩溃，李子通穷蹙投降，被杜伏威献俘给李渊，就此被软禁在长安。
消灭李子通后，杜伏威又派王雄诞进攻江淮间其他独立势力，这时杜已是江淮霸主，其老板李渊更已经消灭大敌王世充、窦建德，天下大势已定，因此各势力如汪华、闻人遂安等纷纷投降，杜伏威完成了江淮的统一，尽有淮南江东之地。
李世民率部平定窦建德余部刘黑闼和徐元朗，徐的地盘与杜伏威接壤，李世民借攻击徐圆朗之机，陈兵杜伏威境上耀武扬威。当此之时，隋末蜂起的各路反王大多已经烟消云散，梁师都、高开道、徐圆朗之辈或僻处边疆，或灭亡在即，还能对李唐构成威胁的就是杜伏威了。
杜伏威自然明白李世民的用意，心中十分不安，担心成为李唐下一个进攻目标，为免嫌疑，索性上书李渊，请求入朝，李渊收到报告后自然高兴，批准杜伏威入朝，于是将江淮军交给义子王雄诞，自己带了少数亲信到长安朝见李渊。杜伏威的主动献忠心让李渊很是满意，同时也是为了在天下人面前做个样子，李渊加封杜伏威为太子太保，位在齐王元吉之上，仅次于李渊、李建成、李世民三人，为大唐第四号人物。
这时在长安受到软禁的还有一个人，那就是当年的吴国皇帝李子通。李子通看到杜伏威为羁縻于长安，李子通料想江淮军没了首领，江淮的局势一定不稳，自己正可趁此良机回去混水摸鱼，集合旧部东山再起。李子通此人待下宽厚，能得士卒之心，如果让他逃回去，也许真能东山再起，可惜的是李逃到蓝田关时不幸被守关士兵发现，束手就擒后又被押回长安。李渊这次没再手下留情，给了李子通与李密相同的下场。
果然如李子通所料，杜伏威离开后，江淮军出了大乱子，当年创立江淮军时，最高领袖是杜伏威和辅公祏两个人，二人自幼为友，长大后又共同起义打天下，号称刎颈之交，辅比杜年长，杜就称辅为兄，军中称辅公佑为“辅伯”，辅的地位与杜相当。但随着势力的壮大，在权力的引诱下两人的友谊终于出现了裂痕，杜伏威认为辅公祏的地位过高影响了他的领导权，因此杜夺了辅的兵权，只让他担任位高而无权的仆射一职。辅公祏对此心中不平，于是借口与故友左游仙学神仙术，主动退出权力之争，平时不理政务。杜伏威临去长安时，将政务交给辅公祏，而将军务交给了自己的心腹义子王雄诞，同时秘令王监视辅。
辅公祏毕竟不是甘心雌伏的人，杜伏威一走，他就和左游仙密谋发动兵变，辅公祏的障碍就是王雄诞，王雄诞是杜伏威的义子和最宠爱的大将，绝对忠于杜伏威，王雄诞手握江淮军军权，不除掉他兵变就不可能成功。辅于是使出反间计，伪造了杜伏威的笔迹写信给王雄诞，信中无缘无故地责备王雄诞有贰心，王雄诞在战场上是有勇有谋的良将，但讲到政治斗争就不是对手了，收信后王非常伤心，就此托病在家不再沾手军务，大概是想以实际行动向杜伏威证明自己的忠心耿耿绝无贰心。
王雄诞的行为正中辅公祏下怀，就势接管了江淮军，又伪造了杜伏威密令，说在长安受到虐待，要辅公祏起兵造反。以辅公祏在江淮军中的号召力，加上又有杜伏威的伪造密令，兵变非常顺利，江淮军宣布脱离李唐重新独立，辅公祏自称皇帝，国号宋，以左游仙为兵部尚书。直到辅公祏派人到王雄诞家中劝王雄诞归顺，王雄诞才终于明白自己上当受骗，但大势已去，已无法阻止，王雄诞尽忠于杜伏威，严词拒绝了辅公祏的劝降，被辅公祏杀害。后来李渊和李世民感于王雄诞的忠心，封了王的儿子为郡公，其子后来做到安西大都护。
自己的旧部造反，杜伏威在长安的日子自然可以想象，历史中倒也没有记载李渊是否因此而怪罪或处分杜伏威，但寄人篱下如坐针毡的滋味，恐怕是免不了的。杜伏威在长安暴卒，死因不明，据《新唐书》记载是杜伏威好长生药，误服云母中毒而死，只怕中毒是有的，但如何中的毒就很难说了。
唐军兵强将勇，辅公祏连吃败仗，最后被处以死刑，大概是不甘心一个人上路，辅公祏向唐军主帅李孝恭，揭发杜伏威才是谋反主谋，有密令为证，就是这回来的阚陵也是谋反中人。李孝恭随即禀报李渊，说发现杜伏威才是谋反的幕后主谋，人证物证俱全，于是李渊动手剥夺了杜伏威的官职爵位并籍没其家眷。秦王李世民即位，知道杜伏威和阚陵惨遭诬陷，为二人平反恢复名誉，以吴国公之礼下葬杜伏威，其子继国承家，部将樊义监护丧事。
