朱瑾在兖州失陷后，与李承嗣、史俨等率残部北奔沂州，却为刺史尹处宾所拒，又转奔海州，但汴军在后穷追不舍。朱瑾只得率部渡过淮河，投靠淮南节度使杨行密，杨行密亲自到高邮迎接，以朱瑾为淮南行军副使，并表举其为武宁节度使。淮南军素习水战而不擅骑射，自得河东、郓、兖等部骑兵，军声大振。
朱温既平郓兖，又欲尽吞江淮，于是兵分两路，入侵淮南。东路庞师古率徐、宿、宋、滑四州之军直趋清口，攻扬州，西路葛从周则率兖、郓、曹、濮四州之军进驻安丰，攻寿州，朱温自屯宿州，策应两路大军。淮南震恐，杨行密乃与朱瑾率三万大军北上楚州，向清口推进。
庞师古很快便进抵清口，他不听部将劝阻，将营寨驻扎在低洼之处，同时又恃众轻敌，平时以弈棋为乐，不作军事部署。杨行密于是让朱瑾堵塞淮河上流，准备以淮水冲灌汴军营寨。朱瑾随后又与裨将侯缵率五千骑兵偷渡淮河，打着汴军旗帜，自北向南直攻庞师古的中军大营。汴军仓皇拒战，又遭大水灌营，顿时陷入混乱。杨行密此时又亲率大军渡淮来攻，与朱瑾两面夹击，大破汴军，斩杀以庞师古为首的汴军将士万余人。
葛从周此时亦被寿州团练使朱延寿击败，退驻濠州，及闻东路军溃，乃撤军而去。当时，杨行密与朱瑾已乘胜西进，于是和朱延寿一同追击汴军，最终在淠水大破葛从周。汴军被“杀溺殆尽”，残部在撤退途中又有无数士卒冻饿而死，最终撤回汴州的不足千人，朱温闻听两路皆败，亦自宿州退回。自此，杨行密雄霸江淮，朱温亦无力南下相争，而朱瑾则连年北犯，成为朱温的东南之患。
朱瑾又随杨行密北攻徐州，屯于吕梁，后因朱温亲率大军来援，乃引兵撤走，却被汴军追败于下邳。唐昭宗以李俨为江淮宣谕使，拜杨行密为东面诸道行营都统、封吴王，让他讨伐朱温。杨行密乃建立吴国，并承制封授官吏，以朱瑾领平卢节度使。不久，朱瑾随杨行密北征，但攻宿州不下，最终以“粮运不继”为由撤回淮南。
朱温篡唐称帝，建立后梁。当时，杨行密早已去世，其子杨渥继立，但在兵谏中被张颢、徐温所架空，杨渥拒不承认后梁政权，仍沿用唐朝年号，继续与朱温相抗衡。张颢、徐温又弑杀杨渥，改立其弟杨隆演，徐温随后又杀张颢，尽掌吴国军政大权。朱瑾在此期间一直效力于吴国，但在权力更迭中并没有发挥影响。
梁将王景仁入寇淮南，朱瑾与徐温率军抵御王景仁，起初败于赵步，随即又整军再战，在霍邱大败梁军。武宁节度使蒋殷据徐州反梁，归附吴国。后梁遂命牛存节、刘鄩讨伐蒋殷，朱瑾率军援救徐州，却为梁军所败。后来，徐温以长子徐知训居国都广陵辅政，自领兵出镇润州，后又改镇升州，但吴国大政始终都由徐温决断。
宿卫将李球、马谦劫持杨隆演，以勤王的名义召集库兵讨伐徐知训，陈兵于天兴门外。朱瑾恰自润州入都，率部击溃乱兵，擒斩李球、马谦。后来，朱瑾又与徐知训统兵北征后梁，围攻颍州，以配合盟国晋国的军事行动，后因梁将袁象先率军来救，乃撤归淮南。
徐知训辅政期间，骄横恣肆，不但凌辱诸将，甚至经常侮弄杨隆演，毫无君臣之礼，他早年曾向朱瑾学习兵法，得其悉心教授，后因向朱瑾索求名马被拒，竟派遣数名刺客去刺杀朱瑾。朱瑾将刺客悉数击杀，掩埋于后院，但却隐忍不发。后来，朱瑾派家妓去问候徐知训，却差点被徐知训强行占有，他愈加愤愤不平，数次劝说杨隆演寻机诛杀徐氏父子以除国患。
徐知训因忌惮朱瑾在朝中的地位太高，于是在泗州设置静淮军，外放朱瑾为节度使，朱瑾更是愤恨，遂决定诛杀徐知训。当时，徐知训在家中设夜宴为朱瑾饯行，朱瑾亦于次日一早去向徐知训辞行，却得知徐知训夜醉未起，遂以“不奈朝饥”为由返回家中。徐知训酒醒后，表示自己会在晚上去回拜朱瑾。
徐知训当晚来到朱瑾府中，朱瑾设宴款待徐知训，席间让宠姬频频劝酒，还答应将其此前索要的那匹名马相赠，徐知训甚喜。朱瑾随后又将徐知训请进内室，唤妻子陶氏出来相见。徐知训正与陶氏见礼之时，被朱瑾在背后用笏板砸倒在地，早已埋伏好的兵士随即冲出，将其杀死。徐知训虽带有随从数百人，但皆在室外，对其被杀一事丝毫没有察觉。
当时，朱瑾还特意在庭院内拴了两匹烈马，在请徐知训入内室时命人暗中解开马绳，用两马互相踢咬、嘶鸣的声音来掩盖内室发出的躁动声。朱瑾随即驱散徐知训的随从，骑马驰入王府，将徐知训的首级拿给杨隆演看，道：“我已为吴国除去这个祸害。”杨隆演惊惧之下，掩面避入内室，道：“此事是您一人所为，我什么都不知道。”朱瑾忿然道：“婢子不足以成大事！”他拿起徐知训的首级，狠狠的掷向柱子，转身提剑而出。
王府子城使翟虔此时已关闭府门，并领府兵围捕朱瑾，朱瑾跳墙而出，却摔折了脚，自知无法脱身，乃道：“吾为万人去害，而以一身死之！”说完便自刎而死，时年五十二岁。
徐温的养子徐知诰，在润州闻听广陵之变，当日便引兵入广陵平乱，族灭了朱瑾满门。徐温因亲子皆幼弱，乃以徐知诰接替徐知训执掌吴国国政，并命其将朱瑾的尸首沉入雷塘。后来，徐温亲自赶至广陵，徐知诰与严可求乃将徐知训的过恶尽皆告知徐温，徐温这才知道徐知训在广陵的胡作非为，怒气稍解，命人将朱瑾的尸首捞出，改葬于雷塘之侧。
