张颢随后又排挤徐温，将他外放到润州，严可求对徐温道：“你一旦放弃牙兵兵权离开广陵，必为张颢所害。”徐温向严可求问计。严可求又去见张颢，对他道：“您将徐公外调到润州，大家都认为您是要夺其兵权而杀之，是这样吗？”张颢连忙撇清，道：“这是徐公自己要求的，我也不想这样。现在任命已下达，如何是好？”严可求和张颢一同去拜访徐温，假意斥责道：“如今幼主新立，正是多事之秋，您是杨氏宿将，怎可外任自求苟安。”徐温配合着做出谢罪的姿态，顺势留在了广陵。
张颢后来才意识到严可求一直是在帮助徐温，便派刺客去刺杀严可求，但刺杀未遂。严可求与徐温及左监门卫将军钟泰章密谋诛杀张颢，钟泰章不久便率死士三十人直接冲入军府，杀张颢于牙堂。此时距杨渥遇弑仅有九日，徐温这才对外公开杨渥是被张颢所弑杀，并将纪祥等凶手车裂于市曹。当时，彻查乱党，皆出于左牙兵，时人因此都以为徐温并不知张颢弑君之谋。
徐温自此独专国政，以左右牙都指挥使，决断军府一切事务，随后又率将吏向唐朝所派的江淮宣谕使李俨请命，以唐朝的名义授杨隆演为淮南节度使、东面诸道行营都统、弘农王。徐温自任淮南行军副使、升州刺史，但一直留在广陵辅政，一度因母丧离职，但很快便被起复为内外马步军都军使，遥领润州观察使。
徐温的专权引起了刘威、陶雅、李遇等外藩的不满，其中李遇表现尤为激烈，徐温遣军攻破宣州，族灭李遇。诸将自此多畏徐温之威，杨隆演更是形同傀儡，刘威、陶雅都主动入觐广陵，以消除徐温的疑心。徐温对待他们非常恭敬，如同事奉杨行密一样，刘威、陶雅皆悦服，时人也都因此而敬重徐温。徐温随后又与刘威、陶雅率将吏向李俨请命，承制加拜杨隆演为太师，进封吴王。徐温则任淮南行军司马，领镇海军节度使，加同平章事。
徐温被任命为水陆马步诸军都指挥使、两浙都招讨使，兼侍中，封齐国公，出镇润州，总领升、润、常、宣、歙、池六州之地。在润州建立霸府，遥决军国大政，移镇升州。当时，其长子徐知训被留在广陵统领朝政，但他骄横恣肆，不但凌辱诸将，甚至经常侮弄杨隆演，毫无君臣之礼，大将朱瑾数次劝说杨隆演寻机诛杀徐氏父子以除国患，但杨隆演对此则无能为力。
朱瑾设计杀死了徐知训，但随后便遭到徐温党羽的围攻，被迫自刎而死。徐温养子徐知诰时任润州团练使，在润州闻变，当日便引兵入据广陵，并在徐温赶至之前稳定了城中秩序。徐温因亲生诸子皆幼弱，于是承认了既成事实，以徐知诰接替徐知训统领朝政。他怀疑有将吏与朱瑾通谋，杀死了宣谕使李俨及大将米志诚，还打算在广陵大行诛戮。徐知诰与严可求乃将徐知训的过恶尽皆告知徐温，徐温这才知道徐知训的胡作非为，怒气稍解，最终只追究了徐知训的僚佐“不能匡救”之罪。不久，徐温归镇升州，总军国大纲，其余政务皆交由徐知诰决断。
徐温自以为权重位卑，以杨隆演的都统之职不足以节制地方镇将为由，请杨隆演称帝。杨隆演拒绝称帝，被尊为吴国王，改元建制，吴国由唐朝封国正式演变为独立王国。徐温被拜为大丞相、都督中外诸军事、诸道都统、镇海宁国节度使、守太尉兼中书令，封东海郡王，仍镇升州。徐知诰以宰相居中辅政，吴国逐渐形成了“祭则弘农（杨氏），政由东海（徐氏）”的政治格局。
杨隆演因长期受制于徐氏父子，抑郁成疾，很快便病势严重，徐温自升州入朝，议立嗣君。有人建议他趁机取代杨氏，徐温道：“我若有此意，早在当初诛杀张颢的时候就做了，何必等到今日。就算杨氏没有男丁，有女亦当立之，有敢妄言者斩。”当时，依次序应由杨隆演三弟杨蒙即位，但徐温素与杨蒙不和，且不欲国有长君，乃越次而立其四弟杨溥。不久，杨隆演病逝，杨溥继任吴国王，他改升州为金陵府，以徐温为金陵尹，又进拜徐温为太师。
徐温晚年时，徐知诰因长年在朝辅政，声望日渐攀升，甚至到了“温虽遥秉大政，而吴人颇已归属于知诰”的地步。严可求与行军副使徐玠等，都多次劝徐温以亲子徐知询代徐知诰执政，徐知询亦有取代徐知诰之意。但徐温因徐知诰素来孝谨，一直没有下定决心，他准备赴广陵劝杨溥称帝，但却在临行前患病，于是让徐知询代己入朝劝进，然后留朝辅政。但徐知询走后不久，徐温便已在金陵病重去世，终年六十六岁。
徐知诰虽一直都在力求摆脱徐温的控制，但当他获悉徐温决定易嗣之时，仍是大为惶恐，准备上表乞罢政事，退而求镇江西。结果就在他上表的前一夜，传来了徐温病逝的消息，徐知询半途折返金陵，主持徐温的后事。徐知诰这才得以继续执政，并以杨溥的名义追封徐温为齐王，赐谥号忠武。
杨溥在徐温死后不久，便按其临终推举称帝，仍以徐知诰在朝辅政，徐知询则承袭了徐温的诸道副都统、镇海宁国节度使、金陵尹等职，掌握了徐温留在金陵的军队，此后一直试图取代徐知诰。徐知诰后将徐知询诱入朝中，悉夺其兵，这才彻底掌控了吴国军政大权。他又效仿徐温旧例，在金陵开设霸府，以长子徐景通留广陵辅政，已经被封为齐王的徐知诰正式在金陵建立齐国，立宗庙、社稷，追尊徐温为太祖武王。
徐知诰自称是唐朝宗室后裔，改国号为唐（南唐），并恢复李姓，改名李昪，他将徐温的庙号改为义祖，但为了表示不忘徐氏之恩，仍将徐温供奉于七庙之内，以义祖与高祖（李渊）、太宗（李世民）同为不祧之祖。
周世宗柴荣在淮南之战中攻取南唐的西都广陵，还特意遣使祭拜杨行密与徐温二人的陵墓，元宗李璟（徐景通）被迫向后周称臣，取消帝号，改称国主。柴荣又下诏为杨行密、徐温各置民户，为他们守墓。
