徐溫晚年，移居金陵（今南京市）養老，由長子徐知訓留守揚州，掌管楊吳朝廷軍政，養子徐知誥鎮守潤州京口（今江蘇省鎮江市）以作後援。徐知訓驕奢橫暴荒淫無道，而且性情暴烈，與大將朱瑾結怨，發生衝突，朱瑾武功高強，手刃徐知訓，然後自刎。徐知誥在潤州得知揚州變故，立刻領兵過江，穩定揚州政局，代替徐知訓執掌楊吳軍政大權。

徐知誥在揚州執政十多年，他一改徐知訓囂張跋扈的作風，對吳王楊隆演及他的繼任者楊溥非常恭敬，對楊吳朝廷文武大臣謙恭有禮，用人不拘一格，唯才是舉，他重用宋齊丘等文臣，減輕賦稅，制定不少利民措施，深得楊吳臣民擁戴。

吳國順義七年（公元 927）徐溫在金陵病逝，徐知誥趁徐溫次子徐知詢入朝稟報，截留在府中，搶先入稟吳王，獲吳王楊溥批准承繼養父徐溫官爵，移鎮金陵。八年之後，吳王楊溥稱帝，徐知誥進封太師、大丞相、天下兵馬大元帥、齊王，其實是為改朝換代作準備。兩年之後，即楊吳天祚三年（937年），徐知誥代吳稱帝建國。根據《新五代史》、《舊五代史》、《南唐書》、《十國春秋》等史籍記載，徐知誥篡奪政權所建國號為「大齊」，定都金陵，號江寧府（今江蘇南京），史家稱之為「徐齊」。兩年之後，公元 939年，徐知誥自稱是唐朝李氏皇族後裔，恢復本姓，改名李昪，把國號改為「大唐」，宣稱重建唐朝正統。由於李昪的「大唐」位於南方，並且與北方五代的「後唐」區別，史稱「南唐」。但是據《資治通鑑》所記，徐知誥代吳稱帝，直接以「唐」為國號。