1926年北伐中任第一路军第3师师长。次年9月任第九军军长。1930年2月蒋阎冯中原大战时,任第十六路军总指挥、洛阳行营主任。次年调任国民政府警卫军军长,年底任江苏省政府主席。1933年参与对红军的第五次围剿,任北路军总司令。1935年任重庆行营主任兼贵州省政府主席。西安事变后,兼任西安行营主任。
1937年八一三淞沪会战开始后,任第三战区副司令长官、司令长官,兼江苏省政府主席。1941年1月,根据蒋介石的指示,在安徽泾县策划指挥了皖南事变。1945年5月,当选为国民党第六届中央执行委员。抗日战争胜利后任徐州绥靖主任等职。1946年任陆军总司令。1948年任国防部参谋总长。1949年4月,重任陆军总司令,12月任“西南军政长官”。1950年3月去台湾,曾兼台湾“国防部”代部长。1972年任“总统府”战略顾问。1987年1月17日卒于台湾。