徐永昌の経歴を紐解くと、彼が決して恵まれた特権階級の出身ではなかったことが分かります。1887年、山西省崞県（現在の原平市）の貧しい農家に生まれた徐永昌は、幼少期に両親を相次いで亡くし、孤児となって過酷な少年期を過ごしました。軍隊に雑役兵として身を投じたのち、その真面目さと天性の知性が評価され、武備学堂や陸軍大学校へと進学。実力一本で頭角を現した叩き上げの軍人でした。
辛亥革命以後は、山西省を掌握していた大軍閥・閻錫山率いる晋綏軍の重鎮となり、省政府主席などを歴任。軍閥同士が私利私欲と裏切りを繰り返す時代にあって、徐永昌は常に軍閥利権から一線を画し、国家全体の利益を優先する特異な姿勢を貫きました。
1930年の中原大戦で閻錫山が蒋介石に敗れた際、軍閥組織の瓦解を防ぎ、中央政府との和平を取りまとめた立役者が徐永昌でした。通常、敗北した軍閥の幹部は粛清されるか排斥されます。しかし、蒋介石は徐永昌の「私兵を作らず、利権を追わず、公の秩序を最重視する」高潔な人格を高く評価しました。蒋介石は彼を直属の中央軍参謀本部総括や軍政部長（現在の国防大臣に相当）に登用し、日中戦争の国家総力戦において兵站・補給・軍政の最高責任者として采配を振るわせたのです。
