Yan reçut sa formation militaire d’abord en Chine puis à l’Académie Militaire Impériale du Japon. Au Japon il devint un membre de l’ Alliance Révolutionnaire de Sun Yat-sen et à la suite de la Révolution chinoise de 1911 il prit le pouvoir dans la province du Shanxi. Bien que membre de l’Armée de Beiyang et affilié avec Duan Qirui, il évita les combats politiques violents de l’époque en appliquant une politique de neutralité qui libéra sa province des guerres civiles. Cette période se termina quand il rejoignit l’Expédition du Nord du Guomindang et qu’il devint évident qu’elle serait victorieuse.

Bien que Yan fut connu comme le “Gouverneur Modèle” pour ses politiques éclairées, il n’en était pas moins un dictateur militaire. En 1926, il jura fidélité au nouveau gouvernement de Tchang Kaï-chek, mais en 1929 il rejoignit Feng Yuxiang et Wang Jingwei dans leur tentative de renversement de Tchang. Après une brève retraite au début des années 1930, Yan revint au pouvoir au Shanxi et entrepris des réformes sociales et militaires pour contrecarrer le développement du communisme dans la province. Il soutint la capture de Tchang Kaï-chek par Zhang Xueliang en 1936 au cours de l’incident de Xi’an. Durant la Seconde Guerre mondiale, Yan résista aux tentatives japonaise de capture du Shanxi et ses troupes résistèrent aux communistes durant la Guerre civile chinoise jusqu’à ce que la ville de Taiyuan tomba en avril 1949. Yan s’enfuit avec le trésor provincial sur l’île de Taiwan avec le reste du gouvernement de la République de Chine le 8 décembre 1949 après que son expulsion par les communistes eut été prononcée.

Du 3 juin 1949 au 7 mars 1950, il fut Premier ministre de la République de Chine à Taiwan.

Il mourut à Taipei, Taiwan.