Avant la guerre, il avait été ministre de la Guerre. Le 2 août 1914, il prit le commandement de la VII^e Armée, à la tête de laquelle il repoussa les troupes française d'Alsace, notamment pendant la bataille de Mulhouse. Ce succès lui valut de recevoir la médaille Pour le Mérite, la plus haute distinction militaire allemande, pour courage. Après quoi il fut personnellement félicité par le Kaiser, Guillaume II

Il restera au commandement de la VII^e Armée jusqu'au 28 août 1916. Le jour même, il recevra la Croix de fer avec feuilles de chêne. Il fut ensuite nommé à la tête des Forces de défense côtières allemandes, pour le reste de la guerre.

Josias von Heeringen mourut le 9 octobre 1926.