Né en 1735 en Alsace, il s'engage à 15 ans dans l'armée et participe à la guerre de Sept ans en tant que lieutenant dans le bataillon des volontaires d'Alsace. En 1765 et 1766, il est envoyé par Louis XVI en mission diplomatique en Tartarie et en Pologne.
En 1789 il se rallie à la Révolution et en 1792 devient général de division. Commandant militaire en Alsace, il rejoint le général Dumouriez en Champagne afin de stopper l'invasion prussienne de 1792 : son nom, dans la mémoire des Français, reste indissociablement lié à Valmy, la première victoire des armées de la République. Peu après il est envoyé à l'armée des Alpes puis à Lyon.
Suspecté par le Comité de Salut public d'intelligence avec l'ennemi, il est traduit devant le tribunal révolutionnaire et emprisonné treize mois à la prison de l'Abbaye.
Remis en liberté après le 9 thermidor et réintégré dans son grade, il reprend son commandement à l'armée des Alpes et accompagne Bonaparte en Italie.
En 1797 il est nommé inspecteur général de cavalerie aux armées nouvellement créées d'Angleterre et de Hollande.
Sénateur le 3 nivôse an VIII (24 décembre 1799) avec la sénatorerie de Colmar, grand-cordon de la Légion d'honneur en l'an X et maréchal d'Empire le 30 floréal an XII (20 mai 1804), il commande à partir de 1806 des armées de réserve. Le 3 juin 1808 l'Empereur le fait duc de Valmy.
Louis XVIII le désigne, le 4 juin 1814, pour faire partie de la Chambre des Pairs. Durant les Cent-Jours et bien que compris dans les nominations à la pairie du 2 juin 1815, il reste à l'écart de la vie politique. Il ne retrouve la Haute Assemblée que lors de la seconde restauration. Il meurt à Paris le 13 septembre 1820.
Peu de temps avant sa mort, il écrit ces quelques lignes :
"Un monument extrêmement simple sera érigé aux champs de Valmy ; mon cœur y sera déposé sous cette inscription : ici sont morts glorieusement les braves qui ont sauvé la France le 20 septembre 1792. Un soldat qui avait l'honneur de les commander dans cette mémorable journée, le maréchal Kellermann, duc de Valmy, dictant après vingt-huit ans ses dernières volontés, a voulu que son cœur fut placé au milieu d'eux."