Ancien médecin, Joseph Paul Rambaud commence en 1905 sa carrière politique dans les rangs du parti radical-socialiste, dans la région de Pamiers, ville dont il devient maire en 1919. D'abord conseiller général, il est élu sénateur de l'Ariège le 20 octobre 1929.
Réélu en 1938, il vote contre les pleins pouvoirs au maréchal Pétain le 10 juillet 1940.
Révoqué de ses fonctions politiques en raison de son opposition au régime, il entre dans la Résistance, organisant l'Armée Secrète dans le cadre du mouvement Combat dans la région de Pamiers.
Surveillé par la police pour son action en faveur des réfractaires au STO et des internés du camp du Vernet, il est arrêté le 17 juin1944 et meurt en déportation à Buchenwald le 12 octobre 1944.