Com a queda do Segundo Império, o Palácio de Luxemburgo viveu horas trágicas. Durante o cerco de Paris, em 1870, o edifício foi transformado em hospital e, sob a Comuna, em 1871, em tribunal. Foram fuzilados no seu jardim numerosos condenados à morte.
Após estes acontecimentos, o palácio serviu, durante alguns anos, de Prefeitura do Sena, destruída pelo incêndio da Câmara Municipal de Paris. Depois, voltou a servir de câmara parlamentar quando a Lei de 22 de Julho de 1879 fixou a nova sede das duas Câmaras em Paris e afectou o Palácio de Luxemburgo ao Senado da Terceira República.
A Alta Assembleia reuniu-se no Palácio de Luxemburgo até 1940, data em que o palácio foi ocupado pelo Estado-Maior Geral da aviação alemã. Em Agosto de 1944, foi um dos últimos edifícios de Paris a ser liberado, mas também um dos edifícios onde a luta foi a mais renhida. Após a liberação, o palácio tornou-se na sede da Assembleia Consultiva provisória e depois, de Julho à Outubro de 1946, acolheu a Conferência da Paz, que reunia os representantes das quatro potências vitoriosas. Em fins de 1946, o palácio foi afectado ao Conselho da República e, em 1958, ao Senado da Quinta República.
Desde a última Guerra Mundial, o Palácio de Luxemburgo foi palco de numerosas obras para o adaptar às necessidades de uma instituição parlamentar moderna, preservando ao mesmo tempo o seu carácter arquitectural e histórico.