Dans les jardins du Luxembourg, coexistent pendant la guerre un jardin public et un « jardin allemand ». Certaines parties sont en effet progressivement interdites à la population. Ainsi, fin 1941, les autorités d'occupation annexent la partie du jardin comprenant la pelouse située dans l'axe de la façade sud du Palais, jusqu'au bassin, ainsi que les allées adjacentes. Elles y installent un potager. Ils édifient aussi, au printemps 1943, un grand local à pommes de terre, à proximité du Pavillon Guynemer
Le jardin du Luxembourg continue, durant la guerre, à participer à des expositions horticoles. Il est ainsi présent à la Foire de Paris de 1942 (stand documentaire de culture familiale), à l'exposition de roses et de plantes de serre de la Société nationale d'horticulture de France en juin 1943, et présente ses collections de fruits au congrès pomologique de septembre/octobre 1943 organisé à la demande du Ministère de l'agriculture et du ravitaillement dans le but d'inventorier et de classer les variétés de la production fruitière française.
Le jardin fruitier est toujours cultivé pour l'enseignement et pour ses collections de référence. La production de fruits, en tant que telle, est secondaire, sans être négligeable (pommes et poires surtout). Les récoltes sont moyennes compte tenu de l'insuffisance de main d'œuvre, du manque d'engrais et d'un « maraudage intense » (rapport du conservateur du Jardin -août 1943). Les autorités d'occupation sont partie prenante aux récoltes. Les fruits défectueux, ramassés régulièrement au pied des arbres, sont utilisés au profit de la cantine du personnel.
Des jardins potagers (4300 m2) (JPG - 26 Ko) sont installés dans le jardin du Luxembourg, sous le régime des cultures collectives d'entreprise régies par les lois du 30 novembre 1941 (JPG - 64 Ko) et du 17 avril 1942 (le Sénat n'intervient dans leur existence qu'en fournissant le terrain). Ils sont entretenus par le personnel du jardin, par un travail supplémentaire non rémunéré ; l'achat des matières premières indispensables (graines, bulbes, engrais) est à ses frais.
Les récoltes sont réparties par parts égales à tout le personnel du jardin, après prélèvement des quantités nécessaires au bon fonctionnement de la cantine. Pour certains légumes cultivés intentionnellement de façon abondante (comme les tomates), une distribution gratuite peut être faite à tout le personnel du Sénat. En 1943 par exemple, chaque employé présent au moment des récoltes reçoit 5kg.
La cantine des ouvriers est alimentée d'autre part par des achats de légumes aux halles centrales (bons d'attribution délivrés par les services du ravitaillement général), par des achats à la production effectués par la conservation du jardin et répartis à prix coûtant. La culture collective et la cantine fonctionnent à l'aide d'un fonds de roulement constitué et alimenté en dehors de toute participation du Sénat par un versement de 2fr par distribution.
Le public a accès aux jardins potagers du Luxembourg le samedi après-midi.
Pendant quatre ans, les Allemands organisent régulièrement dans le jardin du Luxembourg des concerts militaires. Ils avaient décidé, en juin 1944, à la veille de la Libération, de transformer la Fontaine Médicis en piscine d'été.
A l'approche de la Libération, ils entreprennent de nouveaux travaux de défense dans l'enceinte et aux abords du jardin du Luxembourg : tranchées, meurtrières, nids de mitrailleuses...