Le 4 février 1879, il est appelé par Jules Grévy pour être ministre de l’Instruction publique et des Beaux Arts, poste qu’il occupera presque sans interruption jusqu’en novembre 1883.
Tout en conservant cette fonction, il sera président du Conseil de septembre 1880 à novembre 1881 et à nouveau à partir de février 1883. Lors de ce second ministère, il prendra le portefeuille des affaires étrangères qu’il conservera jusqu’au renversement de son cabinet le 6 avril 1885.
Incarnant la gauche " opportuniste ", il s’illustre par sa politique scolaire puis, à partir de 1883, par sa politique coloniale. Celle-ci se heurtant à l’hostilité de la droite comme de l’extrême gauche, Jules Ferry est battu aux élections présidentielles de 1887.
Sa candidature est en particulier vivement attaquée par les boulangistes qui ne lui pardonnent pas d’avoir surnommé le général Boulanger " César de café-concert ". Il est d’ailleurs victime d’un attentat au Palais-Bourbon quelques jours après l’élection.
Après avoir été battu aux élections législatives de 1889, Jules Ferry, par ailleurs président du Conseil général des Vosges, est élu au Sénat en 1891. Il y préside la commission des douanes et la commission de l’Algérie pour laquelle il fera une longue mission en Algérie en avril-juin 1892.
En 1893 il apparaît comme candidat naturel à la Présidence du Sénat où il est élu dès le premier tour. Il ne peut exercer cette charge qu’une vingtaine de jours, puisqu’il meurt d’une crise cardiaque le 17 mars 1893, ce qui fait de lui le Président de la Haute Assemblée au mandat le plus court. Sur proposition d’Alexandre Ribot, président du Conseil, la Chambre des députés et le Sénat votent l’organisation de funérailles nationales.
