En 1822, à l'âge de 19 ans, Mérimée commence une tragédie, Cromwell, dont il fait une lecture dans les salons qu'il fréquente. Rien ne subsiste de ce drame dont on sait seulement qu'il était affranchi de toutes les règles et de toutes les bienséances classiques.
Passionné de théâtre espagnol, Mérimée conçoit en 1825 l'idée d'une mystification : le Théâtre de Clara Gazul, recueil de pièces de théâtre qu'il présente comme l'oeuvre d'une célèbre comédienne espagnole, Clara Gazul, qu'un imaginaire M. Joseph Lestrange vient de traduire. Une biographie imaginée, des notes explicatives et un portrait de la comédienne par Delécluze (en fait Prosper Mérimée lui-même représenté avec une mantille, épaules nues et une croix d'or autour du cou) achèvent de rendre la fiction vraisemblable. L'oeuvre excita la curiosité de la jeunesse lettrée et si Le Globe révèle la mystification, plusieurs revues tombent dans le piège. « Je ne conteste pas le plaisir qu'une mystification peut procurer à son auteur, écrit Mérimée en 1835 ; mais la première condition pour qu'elle soit bonne, complète, c'est qu'elle ne lui coûte pas trop de peine ».
Il faut croire que cette condition est remplie deux ans plus tard lorsque Mérimée récidive, en 1827, en publiant La Guzla (anagramme de Gazul), présenté comme un recueil de chants populaires de l'Illyrie écrits par un certain Hyacinthe Maglanovitch dont il retrace la biographie. Ce recueil de ballades fut écrit en quinze jours et eut un retentissement considérable à l'étranger où Goethe et Pouchkine contribuèrent à le faire connaître.
En 1828 Mérimée publie La Famille de Carvajal, qu'il qualifie de mélodrame. Le goût d'historien de Mérimée se manifeste dans ses deux oeuvres suivantes. La Jacquerie, drame sous la forme d'un récit dialogué publié en 1828, transporte le lecteur au milieu du XIVe siècle et propose une interprétation du soulèvement des paysans du Beauvaisis. En 1829 paraît la Chronique du règne de Charles IX, roman historique traçant un brillant tableau des guerres de religion du XVIe siècle, qui n'est pas sans rappeler les romans de Walter Scott alors en vogue et qui connut un succès plus grand encore que La Jacquerie
« Je travaille extraordinairement, écrit Mérimée à son ami Albert Stapfer en décembre 1828, non seulement pour un paresseux comme moi, mais même pour un homme de lettres. Si Dieu m'est aide je noircirai du papier en 1829 ». Effectivement en 1829-1830, il fait paraître dans la Revue des Deux Mondes et la Revue de Paris des nouvelles qui seront réunies en 1833 sous le titre de Mosaïque et des oeuvres théâtrales : Mateo Falcone, qui conte l'histoire d'un enfant corse livrant aux policiers un proscrit contre une montre d'argent et mourant abattu par son père ; Le Carrosse du Saint-Sacrement, pièce jouée par Augustine Brohan, dont Mérimée est amoureux, qui cause un scandale en raison de ses positions antireligieuses ; La Vision de Charles XI inspiré d'un fait historique ; L'Enlèvement de la Redoute, histoire d'un lieutenant se retrouvant commander un régiment en tant que «plus ancien » ; Federigo ; Tamango, conte qui se fit le porte-parole de ceux qui condamnaient l'esclavage ; L'Occasion, sur la jalousie féminine ; Le Vase étrusque, sur la jalousie masculine ; Les Mécontents, satire dialoguée mettant en scène des hobereaux royalistes ; La Partie de Trictrac.
Suit une période stérile du point de vue littéraire où Mérimée
semble préférer mener une vie de dissipation. En 1833 paraît La Double Méprise, récit de « deux coeurs qui se méconnurent ». La Revue des Deux Mondes publie en 1834 Les Ames du purgatoire, nouvelle où Mérimée modernise la légende de Don Juan.
Mérimée retrouve l'inspiration à partir de 1837 avec la publication de La Vénus d'Ille, « suivant moi, mon chef-d'oeuvre », inspirée par un récit d'un chroniqueur latin du Xe siècle. Colomba, l'un des plus grand succès de Mérimée, a été écrit au cours d'une tournée qu'il fit en Corse pendant l'année 1840.
Tenté d'écrire une vie de César il a le projet d'un tryptique dont seuls les deux premiers volets seront publiés : Essai sur la guerre sociale (qu'il a rédigé en prélude à son élection à l'Académie des inscriptions et belles lettres) et La Conjuration de Catilina. Arsène Guillot parut dans la Revue des Deux Mondes le 15 mars 1844, le lendemain de son élection à l'Académie française, et l'histoire de cette fille perdue fit dire à plusieurs partisans de Mérimée qu'il n'aurait pas eu leurs voix s'ils l'avaient lue avant d'aller voter. Carmen paraît en octobre 1845 et ne connaît qu'un faible succès avant de devoir sa gloire à Bizet ; après
En 1848 il publie l'Histoire de Don Pèdre Ier, roi de Castille, qui régna de 1350 à 1369 ; la révolution fut la seule cause de l'insuccès du livre. La même année Mérimée commence l'étude de la langue russe et six mois après il entame une série de traductions qui l'amèneront à faire connaître au public des oeuvres de Pouchkine, Gogol et Tourguéniev ainsi que des études sur l'histoire russe (Les Faux Démétrius, Les Cosaques d'autrefois, Histoire du règne de Pierre Le Grand). Il publie également de nombreux articles où l'archéologie, l'histoire et les beaux-arts tiennent plus de place que la littérature. En 1849 il publie HB, en l'honneur de son ami Stendhal mort en 1842. Napoléon III réclame sa collaboration pour la rédaction d'une Histoire de Jules César.
En 1866 il écrit La Chambre bleue pour divertir l'impératrice et en 1869 paraît la dernière grande nouvelle de Mérimée, Lokis, empreinte du mystère et du fantastique chers à l'écrivain, et qui conduit le lecteur au fond des grandes forêts lituaniennes où une comtesse est emportée par un ours. Un conte inédit, Djoumane, paraîtra encore en 1873, trois ans après la mort de Mérimée.
A toutes ces oeuvres de fiction, il convient d'ajouter ses nombreux essais sur l'architecture et ses Notes de voyage mais surtout la volumineuse correspondance de Mérimée d'un intérêt documentaire immense et que l'on a comparée à celle de Voltaire. Elle est un reflet passionnant de son époque.