L’abbaye Saint-Ouen possédait déjà un orgue au 16e siècle qui fut détruit par le Hugenots en 1562.
En 1630, un instrument neuf est construit par Crespin Carlier sur un plan fourni par Titelouze. C’est un grand huit pieds à deux claviers de 48 notes et pédale indépendante de 28 marches. Cet orgue est remanié et augmenté vingt ans plus tard par Thomas Morlet; un positif de dos est ajouté et le grand corps passe d’un huit pieds à trois tourelles à un grand seize pieds à cinq tourelles.
Après l’ouragan de 1683, l’orgue est remis en état par Jean Brocard et Jacques Cherel. Charles Lefebvre y travaille en 1724. D’autres importants travaux sont effectués par Nicolas Collar en 1733. En 1741, l’orgue est démonté par Jean-Baptiste Martin Lefebvre. On ne sait pas à quelle date il fut remonté.
En juillet 1803, on déclare qu’il ne reste « que la montre, encore quelques tuyaux y manquent, tous les jeux de l’intérieur, mouvements, sommiers, conduits ont été démontés, brisés et enlevés, il ne reste absolument rien dans le buffet ». L’orgue est reconstruit à cette époque avec du matériel provenant des instruments de Saint-Godard, de Saint-Vigor et de Saint-Jean. D’importants travaux sont entrepris de 1823 à 1838 par Pierre-François puis Paul-Louis Dallery.
Appelé en 1851 à vérifier l’instrument Aristide Cavailllé-Coll le classait parmi les plus grands instruments de France. L’orgue comprenant alors 50 jeux sur 5 claviers manuels et pédale. De 1851 à 1882, réparations et modifications se succédèrent : installation d’une nouvelle soufflerie, suppression du clavier d’écho et installation d’un récit expressif.
En 1888, « une restauration foncière et complète de toute la partie mécanique et instrumentale » est confiée à Aristide Cavaillé-Coll. C’est une totale reconstruction que le célèbre facteur effectuera, ne conservant que les jeux anciens qui étaient en parfait état (environ 20 jeux). Inauguré le 17 avril 1890 par Charles-Marie-Widor, cet orgue somptueux (à la « Michel-Ange », comme le déclara l’organiste de Saint-Sulpice) est encore aujourd’hui pratiquement intact malgré les relevages de 1941 (Debierre-Gloton) et de 1955 (Beuchet-Debierre).
Le buffet a été classé « Monument Historique » le 5 février 1970 alors que la partie instrumentale l’a été le 20 octobre 1976.
Cet instrument est le dernier chef-d’œuvre issu d’une longue série d’orgues qui avait commencé en 1840 avec l’orgue de la Basilique Saint-Denis, et l’un des plus beaux de la période symphonique.
Le clavier du Récit, le plus grand jamais construit par le facteur, est ici un orgue à lui tout seul puisqu’il comprend vingt jeux. Au clavier principal (Grand-Orgue), on remarque deux jeux d’anches placés horizontalement en chamade, à la base de la montre.