Après des études au conservatoire de Liège, il remporte le Premier Grand Prix de Rome de Belgique avec sa cantate Les fiancés de Noël (1913), puis occupe les postes de directeur et chef d'orchestre de l'Opéra français de Hanoï et directeur du Conservatoire royal de Bruxelles. Il succède à son frère Joseph Jongen à l'orgue de l'église Saint-Jacques de Liège.

Il effectue de nombreux voyages en Asie (Chine, Indochine, Japon) et au Maroc. Installé au Tonkin, il est nommé directeur de la musique et premier chef d'orchestre de l'Opéra français d'Hanoï. Nommé professeur de fugue au Conservatoire de Bruxelles à son retour en Belgique en 1934, il succède à son frère comme directeur de cet établissement de 1939 à 1949. Il fut également recteur de la chapelle de la Reine Élisabeth (1956).