Als angesehener Solist und Kammermusiker stand er auf der Bühne und unternahm Konzertreisen mit Musikern und Ensembles wie Gustav Leonhardt, William Christie, Roy Goodman, The English Concert, The Orchestra of the 18th Century, Akademie für Alte Musik Berlin, La Fontegara Amsterdam, The Parley of Instruments, etc.
Seine zahlreichen CD-Einspielungen bei renommierten Labels (DGG/Archiv, Hyperion, Chandos, Harmonia Mundi, CPO, etc.) fanden international Anerkennung.
Von 1984–88 unterrichtete er an der Guildhall School of Music in London, und 1988 wurde er als Professor sowohl an der Royal Academy of Music, London als auch an der Hochschule für Musik und Theater Hamburg berufen. Gegenwärtig ist er außerdem Gastprofessor an der Akademia Muzyczna w Krakowie und unterrichtet bei internationalen Meisterkursen und Sommerakademien.
Anders als viele andere um historische Aufführungspraxis bemühte Interpreten zieht es Peter Holtslag vor, die Alte Musik im Lichte rhetorischer Traditionen zu sehen, statt es ihr zu erlauben, einem sturen motorischen Kurs zu folgen.