En 1932, la famille s'installe à Kazan. Gubaidulina étudie la composition et le piano au conservatoire de Kazan, notamment avec Grigori Kogan, et poursuit ses études à Moscou jusqu'en 1963. En tant qu'étudiante, elle a reçu une bourse de Staline. Pendant ces études, sa musique a été qualifiée d'"oubliée du devoir", mais Dmitri Chostakovitch l'a encouragée à poursuivre son "égarement".
Au milieu des années 1970, Gubaidulina a fondé avec les compositeurs Viktor Suslin et Viatcheslav Artjomow l'ensemble Astreja, qui improvisait sur des instruments de la musique populaire russe. Dans les années soixante et soixante-dix, leurs œuvres étaient interdites en Union soviétique, car leur musique ne correspondait pas aux idées du réalisme socialiste.
Son succès en Occident a été principalement soutenu par le violoniste Gidon Kremer (plus tard également par Reinbert de Leeuw), qui a créé son premier concerto pour violon, Offertorium, en 1981. Depuis, Sofia Gubaidulina fait partie, avec Alfred Schnittke et Edisson Denissow, des compositeurs russes de premier plan de l'ère post-chostakovitch, reconnus dans le monde entier.
En 2000, Gubaidulina a reçu, avec Tan Dun, Osvaldo Golijov et Wolfgang Rihm, une commande de composition de l'Académie internationale Bach de Stuttgart pour le projet Passion 2000 (en mémoire de J. S. Bach). Leur contribution fut une Passion selon saint Jean. Elle fut suivie en 2002 par la composition Johannes-Ostern. Les deux œuvres forment un diptyque sur la mort et la résurrection du Christ ; l'œuvre la plus vaste de Gubaidulina à ce jour. Le deuxième concerto pour violon In tempus praesens est dédié à Anne-Sophie Mutter. En 2003, à l'invitation de Walter Fink, elle a été la première femme à se produire lors du portrait annuel des compositeurs du Rheingau Musik Festival.
Sofia Gubaidulina vit en Allemagne depuis 1992. Elle est membre de l'Académie des arts de Berlin, de la Freie Akademie der Künste de Hambourg et de l'Académie royale suédoise de musique de Stockholm, et membre honoraire de l'American Academy of Arts and Letters. En 1990, elle a été nommée membre du comité de remise des prix Lénine. En 1999, elle a été nommée à l'Ordre Pour le Mérite. Depuis 2001, elle est professeur honoraire au conservatoire de Kazan et, depuis 2005, aux conservatoires de Beijing et de Tianjin.
En 2018, elle a été nommée à l'Academy of Motion Picture Arts and Sciences, qui décerne chaque année les Oscars.
David Geringas écrit que leur musique représente le "lien entre le rationnel et l'irrationnel", qui ne sont pas seulement juxtaposés, mais ne font souvent qu'un au même moment. En cela, sa musique ressemble à celle de Jean-Sébastien Bach.