Nació en Bakú, República Socialista Soviética de Azerbaiyán (actualmente país independiente Azerbaiyán) en una familia de músicos.
Estudió en el Conservatorio de Moscú, desde los dieciséis años. Y llegó a ser alumno de Dmitri Shostakovich y Serguéi Prokofiev, antes de graduarse con las máximas distinciones académicas.
Posteriormente trabajaría como profesor en el mismo Conservatorio, desde 1961. En 1948 fue solista de la Orquesta Filarmónica de Moscú. A partir de 1950 actuó como violonchelista y como director. Dió asimismo recitales de piano acompañando a su mujer, la cantante Galina Vishnévskaya. Tras un tiempo en Moscú, fue nombrado profesor en el Conservatorio de Leningrado.
Encargó o estrenó obras para violonchelo de los principales compositores contemporáneos, como la Sinfonía concertante en mi menor, opus 125 (1952) de Serguéi Prokófiev, los dos conciertos para violonchelo (1959, 1966) de Dmitri Shostakóvich y la Cello Symphony (1963), la Sonata para violonchelo y piano (1961) y las Suites para violonchelo (1964, 1967, 1971) de Benjamin Britten.
En 1951 recibió el Premio Stalin y después el Premio Lenin, máximo galardón soviético, en 1963. Sin embargo defendió de forma pública al escritor Alexander Solzhenitsyn en una carta enviada al diario Pravda en 1970. En 1974 Rostropóvich y su esposa abandonaron la Unión Soviética al haber sido privado de la posibilidad de dar conciertos y trabajar. En 1978, se les retiró la nacionalidad soviética.
Emigraron a Estados Unidos y en 1979 fue nombrado director de la Orquesta Sinfónica Nacional en Washington, D.C. que dirigió durante 17 años. En 1990 fue invitado a actuar con esta orquesta en la Unión Soviética por Mijaíl Gorbachov, ocasión en la que les fue devuelta la nacionalidad soviética a él y a Galina Vishnevskaya. No obstante mantuvo toda su vida los pasaportes de Mónaco y Suiza que eran con los que habitualmente viajaba.
Con el intento de golpe de Estado en la Unión Soviética contra el presidente Gorbachov en agosto de 1991, Rostropóvich fue un activo defensor del proceso de cambio oponiéndose a los golpistas y mostrando su apoyo explícito al mismo Gorbachov y a Borís Yeltsin, llegando a ser fotografiado portando una ametralladora junto al guardaespaldas que lo acompañaba, al dormirse este, víctima del agotamiento.
Previamente, en 1989, ya había mostrado su pleno apoyo al proceso de reformas en los países del Este de Europa al tocar el violonchelo frente al Muro de Berlín. El 11 de noviembre de 1989, dos días después de la apertura del Muro, interpretaba delante de sus ruinas -la gente todavía lo estaba demoliendo- la suite número 2 para violonchelo de Johann Sebastian Bach.
En el año 1995 recibió el Polar Music Prize, un premio concedido por la Real Academia de Suecia de Música. En 1997 le fue concedido junto a Yehudi Menuhin el Premio Príncipe de Asturias de la Concordia. En 2002 recibió la Condecoración Konex otorgada por la Fundación Konex de Argentina. En 2004 le fue concedido el Premio de la Fundación Wolf de las Artes de Jerusalén.
Era amigo íntimo de la Reina Sofía, desde que ella era tan sólo una niña. La amistad se conservo hasta el fallecimiento de Rostropovith. La Reina Sofía asistió a centenares de conciertos. El Rey que padecemos no iba nunca. Prefería cazar elefantes.
También fue intimo amigo del mejor compositor ruso de todos los tiempos Dimitri Schostakovich que escribió sus maravillosos dos conciertos de violonchelo para el.
El 27 de abril de 2007 falleció en un hospital de Moscú a los 80 años de edad a causa de un cáncer intestinal.
En la foto tres de los grandes genios de la música del siglo XX. A la izquierda Rostropovitch, en el centro el mejor compositor ruso de todos los tiempos, Schostakovich y a la izquierda el pianista Svyatoslav Richter.
