Né à Wiesbaden en 1931, le violoncelliste allemand Rudolf Weinsheimer a d’abord étudié le violoncelle avec son père et a finalement étudié avec Karl Drebert. Après avoir obtenu son diplôme de l’école Folkwang à Essen, Weinsheimer a intégré l’Orchestre Philharmonique du nord-ouest de l’Allemagne.
Après deux ans là-bas, Weinsheimer est devenu membre du Berliner Philharmoniker en 1956 -la même année où Herbert von Karajan a été nommé chef principal de l’orchestre. En effet, la carrière de Weinsheimer dans l’orchestre a été presque parallèle à celle de Karajan, Karajan se retirant en 1989 et Weinsheimer prenant sa retraite en 1996. Parallèlement à ses longs états de service, Weinsheimer a également siégé pendant six ans au conseil d’administration de l’orchestre.
En 1972, Weinsheimer fonde "The 12 Cellists of the Berlin Philharmonic", partiellement inspiré par l’œuvre de Julius Klengel de 1920 Hymne pour douze violoncelles. L’ensemble a acquis une renommée mondiale et, au cours de son histoire, a commandé des œuvres à un certain nombre de compositeurs vivants dont Iannis Xenakis, Boris Blacher et Brett Dean.
En outre, il a été actif dans le soutien de jeunes musiciens, en particulier l’orchestre de l’Université Waseda à Tokyo.