Né en 1934 à Londres, il est le fils de la violoniste Barbara Ensor et d’Anthony Pini, l’un des violoncellistes les plus distingués de Grande-Bretagne du début du XXe siècle. Il s'est formé auprès Sascha Lasserson, Jascha Heifetz et Isaac Stern.
Carl Pini a été le fondateur et le directeur artistique de l’Australian Chamber Orchestra, violon solo de l’Orchestre Symphonique de Melbourne et membre du Sydney String Quartet.
Il a également co-dirigé l’English Chamber Orchestra sous la direction de Daniel Barenboim et Pinchas Zuckerman. En 1975, il a été nommé violon solo du Philharmonia Orchestra de Londres et a ensuite été nommé chef assistant de l’Orchestre Philharmonique de Hong Kong en 1981.
Il a également été le deuxième violon du célèbre London String Quartet et, en 1960, il est devenu leur chef. Pini jouera trois cycles complets de quatuors de Beethoven tout au long de sa vie avec ses différents quatuors.