Son Mekke Emiri Ali Haydar Paşanın oğludur. 1892'de istanbul'da doğmuştur. 6 yaşında ud çalmaya başlamıştır. 14 yaşında viyolonsel çalmaya başlamıştır. 1924 yılında Amerika'ya gitmiştir. ilk konserini 1928 yılında Town Hall de vermiştir. 1932 yılında hastalanarak ameliyat geçirmiş ve istanbul'a dönmüştür. istanbul'da konserini 1934 yılında Beyoğlu Fransız Tiyatrosunda vermiştir. 1934 yılında Irak Hükümetinin daveti üzerine Bağdat'a giderek şark ve garp musikisini ihtiva eden konservatuarı tesis etmiştir. Burada 12 sene çalıştıktan sonra hastalanarak 1948 de istanbul'a dönmüştür.
Amerikalı müzik otoriteleri Şerif Muhittin için Paganini Kemanda ne yapmışsa Şerif Muhittinde udta onu yapıyor. O udun paganinisi dir demişlerdir. Şerif Muhittin resimlede ciddi şekilde meşgul olmuştur. Şair Mehmet Akif Ersoy 7. Sefahatında Şerif Muhittin için manzume yazmıştır. Bestekarın eserleri Ömrümün Son Şevki Sensin - Yare Faşet Razını - Hüzzam Saz Semaisi - Müstezar Saz Semaisi - Feraffeza Saz Semaisi - Uşşak Saz Semaisi - Irak Saz Semaisi - Dügah Saz Semaisi - Kapris I - Kapris II - Çocuk Havası - Koşan Çocuk.
