1320 yılında Moğol hakimiyetindeki isfahan şehrinde dünyaya geldi. Babasının adı Yahya'dır, soyu Ömer bin Hattab'a dayanır. Zeki ve çalışkan bir çocuk olan Şeyh Ali Semerkandi birçok ilimde uzman hale geldi. Hicaz bölgesine yerleşen Şeyh Ali Semerkandi Muhammed bin Abdullah'ın türbedarlığını da yaptı. Türbedarlığı sırasında aldığı manevi işaretle Anadolu'ya göç etti. Birçok bölgede bulunduktan sonra en nihayet Ankara'nın Çamlıdere beldesine yerleşen Şeyh Ali Semerkandi, burada hayatının sonuna kadar birçok talebe yetiştirdi. 1457 yılında hayata gözlerini yumdu.
