1947 yılında Uşakta doğan Yılmaz, Lisans eğitimini ingilterede The City University Londonda tamamladı. 1980 yılında Türkiye Cumhuriyet Merkez Bankası Dış Borç Erteleme Servisinde göreve başladı. 1995 yılında Müdür, 1996da Genel Müdür Yardımcısı oldu. 2002 yılında işçi Dövizleri Genel Müdürü olan Yılmaz, 01 Mayıs 2003 tarihinden itibaren Banka Meclisi Üyesi olarak görev yapmaktadır.