Çorlu'da yerleşmiş bir çiftçi ailenin oğluydu. Sultan II. Ahmed devri Kapıcıbaşı Türkmen Kara Bayram Ağa'nın evlatlığı olarak, önce Galata Sarayı'na, daha sonra Enderun-ı Hümayun'daki Seferli Koğuşu'na, buradan da Hane-i Hassa'ya yerleştirildi. Şubat 1699'da rikabdarlık hizmetinde bulunuyordu. Sadrazam Amcazade Hüseyin Paşa'da kendisinden bizzat silahdarlık rica etti. 15 Ekim 1700 tarihinde bu memuriyete tayin edildi.
Silahdarlığı, Saray-ı Humayun'da daha üst derecede bir memuriyet haline getirdi. Padişah ile sadrazam arasındaki haberleşmenin silahdarlık makamı vasıtasıyla yerine getirilmesini ve Darüssade'den başka Babüssade ile Enderun-ı Hümayun'a ait bütün işlerin de silahdar ağa nezaretinde yapılmasını sağladı. Çorlulu Ali Paşa'nın bu başarıları çok geçmeden birbirleriyle yarış halinde bulanan sadrazamın ve şeyhülislamın dikkatini çekti.