Çok eski bir tarihi geçmişe sahip olan Arapgir, Malatya ili ile yaşıt denecek kadar eskidir. Şehrin M.Ö. 1200 yıllarında kurulduğu ve ilk yerlilerinin Muşkiler olduğu bilinmektedir.
M.Ö. 853 yılında Arapgir Asur Egemenliği altına girer ve Asur Devletine vergi öder. Daha sonra bölgeye Urartular hakim olur. Bu dönemde Malatya halkının çoğu Mezopotamya’ ya sürülür. M.Ö. 612 tarihinden sonra Arapgir iran (Met) Devletinin egemenliği altına girer. Bu durum iskender’ in Anadoluya girdiği 330 yılına kadar sürer.
M.Ö. 44 yıllarında Doğu Anadolu Romalıların eline geçmiştir.
Yörenin islam egemenliğine geçmesi Emevi komutanı Davut Bin Süleyman’ ın sayesinde olur. (M.S. 717) Daha sonraları bölge önce Danişmentlilerin eline, 1178 yılında Selçuklu Devletinin eline geçer, Selçuklu Sultanlığının bir Sancağı olur. Selçukluların Moğollara Kösedağı savaşında yenilmesiyle Arapgir Moğolluların eline geçer. Anadolu Beyliklerinin kurulmaya başladığı dönemde Arapgir önce Karakoyunluların, daha sonra Akkoyunluların eline geçer. 1515 çaldıran Savaşından sonra Osmanlı Devletinin egemenliğine girer, Sivas eyaletinin yedi sancağından birisi olur.
1834 yılında Şark Eyaletlerinin ıslahına ve devlet nüfuzunun tesisine yetkili Sivas Valiliğine tayin edilen Mehmet Reşit Paşa Harput’ u eyalet ve Ordu Merkezi haline getirmiş, bu arada Arapgir’ i de Kaza haline getirerek Elazığ’ a bağlamıştır. Bu dönemde yolların kavşak noktasında bulunması, tüccarların girişken ve çalışkan olması sonucu Arapgir Doğu Anadolu’ nun ticaret ve sanat merkezi olmuştur. Diyarbakır, Malatya ve Harput’ un nüfusu 10-15 bin kişi iken Arapgir 50 Bin nüfusu ile iç ve Doğu Anadolu’ nun en kalabalık şehri haline gelmiştir. Bu durum 1. Dünya Savaşına kadar devam etmiştir. Bu tarihten sonra savaşın etkisi ile büyük tüccarların istanbul, izmir gibi önemli yerleşim yerlerine göç etmesi, Arapgir’ in beslenme havzası olan Irak ve Suriye’ nin Osmanlı topraklarının elinden çıkması neticesinde ilçe bugün 12.000. nüfuslu küçük bir yerleşim haline gelmiştir.