1108'de kuruldu. kurucusu Artuk Bey'in oğlu Necmeddin ilgazidir. ilgazi, Hısn Keyfa Artuklularının kurucusu olan kardeşi Sökmen'in oğlundan Mardin'i aldı ve bağımsızlığını ilan etti. Hısn Keyfa Artukluları sınırları içinde olan Mardin ve çevresi böylece ayrı bir beylik haline geldi. Neçmeddin ilgazi 1118'de, sonradan beyliğin başkenti olan Diyarbakır'ı topraklarına kattı. Ertesi yıl Halep yakınlarında Haçlıları yendi. Daha sonra Harezmşahların ve Anadolu Selçuklularının egemenliğini tanıyan beylik, 200 yıl daha varlığını sürdürdü. Mardin Artukluları 1409'da Karakoyunlular tarafından yıkıldı.