26 mart 922 tarihinde bağdat'ın bâbüttâk denilen semtinde önce kırbaçlandı; burnu, kolları ve ayakları kesildikten sonra idam edildi.
başı kesilerek dicle üzerindeki köprüye dikildi; gövdesi yakılıp külleri nehrin sularına savruldu.
kesik başı iki gün köprüde dikili bırakıldıktan sonra horasan'a gönderilerek bölgede dolaştırıldı.
hallâc'ın asıldığı yer zamanla önem kazanmaya, hak şehidi bir velînin türbesi olarak ziyaret edilmeye başlanmıştır. vezirliğe yeni tayin edilen ali b. mesleme'nin, görevine başlamadan önce hallâc'ın kabri olarak bilinen yeri ziyaret ederek mânevî huzurunda dua edip niyazda bulunması, abbâsî devleti'nin ondan özür dilemesi ve itibarını iade etmesi anlamına gelmiştir. hallâc adına burada inşa edilen ve zaman zaman onarılan türbeden başka çeşitli islâm beldelerinde onun adına pek çok makam yapılmış ve bu makamlar birçok mutasavvıf, âlim ve devlet adamı tarafından ziyaret edilmiştir.
hallâc-ı mansûr'un öldürülme sebebi hakkında, abbâsîler'e karşı ayaklanmış olan karmatîler'le gizlice mektuplaştığı, "enelhak" sözüyle ulûhiyyet iddiasında bulunduğu, haccın farziyetini inkâr edip yeni bir hac anlayışı ortaya koyduğu şeklinde çeşitli iddialar ileri sürülmüştür. ancak idamın esas sebebinin bu tür iddialar olmadığı anlaşılmaktadır. iii. (ix.) yüzyılda yaşamış olan ve hallâc'ınkine benzer şathiye türü sözleriyle tanınan bayezid i bistami gibi sûfîlere dokunulmamış olması bunu gösterir.