Bir gün Hz. Ali, Kâbe’nin yanından geçerken, Ebû Zer gözüne takıldı. Hâlinden garip ve yabancı biri olduğnu anladı:
“Sen garip biri misin?”
“Evet.” “Buyur, benimle gel, seni misafir edeyim.” dedi. Ebû Zer kabul etti.
Ebû Zer kadar Hz. Ali de tedbirli ve ihtiyatlı idi. O gün birbirlerine açılamadılar. Zira müşrik zulmü öylesine kuvvetliydi ki, birinin Müslüman olduğunu haber alır almaz hemen üzerine çullanarak bayıltıncaya kadar dövüyorlardı…
Sabah olmuştu. Ebû Zer hemen kalkıp Kâbe’ye gitti. “Belki Yeni Peygamber’i görebilirim!” diye düşündü.
Akşama yakın yine Hz. Ali oradan geçiyordu:
“Henüz bir yer bulup yerleşemedin mi?”
“Hayır. Aslında burada kalmaya pek niyetim yok.”
Hz. Ali onu tekrar evine davet etti. Birlikte gittiler. Eve vardıklarında Hz. Ali aralarındaki sır perdesini araladı:
“Doğru söyle, seni buraya getiren bir şey olmalı! Sen bir şeyler arar gibisin.”
“Gizli tutacağına söz verirsen söylerim.”
“Emin olabilirsin.”
“Bize ‘burada birinin çıkıp peygamberlik iddia ettiği’ haberi ulaştı. Ondan haber getirmesi için kardeşimi gönderdim. Ancak kardeşimin getirdiği haber beni tatmin etmediği gibi, bu zata karşı merakımı daha da artırdı. Bunun için bizzat gelip onunla görüşmek ve konuşmak istedim.”
“Şüphesiz, sen tam aradığının içine düştün! Ben de onun yanına gideceğim. Sen arkamdan gel. Beni takip ederek onun huzuruna girersin. Yalnız ben yolda sana zarar verecek bir durum görürsem, ayakkabımı düzeltir gibi bir duvara yönelirim. Sen de durmaksızın ilerlersin.”
Ebû Zer bunları duyunca pek sevindi. içine tatlı bir heyecan dalgası yayıldı. Günlerce araştırdığı gerçek, karşısına çıkmıştı. Merakı bir kat daha arttı. Hz. Ali’nin peşine takılıp gitti. Resûlullah’ın evine yaklaştılar. Hz. Ali önden, Ebû Zer de arkadan takip etti ve içeri girdiler.
Ebû Zer’de heyecan son haddine varmıştı. Peygamber’i görür görmez ona hayretle baktı ve “Bana hemen dinini anlatıver!” demekten kendisini alamadı. Peygamberimiz, tebliğ ettiği yüce dini kısaca kendisine anlattı.
içi içine sığmıyordu. Sanki dünyaya meydan okuyacak bir Ebû Zer olmuştu. Duyduğu hakikati kâinata haykırmak, her önüne gelene anlatmak istiyordu. Yüce Peygamberimiz, ona tedbirli olması tavsiyesinde bulundu, “Ey Ebû Zer! Bu işi şimdilik gizli tut. Memleketine dön. Bizim ortaya çıktığımızı haber aldığında döner, gelirsin.” Buyurdu.
Fakat Ebû Zer, “Seni hak ile gönderen Allah’a yemin ederim ki, ben bu hakikati müşriklerin ortasında haykırırım!” dedi.
Kötülük yolunda gözünü budaktan esirgemeyen Ebû Zer, hak yolunda mı çekinecekti?!
Kâbe’de Kureyş müşriklerinin toplu bulunduğu yere vardı, “Ey Kureyş cemaati!” dedi, “Beni dinleyin. Biliniz ki, ben Ebû Zer, Allah’tan başka ilah olmadığına ve Muhammed’in O’nun kulu ve Resûlü olduğuna kesin olarak şehadet ediyorum.”
Bu meydan okuyuşu duyan azgın müşrikler, ellerine geçirdikleri taş ve sopalarla Ebû Zer’in üzerine saldırdılar. Ebû Zer mücadele ettiyse de nafileydi, bayılıp yere yığıldı. Bu hâl birkaç kere tekrar edildi. Bir keresinde Peygamberimizin amcası Abbas, Kureyş’e, “Ne yapıyorsunuz?! Dövdüğünüz bu zat, sizin ticaret yolunuz üzerindeki Gıfar kabilesindendir.” deyince onu bıraktılar.