Asıl adı Cündeb b. Cünâde olmakla birlikte, Ebû Zer künyesi ile meşhur olmuştur. Arap yarımadasında kervanlara baskın yapmakla meşhur olan Gıfâr kabilesine mensuptur. Bu kabile mensupları, Araplar tarafından savaşların yasak kabul edildiği Haram Aylar’da dahi kervanlara baskınlar düzenleme ve adam öldürme adetlerinden vazgeçmemişlerdir. Bu kabilenin bir mensubu olarak Cündeb b. Cünâde de yol kesip yağma faaliyetlerine iştirak etmiş, hatta bu konuda kavmi içinde şöhret bulmuştur. Ancak bu özelliğine rağmen onun Cahiliye dönemi Arap hayatında en yaygın inanç şekli olan puta tapıcılıktan uzak durduğu da kaynaklarda zikredilir.
Ebû Zer (ra), Hz. Peygamber’in miladi 610 yılında davete başladığı haberini alınca derhal Mekke’ye geldi ve O’nun huzurunda İslam’a girerek ilk Müslümanların arasına dahil oldu. Bu sebeple ki o, ilk bedevi Müslüman kabul edilir. İslam dinini kabul etmesinden önceki gözüpekliğini Mekke’de de sergileyen Ebû Zer (ra), gizli davetin gerçekleştiği ve Müslüman olanların ancak Mekke’nin uzak vadilerinde toplanıp ibadet edebildikleri bir dönemde Kâbe’ye giderek İslam’a girdiğini herkese açıklama cesaretini gösterdi. Üstelik bununla da iktifa etmeyerek orada bulunan müşrikleri, puta tapmaktan vazgeçip tevhid inancını benimsemeye çağırdı. Onun davranışını kendileri için bir saygısızlık ve meydan okuma olarak kabul eden Mekke uluları, hep birlikte üzerine saldırarak onu feci bir şekilde dövdüler. Ebû Zer (ra)’i, linç girişiminden Hz. Peygamber’in amcası Abbas’ın (ra) müdahalesi kurtardı. Abbas, onu müşriklerin elinden alabilmek için Ebû Zer (ra)’in kabilesi Gıfârlıların kervanlara saldırmakla meşhur olduklarını, şayet ona zarar verirlerse Kureyş’in kervanlarını, Gıfârlıların saldırılarından korumalarının mümkün olmayacağını söyledi. Ticaretlerinin engellenmesi endişesi karşısında Mekkeliler derhal Ebû Zer (ra)’i serbest bıraktılar. Buna rağmen o, ertesi gün yine aynı yerde Müslümanlığını açıklamak suretiyle müşrikleri kızdırmış ve yine saldırıya uğramıştır. Olaydan haberdar olan Rasûlullah, onu yanına çağırarak Mekke’de kalmasının hem kendisi hem de diğer Müslümanlar için tehlike oluşturacağı endişesiyle yurduna gitmesini, orada kendi kabilesini İslam’a davet etmesini ve çağrılmadıkça Mekke'ye gelmemesini istedi. Ebû Zer (ra) Hz. Peygamber’in tavsiyeleri doğrultusunda yurduna döndü ve halkını dine davete başladı. O kadar ki Hz. Peygamber’i görmeden Gıfârlı pek çok bedevi Arap, onun vasıtasıyla İslam dinine girdi.
Ebû Zer (ra), Müslüman olmasından itibaren hicretin 5. yılına kadar geçen uzun süre zarfında Benî Gıfâr yurdunda yaşadı. Nihayet Hendek gazvesinin ardından Medine'ye intikal ederek muhacirler arasına katıldı. Medine’ye hicretten sonra da Hz. Peygamber’in mescide bitişik olarak inşa ettirdiği Suffe denilen eğitim ve barınma merkezinin müdavimleri arasına katılıp Ashâb-ı Suffe’den biri oldu. Bu dönemde sürekli olarak Rasûlullah’ın yakınında bulundu, O’ndan doğrudan ilim almaya başladı. Diğer taraftan da bütün sivil ve askerî faaliyetlere Hz. Peygamber ile birlikte iştirak etti. Müslümanlar için en zorlu askerî harekâtlardan biri olan Tebük seferi esnasında zayıf devesi ile yolculuk yapmak zorunda kalan Ebû Zer (ra), ordunun konaklama yerine ancak sonradan ulaşabildi. O, gidiş yolunda bulduğu suyu kendisi içmemiş, Müslümanlara getirmişti. Bu davranışından son derece memnun ve müteessir olan Allah Rasûlü ona hayır duada bulunmuş ve ashabına “o, yalnız yürür, yalnız ölür ve yalnız haşrolur” demek suretiyle onun daha sonraki hayatı hakkında bilgi vermiştir.
Müslim’de geçen bir rivayete göre Ebû Zer (ra), Hz. Peygamber’den kendisine idarecilik verilmesini talep etmiş ancak kendisine bu görevin sadece yönetim konusunda yeterli kişiler tarafından yerine getirilmesi gerektiği, aksi halde büyük sorumluluk sebebi olduğu söylenince talebinden vazgeçmiştir. Bundan dolayıdır ki o, ölümüne kadar hiçbir zaman görev talebinde bulunmamış, yapılan teklifleri de kabul etmemiştir.
Ebû Zer’in (ra), Hz. Ebû Bekir (ra) ve Hz. Ömer (ra)’in halifelikleri döneminde sakin bir hayat yaşadığı anlaşılmaktadır. O, bu süreçte Müslüman askerlerle birlikte Suriye fetihlerine iştirak etti ve halife Hz. Ömer (ra)’in kendisine bağladığı maaş ile hayatını mütevazı şartlarda devam ettirdi. Suriye ve Ürdün fetihlerinin ardından Mısır fethine iştirak etti, burada bir müddet kaldıktan sonra tekrar Medine’ye döndü. Ebû Zer’in (ra) İslâm tarihi kaynaklarında adının sıkça zikredildiği dönem Hz. Osman (ra)'ın halifeliği zamanıdır. Bu sürecin başlangıcında tertip edilen seferlere bir asker olarak iştirak eden Ebû Zer (ra), Şam eyalet valisi Muaviye’nin Anadolu seferleri ve Kıbrıs fethine de katıldı. Gerek Suriye gerek Mısır gerekse İran fetihlerinde elde edilen muazzam ganimetler sonucunda toplumda görülen refah ve devlet adamlarının harcamalarındaki artış, Ebû Zer ile zamanın idarecileri arasında tartışmalara sebep oldu. O, insanların dünya malına temayül göstermelerini, bilhassa Emevî idarecileri ile bazı zengin Müslümanların ihtiyaç fazlası mallarını Allah yolunda sarf etmeyip biriktirmelerini (kenz) şiddetli bir şekilde eleştirmeye başladı. Altın ve gümüşü Allah yolunda sarf etmeyip biriktirenleri elem verici bir azap ile korkutan ayetlere dayanarak (Tevbe, 34-35), ihtiyaç fazlası malın elde tutulmayarak derhal Allah yolunda harcanması gerektiğini savunan Ebû Zer (ra), bu konuda halife Hz. Osman (ra)’ı göreve çağırarak elinde ihtiyacından fazla mal bulunan Müslümanların sahip olduklarının devlet zoruyla müsadere edilmesini ve ihtiyaç sahiplerine dağıtılmasını istedi. Buna karşılık Hz. Osman (ra) da kendisinin devlet başkanı olarak ancak zekât konusunda insanları zorlayabileceğini, onları tasaddukta bulunmaya teşvik edebileceğini ancak farz olan, zekâtı verilmiş malın tasarrufunun sadece sahibine ait olduğunu, halifenin bu konuda bir yetki ve sorumluluğunun bulunmadığını söyledi. Buna rağmen Ebû Zer (ra) insanları dünya malından uzak durmaya, zühd ve takvaya yöneltmeye dair görüşlerini açıklamaya devam etti. Üstelik fikirlerini daha da sertleştirerek Müslümanların malını kendi malları gibi harcadıkları iddiasıyla devlet idarecilerini itham edici boyuta taşıdı. Bu sebeple, düşüncelerinden rahatsız olanların sözlü ve fillî müdahaleleriyle karşı karşıya kaldı. Hz. Osman (ra) da bunun üzerine, eleştirdiği insanlar tarafından kendisine daha büyük bir zarar gelebilir endişesiyle belli bir süre ikamet etmek üzere onu Medine’den Şam valisi Muaviye’nin yanına gönderdi. Ebû Zer (ra) burada da aynı görüşleri toplum içinde seslendirmeye devam etti.
Onun dünya malına düşkünlük konusundaki eleştirilerinden bölge valisi Muaviye de nasibini aldı. Kaynaklarda Muaviye’nin onun görüşlerinin samimiyetini test etmek üzere kendisine bir kese altın gönderdiği, ertesi günü de aynı şahsı yollayarak altının yanlışlıkla gönderildiğini ve geri alınması gerektiğini bildirdi. Ancak Ebû Zer (ra), gelen altını geri vermeyeceğini, zira alır almaz altınları ihtiyaç sahibi insanlara dağıttığını söyledi. Bu hadise üzerine muhatabının görüşlerindeki samimiyetine inanan ancak bu düşüncelerin seslendirilmesinin idare ettiği şehirlerde problem çıkaracağından endişelenen Muaviye, halifeden onu yeniden başkente almasını istedi.
Medine’ye dönüşünün ardından, dünyevileşme karşıtı fikirlerini daha şiddetli bir şekilde seslendirmeye başlayan Ebû Zer (ra) bu konuda kendisini destekleyen insanlar da bulmaya başladı. Diğer taraftan bu fikirler fetihler sonucunda refah toplumu içinde yaşamaya başlayan varlıklı insanları hissedilir bir şekilde rahatsız etmeye başladı. Toplumda bir iç çatışmanın belirtileri görülüyordu. Üstelik halife ailesinin bazı gençleri, kendilerine sataştığı gerekçesiyle Ebû Zer’i (ra) dövdüler. Bunun üzerine Hz. Osman (ra) hem muhtemel bir dahilî problemi engelleme hem de Ebû Zer (ra)’e gelebilecek başka saldırıları bertaraf etme amacıyla onu Medine’ye yakın bir yerde bulunan, yerleşik bir alan olmayıp sadece gelip giden kervanların konakladıkları Rebeze denilen bir yere göndermeye razı etti.
Kaynakların bazılarında onun halife tarafından sürgün edildiği söylenmekle birlikte buraya gitme konusunda kendisinin de rızasının alındığı anlaşılmaktadır. Zira Ebû Zer (ra)’in zorla gönderildiği bu yerden kendi isteğiyle başka bir yere gitme imkânı her zaman vardı. Ebû Zer (ra)’in Medine’den gönderilmesi ashab arasında rahatsızlık meydana getirdi. Halifeyi bu konuda eleştiren Hz. Ali (ra), onu Rebeze'ye hareketi esnasında uğurlamış ve oğullarını yanına refakatçi olarak göndermiştir. Vefatına kadar insanlardan uzak bir vaziyette bu konaklama yerinde hayatını devam ettiren Ebû Zer (ra), hicretin 32. yılının Zilhicce ayında (Temmuz 653) burada vefat etti.
Ebû Zer el-Gıfârî’ye (ra) Hz. Osman (ra) yönetiminin muamelesi ve onun Medine’den ayrılarak Rebeze’de yaşamak durumunda bırakılması, Hz. Osman (ra) idaresine karşı dile getirilen en önemli eleştirilerden biri kabul edilir. Bir taraftan Ebû Zer (ra) Rebeze’de sürgün hayatı yaşarken, diğer taraftan Hz. Peygamber’in Taif’e sürgüne gönderdiği, halifenin amcası Hakem b. Ebu’l-Âs’ın Medine’ye gelmesine izin verilmesi, sürekli olarak karşılaştırılmış ve bu uygulama, halifeye karşı isyan gerekçelerinden biri olarak kabul edilmiştir.
Bu sebepledir ki hayatta olduğu gibi vefatından sonra da Ebû Zer (ra) siyasi ve içtimai hadiselerde dolaylı bir şekilde rol oynamıştır. Cesareti, samimiyeti, açık sözlülüğü ve doğruluğu ile ashab arasında şöhret bulan Ebû Zer (ra) hakkında Allah Rasûlü’nün, “gökkubbenin altında Ebû Zer'den daha doğru sözlü kimse yoktur” buyurduğu rivayet edilir. Zahidliği ile ünlenen ve dünya malına karşı en küçük bir meyli bulunmayan Ebû Zer (ra)’in bu haline Hz. Peygamber; “Ebû Zer, yeryüzünde İsa b. Meryem'in zühdüyle yürür” sözüyle şahitlik eder.
Ashab-ı Suffe arasında olması sebebiyle Allah Rasûlü’nün en yakınında bulunma imkânından sonuna kadar istifade eden Ebû Zer (ra), ilmi bizzat kaynağından almış, ondan duyduğu hadisleri ezberlemiş ve bunları diğer Müslümanlara aktarma gayreti içinde olmuştur.