Kemudian Mu’adz radhiyallahu ‘anhu berangkat ke Yaman, dan ia tetap tinggal di sana hingga Rasulullah shallallahu ‘alaihi wasallam wafat.
Pada tahun ketika Umar radhiyallahu ‘anhu menunaikan haji, Mu’adz radhiyallahu ‘anhu pun datang ke Makah.
Abu Bakar radhiyallahu ‘anhu mengangkat Umar sebagai amir jemaah haji, maka bertemulah Mu’adz dan Umar pada tanggal
delapan Dzul-Hijjah di Makah.
Keduanya pun berpelukan dan saling menyatakan bela sungkawanya atas wafat Rasulullah shallallahu ‘alaihi wasallam.
Lalu, mereka berdua pun duduk beramah-tamah.
Umar melihat bahwa Mu’adz memiliki beberapa budak (kemudian, perawi menyebutkan hadis yang sebagian besar lafalnya sama dengan hadis yang diriwayatkan oleh ibnu Mas’ud radhiyallahu ‘anhu (setelah hadis ini).
Demikian pula diriwayatkan beserta sanadnya oleh ibnu Sa’d (3/587) dari Jabir radhiyallahu ‘anhu dengan lafal yang sebagian besarnya sama.
AL-HAKIM meriwayatkan beserta sanadnya dari jalur Abu Wa’il dari Abdullah radhiyallahu ‘anhu, ia berkata: Ketika Nabi shallallahu ‘alaihi wasallam wafat, orang-orang mengangkat Abu Bakar radhiyallahu ‘anhu sebagai khalifah.
Sebelumnya, Rasulullah shallallahu ‘alaihi wasallam telah menugaskan Mu’adz sebagai gubernur Yaman.
Abu Bakar mengangkat Umar radhiyallahu ‘anhumâ sebagai amir jemaah haji pada musim haji tersebut, dan Umar pun bertemu dengan Mu’adz di Makah.
