Hürmete ve saygıya lâyık iki belde. Mekke-i mükerreme ve Medîne-i münevverenin ikisine verilen ad. Mekke-i mükerremede Kâbe-i muazzama, Medîne-i münevverede sevgili Peygamberimizin sallallahü aleyhi ve sellem mübârek kabr-i şerîfi bulunduğu için her ikisine saygı ve hürmet duyulması gereken yer mânâsına Haremeyn denilmiştir.
Osmanlı sultanlarının herbirinin Haremeyn’e pekçok hizmetleri olmuştur. Bu sebeple onlar kendilerine Hâkim-ül-haremeyn (Haremeyn’in hâkimi) yerine Hâdim-ül-haremeyn (Haremeyn’in hizmetçisi) denilmesini istemişlerdir. Yavuz Sultan Selîm Han, Mısır’ı feth ettiği zaman hutbede kendi ismini Hâkim-ül-haremeyn olarak okuyan hatîbe îtirâz ederek; “Biz Haremeyn’in (bu iki mübârek şehrin) hâkimi olamayız. Ancak Hâdim-ül-haremeyn yâni Haremeyn’in hizmetçisi oluruz” dedi. Kâbe’nin içini süpürmeye mahsûs olan süpürgelerden birisi kendisine getirilince, süpürgeyi bir tâc gibi kaldırarak başına koydu. Kendilerinden sonra gelen sultanların taclarına koydukları süpürge şeklindeki sorguç buradan gelmektedir. (İslâm Târihi Ansiklopedisi)
Ey bâd-ı sabâ uğrarsa yolun semt-i Haremeyn’e
Benden selâm söyle Resûlüs Sekaleyn’e
(Lâ Edrî)