Yeraltı Camii’nin ünü mimari özelliklerinden değil, halk nezdinde önemi bir ziyaretgâh olarak kabul edilmesindendir. Sahâbeden Amr bin el As (r.a.), Vehb B. Huşeyre ve Süfyân B. Uyeyne’nin (r.a.) makam veya kabirlerinin burada olduğuna inanılır.