Masjid Umar bin Khatab terletak di arah barat daya Masjid Nabawi, dekat dengan masjid Al-Ghamamah. Dari barat mengarah ke jalan Quba, dari utara mengarah ke halaman Masjid Al-Ghamamah, dari sisi timur mengarah ke Wadi Bathhan. Masjid ini dibangun oleh Syamsuddin Muhammad bin Ahmad As-Salawi, tahun 850 H., di lokasi ini diduga pernah menjadi tempat shalat Id Rasulullah juga Umar bin Khathab. Oleh karena itu, masjid ini dinisbahkan kepada Umar bin Khatab. Selanjutnya, masjid ini direnovasi oleh Sultan Mahmud II tahun 1254 H, lalu diperbarui oleh putranya, Sultan Abdl Majid I, tahun 1266 H. Nasjid ini berbentuk persegi empat, Panjang sisinya kira-kira delapan meter. Dibangun dengan batu basal. Bagian dalam masjid di cat dengan warna putih dan di poles dengan kapur. Masjid ini diberi atap kubah, yang tingginya dari dalam kira-kira 12 meter, dihiasi dengan ornament tanaman yang indah. Mihrabnya berada ditengah dinding selatan masjid. Di samping kanan dan kirinya terdapat dua jendela. Di tengah kedua jendela tersebut terdapat jalan masuk
Raudhah adalah tempat yang sangat mulia dimana dahulu Rasulullah SAW melakukan ibadah, memimpin salat, menerima wahyu dan juga menjadi tempat ibadah bagi para sahabat.
Masjid ini merupakan salah satu tempat yang pernah digunakan untul shalat Id oleh Rasulullah dan Abu Bakar Shiddiq, kemudian nama masjid ini pun dinisbahkan kepadanya.