دخل المسلمون في العديد من المعارك بعد وفاة الرسول صلى الله عليه وسلم من أجل نشر الإسلام ، وفي عام 15 من الهجرة دخل الإسلام بلاد الشام واشتبكوا مع الروم في معركة أجنادين وكانت معركة شديدة على الطرفين لكنها أنتهت بفوز المسلمين، بالتالي اتجه بعدها المسلمون إلى مدينة إيلياء وهي بيت المقدس حاليًا وحاصروها حصارًا شديدًا لمدة أربعة أشهر ولما اشتد الأمر على أهلها ذهبوا إلى بطريركهم يفتيهم فطلب أن يدخل عليهم عمر أمير المؤمنين، ولقد جاء فتح بيت المقدس بعد فتح عبيدة بن الجراح إلى دمشق، لكن شق على عبيدة فتحها فلقد رفض أهلها التسليم، لأن رهبانها قالوا أن هناك مواصفات لمن يفتحها وفيه كذا وكذا وهي صفات أمير المؤمنين كما ذكرنا، فأرسل إلى عمرو بن العاص لكنه علم أن المقصود هو عمر بن الخطاب فعاد الرسول إلى أمير المؤمنين ولكن رفض البعض المسير إليهم ووافق علي ابن أبي طالب، فوافق عمر بن الخطاب وشد رحاله إلى بيت المقدس، وقد قال عمر بن الخطاب ردًا على مَن رفضوا خروجه إلى بيت المقدس:- (أُبَادِر بالجهاد قبل موت العباس، إنكم لو فقدتُم العباس لانتقض بكم الشرُّ كما ينتقض الحبل)، ثم توجه سيدنا عمر بن الخطاب من الجابية إلى بيت المقدس وصالح نصارى بيت المقدس، واستقبله البطريرك صفرونيس وكبير الأساقفة، واشترط عليهم إجلاء الروم إلى ثلاث الإسلام أو الجزية أو الحرب، ثم دخل المسجد من الباب الذي دخل منه رسول الله -صلى الله عليه وسلم- ليلة الإسراء، ويقال أنه صلى تحية المسجد في محراب داود، ثم جعل على نصف فلسطين علقمة بن حكيم وأسكنه مدينة الرملة، وعلى نصفها الآخر جعل علقمة بن مجزر وأسكنه إيلياء.