كان أول كتاب كتبه سيدنا عمر إلى أبي عبيدة بن الجراح بتولية جُند خالد وبعزل خالد.ولمّا هزم الله عز وجل أهل اليرموك استخلف أبو عُبيدة على اليرموك بشير بن كعب الحميريّ، وسار حتى نزل الصُّفُّر، فأتاه الخبر أن المنهزمين اجتمعوا بفحل (موضع بالشام) وأتاه الخبر أيضاً بأن المدد قد أتى أهل دمشق من حمص، فكتب إلى سيدنا عمر بذلك، فأجابه بأن يبدأ بدمشق فإنها حصن الشام وبيت ملكهم وأن يشغل أهل فحل بخيل تكون بإزائهم، وإذا فتح دمشق سار إلى فحل ، فإذا فُتحت عليهم سار هو وخالد إلى حمص وترك شُرحبيل بن حسنة وعمراً بالأردن وفلسطين.
فأرسل أبو عُبيدة إلى فحل طائفة من المسلمين فنزلوا قريباً منها، وبثق الروم الماء (اتساح أو انفجر) حول فحل فوحلت الأرض، فنزل عليهم المسلمون، فكان أول محصور بالشام أهل فحل ثم أهل دمشق.
وبعث أبو عُبيدة جُنداُ فنزلوا بين حمص ودمشق وجنداً بين دمشق وفلسطين.
وسار هو وخالد فقدموا على دمشق وعليها نِسطاس فنزل كل واحد منهم بناحية ، وكان هرقل قريب حمص.
فحصرهم المسلمون سبعين ليلة حصاراً شديداً وقاتلوهم بالزحف والمجانيق، وجاءت خيول هرقل مغيثة دمشق فمنعتها خيول المسلمين التي عند حمص، فخُذل أهل دمشق وطمع فيهم المسلمون.
وولد للبطريق الذي على أهل دمشق مولود فصنع طعاماً فأكل القوم وشربوا وتركوا مواقعم، ولا يعلم ذلك أحد من المسلمين إلا ما كان من خالد وكان قد اتخذ حبالاً كهيئة السلالم وأوهاقاً ، فلمّا أمسى ذلك اليوم نهد هو ومن معه من جنده وتقدّمهم هو والقعقاع ومذعور بن عدي وأمثاله وقالوا: إذا سمعتم تكبيراً من السور فارقوا إلينا واقصدوا الباب.
فكان ذلك الموضع أشد المناطق تحصيناً فصعده المسلمون ثم انحدر خالد وصحبه وترك بذلك المكان من يحميه وأمرهم بالتكبير فأتاهم المسلمون إلى الباب وإلى الحبال، وانتهى خالد إلى من يليه فقتلهم وقصد الباب فقتل من عليه، وثار أهل المدينة لا يدرون ما الحال، وتشاغل أهل كل ناحية بما يليهم وفتح خالد الباب وقتل كل من عنده من الروم.
فلمّا رأى الروم ذلك قصدوا أبا عُبيدة وبذلوا له الصلح فقبل منهم وفتحوا له الباب ودخله صلحاً ودخل كل أهل باب بما يليهم صلحاً إلا خالد دخله عنوةً، فالتقى خالد والقوّاد في وسط المدينة هذا قتلاً وهذا صفحاً فأجروا ناحية خالد مجرى الصلح، وكان صلحهم على المقاسمة، وقسموا معهم للجنود التي عند فحل وحمص وغيرهم ممن هم ردء للمسلمين.
وأرسل أبو عُبيدة بالفتح إلى سيدنا عمر فأمره سيدنا عمر أن يرسل جند العراق نحو العراق إلى سعد بن أبي وقاص ، فأرسلهم وأمّر عليهم هاشم بن عتبة المرقال وكانوا قد قُتل منهم فأرسل أبو عُبيدة عوض من قُتل ، وسار أبو عبيدة إلى فحل.
فتح بلاد ساحل دمشق و بيسان وطبرية
بعد مسير أبو عُبيدة إلى فحل سار يزيد بن أبي سفيان إلى مدينة صيدا وعِرقة وجبيل وبيروت وعلى مقدمته أخيه معاوية بن أبي سفيان ففتحها فتحاً يسيراً وجلا كثيرٌ من أهلها ، وتولى فتح عِرقة معاويةُ بنفسه في ولاية أخيه يزيد.
ثم أن الروم غلبوا على بعض هذه السواحل في آخر خلافة سيدنا عمر فقصدهم معاوية ففتحها ثم رمّها وشحنها بالمقاتلة .وقد تم تعزيز هذه السواحل بعد فتح طرابلس بقيادة سُفيان بن مُجيب الذي تم توجيهه من قبل معاوية بن أبي سفيان في خلافة سيدنا عثمان وحينها طلب الذين تم حصارهم من هرقل أن يمدهم فأرسل لهم مراكب يهربون بها.
وأرسل أبو عُبيدة شُرحبيل ومن معه إلى بيسان فقاتلوا أهلها ، فقتلوا منهم خلقاً كثيراً وصالحهم الباقين على صلح دمشق فقبل منهم.
وكان أبو عُبيدة قد بعث بالأعور إلى طبرية يحاصرها، فصالحه أهلها على صلح دمشق أيضاً، وأن يشاطروا المسلمين المنازل، فنزلها القوّاد وخيولها، وكتبوا بالفتح إلى سيدنا عمر.