وقال الزبير بن بكار: كان أبو عبيدة أهتَمَ، وذلك أنه نزع الحلقتين اللتين دخلتا في وجهِ رسول الله صلى الله عليه وسلم من المِغفر يوم أحد، فانتزعت ثنيَّتاهُ، فحسَّنَتا فاه. فيقال: مارُئي أهتم أبي عبيدة. وذكره بعضهم فيمن هاجر إلى أرض الحبشة، ولم يختلفوا في شهوده بدرا والحديبية.
وكان أبو عبيدة يُدعى في الصحابة القويَّ الأمين، لقول رسول الله صلى الله عليه وسلم لأهل نجران: " لأرسلنَّ معكم القويَّ الأمين ". وذكر يونس عن الحسن قال: قال رسول الله صلى الله عليه وسلم: " ما من أصحابي أحد إلا لو شئت وجدت عليه إلا أبو عبيدة ".
وذكر ابن عون محمد بن سير قال: لما ولي عمر قال: والله لأنزعنَّ خالدا حتى يعلم أن الله ينصر دينه. وروى حماد بن سلمة عن ثابت، عن أنس أن أهل اليمن قدموا على رسول الله صلى الله عليه وسلم. فقالوا: ابعث معنا رجلا يعلِّمنا. فأخذ رسول الله صلى الله عليه وسلم بيد أبي عبيدة بن الجرَّاح وقال: " هذا أمينُ هذه الأمة ".
وقال عمر إذ دخل عليه الشام وهو أميرها: كلنُّا غيَّرته الدنيا يا أب عبيدة. وكان الأمير على أمراء الأجناد بالشام صدرا من خلافة أبي بكر. ثم عزله وولَّى خالد بن الوليد. فلما ولي عمر عزل خالدا وولى أبا عبيدة. فلم يزل أمير على الشام حتى مات في طاعون عَمَواس سنة ثماني عشرة، وهو ابن ثمان وخمسين سنة بالأردنِّ من الشام، وبها قبرُه. وصلى عليه مُعاذ بن جبل، ونزل في قبره معاذ وعمرو بن العاصي والضحاك بن قيس.
وذكر المدائنيُّ عن العجلانيِّ، عن سعيد بن عبد الرحمن بن حسان قال: مات في طاعون عَمَواسَ خمسة وعشرون ألفا.
حلية أبي عبيدة: قال الواقديُّ: كان رجلا نحبفا، معروق الوجه، خفيف اللحية، طُوالا أحْنأ، " وكان يخضب رأسه ولحيته " بالحنَّاء والكَتمْ.