Suatu ketika datanglah utusan dari orang-orang Nasrani kepada Rasulullah. Merekapun berkata; “Wahai abul Qasim (panggilan untuk Rasulullah), utuslah kepada kami seorang laki-laki dari sahabatmu, yang engkau ridhai untuk menjadi hakim dan penengah diantara kami dalam suatu urusan yang kami miliki dari harta kami yang kita berselisih didalamnya, karena kaum muslimin dihadapan kami sangat terhormat dan kami ridha dengan kalian.
Maka Rasulullah bersabda; “Datanglah nanti sore, niscaya aku akan kirim orang yang kuat dan terpercaya”.
Umar berkata; “Maka aku datang untuk shalat dhuhur di awal waktu dan aku tidak berharap untuk memperoleh jabatan sebagai pemimpin kecuali waktu itu, dan harapanku adalah orang yang di pilih Rasul adalah aku, sesudah sholat dhuhur, maka Nabi menoleh ke kanan dan ke kiri, maka akupun berusaha menampakkan diriku sehingga baginda Nabi melihatku”.
Nabi kembali menengok ke kanan dan ke kiri, kemudian ia melihat Abu Ubaidah dan memanggilnya dan berkata; “Pergilah bersama mereka (orang-orang Nasrani) dan jadilah penengah diantara mereka, hakimilah apa yang mereka perselisihkan dengan adil”, maka aku (Umar) berkata; “Abu Ubaidahlah yang telah meraihnya”.
Sesudah Rasulullah Shallallahu alaihi wasallam wafat, maka Umar berkata kepada Abu baidah; “Bentangkanlah tanganmu wahai Abu Ubaidah karena aku mendengar Nabi bersabda; ‘Tiap umat memiliki orang yang dipercaya dan sesungguhnya orang yang terpercaya untuk umat ini adalah Abu Ubaidah’.”
