Maka, Umar bin Khattab berjalan bersama Abu Ubaidah hingga tiba di rumahnya. Ternyata di dalam rumah Abu Ubaidah tersebut, Umar bin Khattab tidak mendapati barang apapun kecuali pedang, perisai, dan pelana kuda.
Maka, Umar bin Khattab yang menjabat sebagai Khalifah berkata, "Mengapa kamu tidak mengumpulkan harta?"
Abu Ubaidah menjawab, "Wahai Amirul Mukminin, sesungguhnya barang-barang ini yang bisa mengantarkan kami ke akhirat dengan selamat."
Kisah ini dikutip dari buku 150 Kisah Umar bin Khattab yang ditulis Ahmad Abdul Al Al-Thahthawi yang disunting, diterjemahkan dan diterbitkan kembali PT Mizan Pustaka, 2016. Dari kisah tersebut, dapat diambil pelajaran bahwa Abu Ubaidah tidak memanfaatkan jabatannya sebagai Gubernur Syam untuk mengumpulkan harta dunia. Sebagai pejabat atau gubernur, hartanya tidak bertambah banyak.
Dalam riwayat lain, Abu Ubaidah berkata kepada Umar bin Khattab, "Untuk apakah kau datang ke rumahku? Sesungguhnya aku takut kau tak kuasa menahan air matamu begitu mengetahui keadaanku nanti.”
Sebab Umar bin Khattab mendapati rumah Abu Ubaidah sebagai Gubernur Syam kosong melompong.