একবার উমর ইবনুল খাত্তাব (রা.) ও আবু উবাইদা ইবনুল জাররাহ (রা.) একসাথে একটি গুরুত্বপূর্ণ সামরিক অভিযানে ছিলেন। মুসলমানদের মধ্যে কিছু মতবিরোধ দেখা দিয়েছিল। উমর (রা.) বললেন, “আমরা যদি আল্লাহ ও তাঁর রাসূলের অনুসরণ করি, তবে আমাদের মাঝে কোনো বিভক্তি থাকবে না।” এরপর তিনি সবাইকে একত্রিত করে বলেন, “আমরা সবাই এক উম্মত, আমাদের কাজ একটাই—আল্লাহর দ্বীন কায়েম করা।” তাঁর কথায় সবাই একমত হন এবং ঐক্য প্রতিষ্ঠিত হয়।
আরো একটি ঘটনা হচ্ছে সালাহউদ্দিন আইউবির নেতৃত্বে উম্মতের ঐক্য। ক্রুসেড যুদ্ধের সময় মুসলমানদের মধ্যে ঐক্যের অভাব ছিল। মুসলিম শাসকরা নিজেদের মধ্যে যুদ্ধ করছিলেন, ফলে খ্রিস্টান বাহিনী সহজেই মুসলিম ভূমি দখল করতে পারছিল। কিন্তু সালাহউদ্দিন আইউবি (রহ.) এই বিভক্তি দেখে গভীরভাবে চিন্তিত হলেন। তিনি বুঝলেন, যদি মুসলিম উম্মাহ ঐক্যবদ্ধ না হয়, তবে জেরুজালেম পুনরুদ্ধার করা সম্ভব হবে না।
তাই তিনি প্রথমে মিসর ও সিরিয়ার মুসলিমদের মধ্যে ঐক্য প্রতিষ্ঠা করেন। এরপর অন্যান্য মুসলিম রাষ্ট্রের শাসকদের বোঝান যে, তাদের অভ্যন্তরীণ লড়াই বন্ধ করতে হবে। ধাপে ধাপে তিনি পুরো মুসলিম বিশ্বকে একত্রিত করলেন এবং বিশাল এক বাহিনী গঠন করলেন। তিনি ঐক্যবদ্ধ মুসলিম বাহিনী নিয়ে ক্রুসেডারদের বিরুদ্ধে যুদ্ধে জয় লাভ করেন এবং এর ফলে জেরুজালেম পুনরুদ্ধার সম্ভব হয়।