Istilah Amirul Mukminin pertama kali muncul pada masa khalifah Umar bin Khathab. Banyak riwayat yang menyebutkan bahwa julukan tersebut, muncul secara kebetulan. Ibnu Khaldun menceritakan bahwa para sahabat banyak yang memanggil Umar dengan panggilan Amirul Mukminin. Karena panggilan ini bagus, masyarakat menyukainya dan secara tidak sadar mereka memakai julukan tersebut.
Aggapan bahwa panggilan dengan Amirul Mukminin hanya kebetulan saja, mengandung kelemahan;
1) Bahwa isitlah Amir atau Imarah sudah sering digunakan oleh masyarakat Arab. Di dalam hadis Nabi banyak disebutkan kata amir sebelum sistem khilafah muncul.
Di negara Madinah yang di pimpin oleh Rasulullah, sudah ada pimpinan militer yang diberi julukan dengan Amir. Demikian juga dengan gurbenur yang dijuluki dengan Amir. Dalam sebuah hadis sendiri, Rasulullah saw pernah bersabda, “Barangsiapa yang taat kepadaku, maka ia taat kepada Allah dan barangsiapa yang membangkangku, maka ia membangkan kepada Allah. Barangsiapa yang taat kepada pemimpin yang aku angkat (Amiriy), maka ia taat kepadaku dan barangsiapa yang membangkang pemimpin yang aku angkat (Amiriy) maka ia telah membangkanku”.
Dalam hadis lain diriwayatkan, “Barangsiapa yang melihat sesuatu yang tidak ia sukai pada pimpinannya (Amirihi), hendaknya ia bersabar. Karena tidak ada orang yang keluar dari jamaah sejengkal, kemudian ia mati, kecuali ia mati dalam keadaan jahiliyah”.
Ibnu Khaldun sendiri mengatalkan bahwa tentara muslim menyebut pimpinan perangnya dengan “Al-Aamir”. Orang jahiliyah kadang menyebut nabi Muhammad dengan Amirul Makkah atau Amirul Hijaz.
