Islam dan militer hampir-hampir tidak dapat dipisahkan sejak pada permulaan sejarahnya. Perkembangan itu mulai dengan adanya bala tentara dalam bentuk-bentuk yang sangat sederhana. Namun bentuk ini akhirnya berkembang menjadi bentuk tentara reguler. Menurut Abdurrahman Wahid ada 3 jalur utama perkembangan peranan militer dalam Islam. Pertama, munculnya tentara profesional dalam awal perkembangan Islam, fungsionalisasinya sebagai alat pasifikasi wilayah, dan akhirnya munculnya militer menjadi penguasa. Namun dalam sejarah Islam juga tercatat perlawanan yang luar biasa terhadap paham militerisme.
Sejak permulaan sejarahnya, Islam harus mengenal masalah-masalah kemiliteran, berbeda dengan banyak agama lain.1 Operasi militer bertubi-tubi yang dilancarkan negara-kota (city-state) Makkah setelah nabi Muhammad mendirikan masyarakat muslim di Madinah (sebelumnya bernama Yathrib, lebih kurang 400 kilometer di barat laut Makkah) dalam masa sepuluh tahun pertama hidupnya, memaksa masyarakat yang masih sangat muda itu memberikan perhatian cukup kepada pembentukan sebuah bala tentara sebagai bagian inherent dari kehidupannya. Segera setelah ada kepastian pihak lawan di Makkah sudah kehilangan inisiatif militer dan jatuhnya kota tersebut ke tangan kaum muslimin tinggal soal waktu belaka, persiapan operasi militer yang bersifat eksternal (dalam artian penyerbuan keluar jazirah Arabia) menuntut tetap adanya kehadiran struktur ketentaraan itu dalam kehidupan masyarakat.
Kecenderungan itu tampak nyata, walaupun struktur itu sendiri masih bersifat sangat sederhana: satuan-satuan tempurnya belum dikendalikan oleh sebuah markas besar dengan hirarkinya sendiri. Masing-masing masih dipimpin oleh seorang komandan (amir) yang langsung bertanggung jawab kepada kepala pemerintahan. Perbekalan masih dibawa oleh masing-masing pasukan. Belum ada sistem logistik untuk seluruh bala tentara. Juga belum ada sistem penggajian, imbalan material diperoleh dari jarahan perang (ghanimah, booties) yang dapat dirampas dari tangan musuh. Perintah berperang tidak dikeluarkan oleh lini komando yang berjenjang, melainkan hasil seruan untuk melakukan perang suci (jihad) yang dikumandangkan di masjid. Memang ada bala tentara, tetapi masih bersifat serba primitif!
Konfrontasi militer pertama yang terjadi masih berskala kecil, hanya meliputi lima ribu orang yang terlibat pada kedua belah pihak. Walaupun lebih tepat dinamai pertempuran (waqi’ah, battle) daripada penamaan formalnya dalam kronikel Islam sebagai ‘Perang (gahzwah) Badr’, konfrontasi militer tersebut berkesudahan pada kemenangan tentara muslim.2 Kemenangan oleh tentara rakyat ini, dalam artian bukan tentara profesional, segera disusul dengan serangkaian konfrontasi militer melawan tentara non-muslim Makkah selama delapan tahun, berkesudahan pada pengepungan (siege) selama beberapa bulan atas kota Madinah oleh pasukan gabungan suku-suku Arabia non-muslim, operasi mana dikenal dengan nama Perang Parit (Ghazwah al-Khandaq) pada tahun 627.
1 Islam membawa ajaran agama yang berwatak kemasyarakatan dan sepenuhnya disandarkan pada pranata-pranata institusional untuk menerapkannya dalam kehidupan. Bahkan aspek kehidupannya yang paling meditatif dan kontemplatif sekalipun, yaitu tasawuf, masih harus menanggung beban institusional sangat besar dalam bentuk gerakan tarekat. Pendekatan institusional atas kehidupan ini mendorong kepada pla penghadapan dengan bentuk-bentuk kemasyarakatan lainnya, dengan dampaknya sendiri atas kebutuhan mengembangkan pranata kemiliteran dalam lingkungannya sendiri.
2 Sebelum operasi ini, sebenarnya sudah ada kontak militer bersenjata antara satuan muslim Madinah dan satuan non-muslim Makkah di Nakhlah, tetapi tanpa hasil yang konklusif.