Askeri alanda Tanzimat reformları II. Mahmud’un bıraktığı yerden devam etti. Askerlik hizmetinin vatani bir vazife olduğu ilan edildi ve mecburi askerliğe yönelik adımlar atıldı. Her bölgeden, nüfusun miktarı ölçüsünde, kura usulüyle asker toplanması kararlaştırıldı. Askere alma yaşı 20 olarak tespit edildi. Her aileden tek bir kişinin askere çağrılması, tek çocuğu olan ailelerin bu hizmetten muaf tutulması ilkesi benimsendi. 1843’te ilan edilen bir kanunname ile askeri örgütlenmenin zarureti ve bu konuda yapılacak düzenlemeler tespit edildi.

Kanunnameye göre muvazzaf askerlik süresi beş yıl olacak, bu süre sonrası terhis edilenler yedi sene redif kabul edilecekti. Redifler her yıl bulundukları kazalarda yeni harp teknikleri ve silahları hususunda eğitim görecekti. Kara ordusu şu birimlere ayrıldı:

1. Hassa Ordusu (1. Ordu): Merkezi Üsküdar’da olup, ilgi alanı Güneybatı Anadolu’ydu.

2. Dersaadet Ordusu (2. Ordu): Merkezi İstanbul’daydı.

3. Rumeli Ordusu (3. Ordu): Merkezi Manastır olup ilgi alanı bütün Rumeli’yi kapsamaktaydı.

4. Anadolu Ordusu (4. Ordu): Merkezi Sivas olup, ilgi alanı Anadolu’ydu.

5. Arabistan Ordusu (5. Ordu): Merkezi Şam olup, ilgi alanı Suriye ve Arabistan’dı.

6. Irak ve Hicaz Ordusu (6. Ordu): 1848’de merkezi Bağdat olmak üzere kuruldu.

1847 yılında gayrimüslimlerin de orduda istihdam edilmeleri ve albay rütbesine kadar yükselebilmeleri kararlaştırıldı. Cizye vergisi kaldırıldı. Osmanlı idarecileri bu sayede, Batılı devletlerin her fırsatta Müslümanlar’la gayrimüslimler arasında eşitliğin sağlanamadığını iddia edip, bunun en büyük delili olarak da cizye vergisini göstermelerini ve bu bahane ile imparatorluğun içişlerine müdahale etmelerini önlemek istediler. Ancak gayrimüslimlerin askerlik yapmaya hiç de hevesli olmadıkları kısa sürede anlaşılınca bu son kararlardan vazgeçildi. Batılı devletler, Osmanlı gayrimüslimlerinin askere kabulü konusundaki ısrarlarını sürdürünce, konu 1856’daki Islahat Fermanı’nda tekrar gündeme geldi.

Gayrimüslimler bu defa da askere gitmeye yanaşmadı. Nihayet askere gitmeyi reddeden cizye mükellefi gayrimüslimlerin, bedel-i askerlik vergisini ödemeleri şartıyla bu hizmetten muaf tutulmaları kararlaştırıldı. Sultan Abdülaziz, Osmanlı ordusunun teçhizat, teknik ve eğitim açısından Avrupa orduları ile boy ölçüşebilecek konuma gelmesi için büyük gayret gösterdi. Avrupa gezisi kapsamında Londra’ya da uğrayan ve İngiliz donanmasına hayran kalan padişahın özel ilgisi sayesinde Osmanlı deniz kuvvetleri büyük gelişme sağladı.

1867’de Bahriye Nezâreti kuruldu. İngiltere’den satın alınan zırhlı harp gemileriyle Osmanlı donanması dünyanın en güçlü donanmalarından biri hâline geldi. 1869’da Serasker Hüseyin Avni Paşa’nın yönlendirmeleriyle askerî yapılanma yeniden ele alındı. Askerlik vazifesi, dört yıllık nizamiye, bir yıllık redif ve sekiz yıllık mustahfızlık olmak üzere toplam 13 yıllık hizmet hâline getirildi. Seraskerlik makamının yanısıra Harbiye Nezâreti kuruldu. Terfi sistemi yeniden düzenlendi. Ancak bu düzenlemelerin meyvesinin tam alınacağı sırada çıkan 1877-1878 Osmanlı-Rus Harbi ordunun büyük kayıplara uğramasına sebep oldu.