Крымская война показала недостатки отечественного вооружения — стало возможным массовое производство нарезного оружия, но в России его количество было незначительно. Первые шаги по реорганизации вооружённых сил были предприняты ещё в ходе Крымской войны.
Хотя с 1848 года штатным оружием официально являлся капсюльный однозарядный пистолет обр.1848 года, к началу Крымской войны русские офицеры оказались практически лишены личного оружия, поэтому правительство официально разрешило офицерам приобретать личное оружие за собственный счёт. В конце 1853 года на Тульском оружейном заводе русские мастера начали изготавливать копию 11,43-мм револьвера системы Кольта морской модели образца 1851 года, которые в 1854 году поступили на вооружение офицеров стрелкового полка императорского двора, однако в том же 1854 году Военное министерство оценило револьверы как «бесполезную, вредную в бою игрушку».
В 1855 г. по указу царя была создана Комиссия по улучшению воинской части. Перед ней были поставлены задачи по пересмотру уставов, обсуждение вопросов перевооружения войск, совершенствования физической и боевой подготовки.
В 1858 году на вооружение русской армии были приняты первые образцы бронзовых дульнозарядных нарезных артиллерийских орудий.
9 ноября 1861 г. генерал Д. А. Милютин был назначен военным министром, 15 января 1862 г. он представил Александру II доклад, в котором были сформулированы основные принципы, цели и задачи военной реформы. В 1860—1870 годах под руководством Д. А. Милютина были проведены александровские военные реформы.
В 1864 г. была проведена военно-окружная реформа. На территории России создали 15 военных округов, заменив корпусную организацию управления вооружёнными силами в мирное время. Командующим войсками округа как правило назначался генерал-губернатор. Каждый округ представлял собой одновременно орган войскового управления и военно-административного устройства. Это позволяло оперативно руководить войсками и быстро осуществлять их мобилизацию. С созданием округов военное министерство избавлялось от широкого круга обязанностей, которые теперь выполняли командующие, в его ведении остались только те вопросы управления, которые имели значение для всей армии. Был создан Генеральный штаб.
В 1867 году на вооружение русской армии были приняты первые казнозарядные артиллерийские орудия, а также первая 9-дюймовая стальная пушка системы Н. В. Маиевского.
В 1868 году было издано «Положение о полевом управлении войск в мирное время», на вооружение принята американская винтовка Бердана.
В 1870 году было составлено первое расписание по мобилизации — о призыве и распределении запасных[5], на вооружение принята винтовка Бердана № 2.
В 1871 году на вооружение армии был принят 4,2-линейный револьвер системы Смита-Вессона, первые револьверы начали поступать в войска весной 1871 года (на вооружение полиции и жандармерии первые револьверы системы Лефоше начали поступать ещё с 1859 года).
1 января 1874 года был принят „Устав о всесословной воинской повинности“, в соответствии с которым воинской повинности подлежало всё мужское население без различия состояний с 21-летнего возраста. Срок службы в сухопутных войсках составлял 15 лет — 6 лет действительной службы и 9 лет в запасе (на флоте срок действительной службы составлял 7 лет). Призыв не распространялся на казаков, народы Закавказья, Средней Азии и Сибири.
В 1876 году в составе вооружённых сил был создан первый железнодорожный батальон, в 1877 году — ещё два железнодорожных батальона. В дальнейшем в составе инженерных войск были созданы железнодорожные войска.