В 1836 году жандармские подразделения внутренней стражи были переданы в состав Корпуса жандармов, созданного еще в 1827 году под эгидой III отделения Собственной Его Императорского Величества канцелярии. В результате чего Корпус жандармов реорганизован в Отдельный корпус жандармов, с созданием на территории Империи нескольких (сначала пять, потом восемь) жандармских округов.
По инспекторской, строевой и хозяйственной части Отдельный корпус жандармов входил в систему Военного министерства. По наблюдательной части, организации и ведении политического розыска, проведению дознаний и другим вопросам учреждения Отдельного корпуса жандармов (губернские жандармские управления, охранные отделения и др.) подчинялись Третьему отделению, а затем Департаменту полиции Министерства внутренних дел.
Сам Корпус являлся важнейшим структурным элементом жандармерии Российской империи, однако существовали и иные жандармские подразделения, формально в Корпус не входящие, но подчиняющиеся его руководству в оперативном плане – жандармские кадровые команды, позднее переименованные в полевые жандармские эскадроны. Эти команды (эскадроны) несли военно-полицейскую службу при войсках, как в мирное, так и в военное время.