Виконавчим органом третього відділення був окремий корпус жандармів. На чолі відділення стояв головноуправляючий (т. н. шеф жандармів).
25 червня (7 липня) 1826 року засновано посаду Шефа жандармів, на яку був призначений генерал-ад'ютант Його Імператорської величності, генерал-лейтенант Олександр Христофорович Бенкендорф.
З 1844 по 1856 Третє відділення та корпус жандармів очолював А. Ф. Орлов (1786-1868), великий державний діяч, який неодноразово виконував складні дипломатичні доручення царя.
Бенкендорф Найвищим указом 1826 Бенкендорф був призначений шефом жандармів та головним начальником ІІІ відділення Власної Його Імператорської Величності Канцелярії, а також командувачем імператорської головної квартири.