З грудня 1938 року наркомом внутрішніх справ СРСР призначено Лаврентій Берія. 3 лютого 1941 р. указом Президії Верховної ради СРСР НКВС був поділений на два самостійні органи: НКВС (нарком – Лаврентій Берія) і наркомат державної безпеки СРСР (НКДБ) (нарком – Всеволод Меркулов).
керівником НКВС був Л. П. Берія.
На посаді наркома внутрішніх справ, діючи під керівництвом Сталіна, Єжов став одним із головних організаторів масових репресій 1937—1938 років, відомих як Великий терор.
З 1934 по 1936 рік НКВС керував Г. Г. Ягода.