Обеспечив свои позиции, Фрик и Геринг решили, что теперь можно было передать руководство политической полицией Генриху Гиммлеру. Это относилось в том числе к Пруссии. В данном случае речь шла не о создании единого для всей Германии аппарата политической полиции, а всего лишь о назначении рейхсфюрера СС главой политической полиции во всех германских землях. Геринг полагал, что это будет всего лишь номинальной должностью, а сам Гиммлер не сможет приобрести больших властных полномочий. Сам же Гиммлер придерживался совершенно иного мнения. Он намеревался превратить свое формальное назначение в целую череду организационных мероприятий. Было бы наивно полагать, что Гиммлер смирится с ролью марионетки в руках Геринга и Фрика.
Относительный успех Гиммлера в Пруссии на самом деле открывал ему путь к подчинению всей политической полиции рейха. Рейхсфюрер СС использовал все возможности, чтобы усилить свою власть: инфильтрацию в органы власти, «награждение» эсэсовскими званиями, умение правильно выявить слабые стороны конкурентов, дипломатические уловки, например мнимое подчинение Герингу. Но самое главное, что отличало Гиммлера от многих национал-социалистических деятелей, была его скрытность. Он никогда не заявлял о своих амбициях, не давал даже повода для подозрений, что намеревался получить полный контроль над всей немецкой полицией. Подобная «скромность» позволяла заручиться доверием многих полицейских чинов, в том числе в различных германских землях, где как раз опасались складывания централизованного аппарата, подчиненного Берлину. Если принимать во внимание «стартовые условия», в которых Гиммлер начал борьбу за власть в 1933 году, то его можно назвать одним из самых искусных «игроков» на «национал-социалистическом властном поле». Он умело использовал опасения разных сторон, балансировал между государственными и партийными структурами, всячески подогревал недовольство штурмовиками. Кроме этого он прекрасно понимал, что многие деятели Национал-социалистической партии предпочитали видеть во главе политической полиции «скромного» Генриха Гиммлера, а не активно вмешивающегося во все дела Вильгельма Фрика.
Итак, 20 апреля 1934 года Генрих Гиммлер был назначен инспектором прусского гестапо. Одновременно с этим во главе тайного государственного полицейского управления был поставлен Гейдрих. Герман Геринг сохранял за собой формальный пост главы гестапо, но он фактически не занимался его деятельностью. Генрих Гиммлер использовал свои новые властные полномочия, чтобы способствовать стремительному росту численности СС.
Первый приток желающих вступить в СС наблюдался сразу же после 30 января 1933 года, то есть после назначения Гитлера рейхсканцлером Германии. К весне 1933 года численность СС достигла 100 тысяч человек. В период между апрелем и ноябрем 1933 года желающих вступить в СС было столь много, что было принято решение на время приостановить этот процесс. Казалось, Гиммлер должен был радоваться стремительному росту своей организации, но он же обозначал этот процесс как «тяжелейший кризис, который постиг СС». На протяжении последующих лет он занимался чисткой охранных отрядов. В итоге к 1935 году из СС оказались исключены около 60 тысяч человек, которые вступили туда в начале 1933 года. Несмотря на это, в указанный период увеличилось количество эсэсовских штандартов — с 50 до 100. Однако позиции рейхсфюрера СС были все-таки шаткими. На это указывают следующие события. В мае 1933 года Гиммлер перенес штаб СС из Мюнхена в Берлин. Однако уже в феврале 1934 года он возвращает его обратно в Мюнхен. Возможно, он хотел быть как можно дальше от руководства партии и государства, что позволило бы ему без проблем провести реорганизацию структуры руководства СС. На тот момент оно, кроме штаба, состояло из трех управлений: управления, занимавшегося общим ведением дел, СД и управления по вопросам расы и поселений. Как уже говорилось, начальники общего управления СС Вайкерт и Шнайдер были уличены в присвоении финансовых средств, после чего были сняты со своих постов и исключены из СС.
В феврале 1934 года Гиммлер ставит на этот ответственный пост бывшего морского казначея, ветерана Национал-социалистической партии Освальда Поля. В это время Гиммлер остро нуждался в хорошем финансисте. Дело в том, что СС, до сих пор являвшиеся составной частью СА, получали субсидии из различных общественных фондов, а потому должны сдавать отчетность об использовании этих финансовых средств. Впервые Гиммлер заговорил с Освальдом Полем о возможности нового назначения в мае 1933 года, когда рейхсфюрер СС пребывал в Киле. Несколько дней спустя Поль направил Гиммлеру письмо, в котором сообщал, что его работа на флоте не приносила удовлетворения. Гиммлеру сразу же понравился этот человек, однако его попадание в руководство СС было длительным процессом. Оставление службы на флоте было связано со множеством формальностей, которые тянулись не один месяц. Только 1 февраля 1934 года Гиммлер назначил Освальда Поля начальником отдела IV (управление) общего управления СС.
После того как Гиммлер в апреле 1934 года был назначен инспектором прусского гестапо, он вновь перебрался из Мюнхена в Берлин. Вслед за ним переехало и все руководство СС. Оно расположилось во «дворце принца Альбрехта». Название этого здания на долгие годы стало синонимом СС и гестапо. К весне 1934 года была заложена основа централизованной системы террора и репрессий. Однако Гиммлер в должности рейхсфюрера СС еще не принадлежал к числу руководителей рейха, он был главой одной (пусть и стремительно набиравшей силу) из многочисленных национал-социалистических организаций. Ситуация изменилась только после 30 июня 1934 года, даты, которая в истории более известна как «ночь длинных ножей». Насильственное разрешение затянувшего конфликта между СА и политической организацией НСДАП стало трамплином, по которому Гиммлер вознесся буквально к вершинам могущества.
Предыстория «ночи длинных ножей» полна множеством противоречий и запутанного стечения обстоятельств. Поскольку эта книга посвящена Генриху Гиммлеру, а не истории национал-социалистического движения в целом, то события тех дней надо охарактеризовать лишь общими словами. В первый год пребывания у власти национал-социалистам, по сути, так и не удалось справиться с последствиями мирового кризиса. В стране сохранялась армия безработных, которая насчитывала около 6 миллионов человек. После всеобщего воодушевления в Германии наступило время разочарования, которое было заметно как на промышленных предприятиях, так и в сельском хозяйстве. К этому добавлялось недовольство действиями С А, которые буквально наводили ужас на всю страну. Надо отметить, что в середине 1934 года в рядах штурмовых отрядов находилось 4,5 миллиона человек, то есть в девять раз больше, чем насчитывали СА в январе 1933 года. Эта плохо контролируемая партийная армия, не являвшаяся вдобавок ко всему сплоченной организацией (в СА были слиты многие правые военизированные союзы, например «Стальной шлем» и т. д), тем не менее претендовала на особую роль в национал-социалистическом государстве. На практике же Эрнсту Рёму удалось поставить на посты имперских комиссаров всего лишь нескольких руководителей СА. Сам Эрнст Рём получил должность Имперского министра только 1 декабря 1933 года. Между тем в рядах штурмовиков стала курсировать идея о «второй революции». После того как большая часть политических противников национал-социализма оказалась в лагерях, на практике эта идея стала выражаться в запугивании штурмовиками бюргеров и населения в целом, что не только не придавало СА особой популярности, но и еще раз подчеркивало агрессивный, неуправляемый характер штурмовых отрядов.