По условиям Версальского договора вооруженные силы Германии ограничивались 100-тысячной сухопутной армией. Обязательная военная служба отменялась, основная часть сохранившегося военно-морского флота подлежала передаче победителям. Германия обязывалась возместить в форме репараций убытки, понесенные правительствами и отдельными гражданами стран Антанты в результате военных действий. Тем не менее, офицерские кадры в этих условиях подготавливались нелегально. Происходило постепенное перевооружение армии и флота, разрабатывались концепции создания массовых вооруженных сил.
Для этого военное руководство поддерживало скрытый резерв в виде так называемого «черного рейхсвера» из отрядов местной самообороны численностью около 60 тыс. человек, а также союзов бывших военнослужащих, военизированных молодежных организаций и спортивных клубов, объединявших несколько миллионов немцев. Обученным резервом для развертывания массовой армии служила пограничная охрана (порядка 100 тыс. человек) и полиция (до 200 тыс.).
Поскольку Германии запрещалось иметь собственную военную промышленность, производство оружия и военной техники по проектам немецких конструкторов было организовано за границей. Военные летчики и танкисты также обучались в других странах, в том числе до 1933 года — в СССР.
Недовольство немецкого населения условиями Версальского договора было использовано Адольфом Гитлером и нацистами в целях создания массовой базы для своей партии.
Руководство рейхсвера было тесно связано с национал-социалистическим движением Германии, что сыграло в значительную роль в установлении диктаторского режима. После прихода к власти нацистов планы руководства рейхсвера по созданию массовой армии получили полную поддержку, а имевшиеся в НСДАП сторонники формирования войск милиционного типа на базе штурмовых отрядов СА были физически устранены в 1934 году во время «Ночи длинных ножей».
«Гитлер уделял большое внимание завоеванию на свою сторону руководства армейского корпуса и, как нигде, был осторожен во взаимоотношениях с рейхсвером. Без сильной армии были невозможны ни консолидация режима, ни выполнение экспансионистских планов. Во многих своих выступлениях Гитлер не раз подчеркивал, что рейхсвер, наряду с нацистской партией, является «второй несущей колонной» государства. Усилия правительства и самого Гитлера в 1930-е годы были направлены на сохранение традиций рейхсвера. Свое влияние на него они распространяли осторожно. Первичное недоверие армейской элиты к новому нацистскому режиму было преодолено в ходе событий 1933-1934 годов, когда армейская верхушка убедилась в стремлении Гитлера установить с ней хорошие отношения», — отмечал немецкий историк Бернд Бонвеч в своей «Истории Германии».
16 марта 1935 года лидер НСДАП подписал «Закон о строительстве вермахта» и ввел всеобщую воинскую повинность, чем нарушил военные статьи Версальского договора.
Базой для формирования новой армии стал рейхсвер – вооруженные силы Германии послевоенного периода, образованные в 1919 году. Согласно принятому закону, количество дивизий должно было вырасти до 36, а общая численность сухопутных войск – достичь 500 тыс. человек. Большую роль в организации новой армии сыграл генерал-полковник Ханс фон Сект.
«После 1935 года многие немцы выбрали себе военную карьеру или работали на военных заводах, выполнявших заказы для нацистов. Когда 1 сентября 1939 года вермахт вступил на территорию Польши, вся Европа была шокирована боеспособностью армии, которая шесть лет назад насчитывала всего 100 тыс. солдат и не обладала ни одним самолетом или танком. Если солдаты рейхсвера присягали на верность конституции Германии, то с 1934 года клятва верности приносилась лично Гитлеру. Это было залогом безусловного и, как выяснилось позже, фатального повиновения», — писал один из крупнейших в мире специалистов по Второй мировой войне Гвидо Кнопп в своей книге «История вермахта. Итоги».
Возглавляло вермахт Верховное главнокомандование вооруженными силами Германии (ОКВ), в подчинении которого состояли сухопутные войска, военно-воздушные силы (люфтваффе) и военно-морской флот (кригсмарине). Во главе этих войск находились главные командования и соответственно главнокомандующие видами вооруженных сил, а с 1940 года также войска СС. Рейхсвер был переименован в вермахт, министерство рейхсвера – в военное министерство и т. д.
Верховным главнокомандующим являлся рейхсканцлер Гитлер. Перед Второй мировой войной вермахт насчитывал уже около 3 млн человек. Своей максимальной численности он достиг в декабре 1943 года – 11 млн солдат и офицеров. В период с 1 июня 1939 года по 30 апреля 1945-го в вооруженные силы нацистской Германии были призваны 17,9 млн человек.
Еще до утверждения «Закона о строительстве вермахта», 9 марта 1935 года было принято решение о возрождении ВВС и учреждена должность главнокомандующего люфтваффе, которую занял Герман Геринг. После подписания в июне того же года англо-германского морского соглашения Третий рейх смог официально приступить к строительству подводных лодок и увеличить тоннаж боевых кораблей. Всего до начала Второй мировой войны нацисты успели создать 120 кораблей, не считая боевых катеров.
В октябре 1935 года для подготовки офицеров генштаба открылась военная академия, ранее существовавшая в виде секретных курсов. Активно стала разворачиваться сеть военно-учебных заведений.
В ноябре 1937 года на закрытом совещании военного и политического руководства Гитлер объявил о своих агрессивных планах в отношении соседних государств.
Военный министр Вернер фон Бломберг активно поддерживал и продвигал в военную среду гитлеровские планы по восстановлению и развитию военной мощи Германии. Армейское руководство с удовлетворением восприняло первые шаги нацистского правительства по ревизии Версальской системы. Офицерский корпус практически не препятствовал «аризации» армии. Он, не колеблясь, присягнул на верность лично Гитлеру как главе государства и главнокомандующему вооруженными силами. Впоследствии данное обстоятельство серьезно мешало образованию широкой военной оппозиции Гитлеру.