Siguió como oficial instructor durante cuatro años, hasta que el 31 de enero de 1933 fue ascendido a Comandante y puesto al mando del 3° batallón del 17º Regimiento de infantería, una unidad de tropas de montaña. Fue al mando de este batallón cuando se produjo el primer contacto entre Hitler y Rommel, incluyendo un conocido encontronazo entre este último y las SS: Durante la Pascua de 1935 Hitler debía presidir un acto castrense en el que el 3° batallón formaría enfrente del Jefe del Estado. Rommel recibió aviso de que un pelotón de las SS formaría entre su batallón y Hitler, haciéndose responsables de su seguridad. Lo tomó como un insulto, alegando que si el Jefe del Estado no se sentía seguro frente a sus propios soldados, no tenía ninguna intención de hacerles formar. Finalmente, tras la intervención personal de Heinrich Himmler y Joseph Goebbels, las SS no formaron y Hitler felicitó a Rommel por el aspecto de su batallón.
El 15 de octubre de 1935, con el rearme alemán funcionando a plena potencia, Rommel es ascendido a teniente coronel y recibe el traslado como instructor a la Academia de Guerra de Potsdam. Es un hecho poco conocido el que durante su época en Potsdam estuvo también temporalmente a cargo de la instrucción de las Juventudes Hitlerianas. Duró poco en el cargo; su jefe directo, Walter von Schirach, pretendía militarizar la organización, a lo que Rommel se negaba. Argumentaba que el objetivo debía ser más educativo, persiguiendo más la forja del carácter que la consecución de unas habilidades militares. Al recibir la negativa de Schirach, le indicó ácidamente que si tanto deseaba entrenar soldados, debería empezar por convertirse él mismo en uno. A los pocos días, Rommel era relevado de su cargo como instructor jefe de la Hitlerjügend, como ya se esperaba.
En 1937 recoge sus memorias y los apuntes de sus batallas discutidas en sus clases y publica el único libro que escribió en vida: Infanterie greift an (La infantería ataca). Pronto se repitieron las ediciones, se tradujo a varios idiomas y se convirtió en manual de lectura obligatoria en varias academias militares de todo el mundo. Pero el lector más influyente sobre el destino de su autor fue, sin duda, el propio Hitler. Fue ascendido a coronel después de la publicación del libro. El 9 de noviembre de 1938, al finalizar su turno de tres años como instructor en Potsdam, recibió el cargo de director de la Academia Militar Teresiana de Wiener Neustadt. Sin embargo, Hitler le seleccionó poco después para dirigir el Führerbegleitbataillon, el batallón de la guardia personal de Hitler, con la misión de escoltar al Jefe del Estado. A raíz de su nuevo nombramiento, Rommel pasaría a tener un trato casi diario con Hitler.
El 23 de agosto de 1939, Rommel es ascendido a general y destinado al cuartel general del Führer como jefe de seguridad.
Segunda Guerra Mundial
Polonia 1939
La intervención de Rommel en esta campaña fue escasa en cuanto a resultados, pero enormemente influyente en los años posteriores. Cumpliendo con sus funciones de jefe de seguridad, pasó mucho tiempo conviviendo con Hitler. Durante el mismo vio los rasgos positivos del carácter del Führer: seguridad en sí mismo, valor personal, dotes de mando, capacidad de gestión y una tendencia a seguir sus impulsos en contra de lo que opinaban las mentes más conservadoras del Estado Mayor General. Al ser una campaña tan corta como exitosa, no llegó a conocer entonces la obstinación irracional de Hitler, sus ataques de rabia histérica, o su decisión de sacrificar cualquier cosa con tal de conseguir sus objetivos, incluyendo a sus soldados o la propia Alemania. Hasta que pudo verlo por sí mismo años después (sobre todo a raíz de la batalla de El Alamein, en 1942), Rommel se formó una imagen limitada de quien era su comandante en jefe.