Приобретя новую работу, Гебхард Гиммлер мог подумать и о создании семьи. В 1897 году он женился на дочери торгового агента Анне Марии Хайдер. Невеста была моложе жениха всего лишь на год, ей шел 31-й год. Относительно причин этого брака имеется множество версий. Петер Лонгэрих указывал на то, что отец невесты скончался, когда девочке было всего лишь шесть лет, а потому едва ли можно было рассматривать это как брак по расчету. Однако Катрин Гиммлер в своей книге «Братья Гиммлеры» указывала на то, что приданое бабушки составляло около 300 тысяч марок, что по тем временам было очень приличной суммой.

У Анны и Гебхарда Гиммлеров родилось три сына: Гебхард, Генрих и Эрнст. Генрих Гиммлер был вторым ребенком, средним из братьев. Он появился на свет 7 октября 1900 года. Он с самого детства удостоился высокой чести. Принц Генрих, которого в свое время воспитывал Гиммлер-старший, выразил готовность взять шефство над своим тезкой. Несмотря на то что в порядке наследования баварского трона Генрих Виттельсбах находился на безнадежном девятом месте, все же Генрих Гиммлер оказался связан с баварским двором, что позже весьма положительно сказалось на его карьере. На связь семейства Гиммлеров с баварской правящей династией указывало так же то обстоятельство, что сыновья при крещении получили вторые имена, которые были знаковыми для Южной Германии. Гебхард-младший получил второе имя Людвиг, которое было дано в честь Людвига II Баварского, а Генрих – Луитпольд, которое было дано в честь принца-регента.

Семейство Гиммлеров жило в достатке, вело размеренную жизнь, а при воспитании детей ставка делалась на усердие и религиозность, что на рубеже двух столетий было едва ли не отличительной чертой всех состоятельных мюнхенских служащих. В то время как Анна вела домашнее хозяйство и заботилась о благополучии детей, Гиммлер-старший пытался реализовать свои педагогические навыки не только в гимназии, но и в рамках семьи. Он старался превратить своих детей не просто в образованных людей, но в своего рода эрудитов, а потому сосредоточился на основательном изучении классической литературы, истории и усвоении древних языков. Приобщение детей к религиозности было инициативой матери, которая была убежденной католичкой; Гиммлер-старший, напротив, предостерегал свою супругу от чрезмерной активности в этой сфере. Несмотря на все голословные заявления, которые появлялись в исторической литературе 70—80-х годов ХХ века, отцовский авторитет Гебхарда Гиммлера выражался отнюдь не в деспотичной строгости, а в терпеливом воспитании своих сыновей. Они подчинялись не его воле, а должны были действовать в строгом соответствии с системой правил, которая была педантично разработана их отцом. Впрочем, эта строгость не имела ничего общего с жесткостью, но была пропитана радушием и добротой. Об этом говорит хотя бы тот факт, что Гиммлер-старший значительную часть своего свободного времени посвящал собиранию почтовых марок. Он охотно показывал сыновьям свою коллекцию, чем привил им любовь к филателии. Кроме этого он обучал детей стенографии. По этой причине почти вся семейная переписка Гиммлеров сохранилась в виде стенографических записок, что нередко создает проблемы для современных историков и исследователей.

Единственное, в чем себя достаточно строго проявлял Гиммлер-старший, была школьная успеваемость его сыновей. Он пытался приучить их к тому, чтобы дети использовали каникулы для повторения школьного материала. Когда старший из сыновей, Гебхард, проболел половину учебного года, то отец приложил все усилия, чтобы его сын не только освоил пропущенный материал, но и стал лучшим учеником в классе. Также оба родителя обращали внимание на то, чтобы их отпрыски дружили с «хорошими» детьми, под которыми подразумевались юноши из состоятельных мюнхенских семей.