Ożenił się, niemniej jego związek małżeński miał problemy od samego początku, a śmierć córki po urodzeniu, a także alkoholizm Grüninga, wpłynęły na fakt, iż ten porzucił żonę, decydując się na zostanie wędrownym blacharzem. Z czasem uważał, że do małżeństwa został zmuszony przez rodzinę, jego siostry zaś uznawały, że ten sam chciał się ożenić, szukając ujścia dla swojego popędu seksualnego.
Według brata, Augusta Grüninga, Ferdynand w 1914 oskarżony był o gwałt na 5-letniej Władysławie Jezierskiej i został osadzony w więzieniu, niemniej w wyniku wybuchu I wojny światowej zwolniono go z więzienia. Z czasem powrócił do niego, spędzając w nim karę 1 roku za kradzież. Według strażników więziennych Grüning podczas odsiadki miał zachowywać się wzorowo.
I zabójstwo Pierwszą ofiarą śmiertelną Grüninga była 7-letnia dziewczynka Irena Erentzówna z Turku, którą w 1926 zamordował i zgwałcił. Grüningowi udowodniono winę i osadzono w więzieniu w Rawiczu z wyrokiem dożywotniego pozbawienia wolności. Amnestia w 1932 skróciła wyrok do 12 lat, niemniej choroba oczu Grüninga, którą nabył w więzieniu, spowodowała, że w 1934 został zwolniony na przepustkę, celem naprawy swojego zdrowia.