Ostatnia próba Zespół był niezadowolony z pracy producenta Jonathana Peela nad pierwszymi trzema albumami – a konkretnie z brzmienia płyt. Teraz znaleźli Vica Smitha, który wyprodukował trzeci album Petera Sarstedta dla United Artists, Everything You Say (Is Written Down), a później współpracował z grupą The Jam. Pod jego kontrolą zespół był szczęśliwą jednostką i czuł, że ich potencjał w końcu się realizuje. Dawn Records wydał Staircase to the Day późnym latem 1974 roku.
Staircase to the Day zostało nagrane w Manor Studios w Kinnerton w Oksfordzie. Okładka zaprojektowana przez Rogera Deana przedstawia lądującego uskrzydlonego potwora. Album otwiera jeden z najbardziej znanych utworów Gravy Train „Starbright Starlight” antologizowanego na różnych progresywnych samplerach i albumach kompilacyjnych. Marcel Coopman (ponownie powołując się na Vernona Johnsona) opisał go jako „porywający kawałek melodyjnego hard rocka, który wyznacza standardy dla muzyki o podobnym charakterze (choć oczywiście niewielu mogło ją usłyszeć)”.