Josh zadebiutował jako piosenkarz w siódmej klasie. Jego nauczyciel śpiewu wybrał go do występu solowego piosenki „'S wonderful” podczas szkolnej nocy kabaretowej. Mama Grobana, stojąc na zewnątrz sali, wzruszyła się uświadomiwszy sobie, że słyszy własnego syna, a sam artysta dostał owacje na stojąco. Kiedy głos Josha zmienił się z wysokiego, chłopięcego głosu, na dojrzalszy, ludzie zaczęli zwracać na niego uwagę. Wkrótce jednak Groban odłożył śpiewanie na następne lata:
Podczas edukacji w Bridges Academy, Groban uczęszczał na normalne zajęcia od 9:00 do 13:00, a następnie chodził do klasy teatralnej. W 1997/98 Groban uczęszczał do Interlochen Center for the Arts Camp, w Michigan, kształcąc się w musicalach, w czasie gdy zaczął brać prywatne lekcje śpiewania.
W tych czasach Groban skupiał się na graniu. Wziął udział w szkolnej adaptacji Skrzypka na dachu wcielając się w główną rolę – Tewjego.
Wykształcenie Artysta uczęszczał do County High School for the Arts w Los Angeles jako student dramaturg, ukończył w 1999 r. aby następnie uczęszczać do Carnegie Mellon University w Pittsburghu (Pensylwania), studiując dramaturgię. Nie skończył jednak studiów opuszczając Carnegie Mellon po jedynie kilku miesiącach pierwszego semestru nauki.