Został tam nauczycielem Salomona Loeba Rapoporta.
Po powrocie do Żółkwi, po częściowym wyzdrowieniu, ponownie zajął się filozofią, czytając Kanta, Johanna Gottlieba Fichtego i Friedricha Wilhelma Josepha von Schellinga, a następnie Georga Wilhelma Friedricha Hegla, którego system przede wszystkim go pociągał i wywarł wielki na niego wpływ. Oprócz Rapoporta, który często odwiedzał go w Żółkwi, zgromadził wokół siebie grupę młodych uczniów.
W 1814 roku, po śmierci rodziców żony, został zmuszony do zarabiania na życie i został kupcem. Po śmierci żony w 1836 roku Krochmal wrócił do Brodów, gdzie utrzymywał się z buchalterii. Następnie w 1838 roku zamieszkał w Tarnopolu u córki. Zgromadził szeroką wiedzę z różnych dziedzin, szczególnie historii i filozofii, przygotowując się do realizacji głównego zadania swojego życia – stworzenia systemu filozoficznego, przedstawiającego judaizm w jego przejawach duchowo-historycznych. Utrzymywał ścisłe związki z założycielami Wissenschaft des Judenthums, ale w odróżnieniu od nich pisał nie po niemiecku, a w języku hebrajskim, wzbogacając go w szereg terminów naukowych, czym wniósł ważny wkład w rozwój literatury w tym języku. Z powodu złego stanu zdrowia odrzucił propozycję objęcia stanowiska rabina w Berlinie.