W czasie zimowych igrzysk olimpijskich w Nagano znalazł się pod wielką presją. Udało mu się spełnić oczekiwania, zdobywając złoty medal na dystansie 500 m. Został w ten sposób pierwszym japońskim mistrzem olimpijskim w łyżwiarstwie szybkim. Cztery lata później, podczas igrzysk w Salt Lake City, pomimo poważnych problemów z plecami będących wynikiem wypadku samochodowego w 2001, udało mu się wywalczyć srebrny medal, tracąc w stosunku do zwycięzcy (Casey FitzRandolph) zaledwie 0,03 s. Była to najmniejsza różnica wyników zanotowana podczas igrzysk na tym dystansie.
Shimizu nigdy nie został mistrzem świata w sprincie, ale trzykrotnie zdobywał srebrny medal (1995, 1996, 2001) oraz brązowy medal (1993, 1999, 2000). Został mistrzem świata podczas pierwszych mistrzostwach świata na dystansach w 1996 i od tego czasu niemal co roku znajduje się na podium: jako mistrz świata w 1998, 1999, 2000 i 2001, jako zdobywca srebrnego medalu w 2003 i 2005 oraz brązowego w 1997.
W 2001 został uhonorowany nagrodą Oscara Mathisena za ustanowienie rekordu świata na dystansie 500 m (34,32 s). Był to jego czwarty rekord świata na tym dystansie. Obecnie należy do niego rekord świata na dystansie 100 m (9,43 s), ustanowiony w 2003 w Salt Lake City.