Miesiąc po wyborach został aresztowany pod zarzutem korupcji związanej z kampanią wyborczą z 2002 roku. Został skazany na osiem miesięcy więzienia w zawieszeniu na cztery lata. W związku z wyrokiem Partia Zjednoczonych Demokratów (UDP) odrzuciła jego kandydaturę w wyborach parlamentarnych w 2008 roku. Choć 6 lipca został wybrany wiceprzewodniczącym partii, jeszcze w tym samym roku ponownie został aresztowany pod zarzutem korupcji.
W maju 2010 roku, w czasie trwającego procesu, Kim wziął udział w partyjnych prawyborach na kandydata na burmistrza Busanu, ale przegrał z Kim Chŏng-gilem. Trzy miesiące później został skazany na grzywnę w wysokości 6 milionów wonów (~6000 USD), a także otrzymał zakaz działalności politycznej na pięć lat.
W 2014 roku Kim powrócił jako doradca nowo utworzonej Partii Demokratycznej, znanej też jako „Demokraci (K)”. 30 stycznia 2016 roku został wybrany współprzewodniczącym partii, obok byłego gubernatora prowincji Jeolla Południowa, Park Joon-younga. W wyborach w 2016 roku zajął drugie miejsce na liście partyjnej, ale nie uzyskał mandatu, ponieważ partia nie przekroczyła progu 3%.