Latem 1986 roku Nielsen został piłkarzem innego klubu Eredivisie, PSV Eindhoven. W nim po raz pierwszy wystąpił 16 sierpnia 1986 w wyjazdowym meczu ze Spartą Rotterdam (1:1). W PSV grał wraz z rodakami: Janem Heintze, Frankiem Arnesenem, Sørenem Lerbym i Flemmingiem Povlsenem. W 1987 roku wywalczył z PSV mistrzostwo Eredivisie. Jednak w sezonie 1987/1988 wygrał z PSV potrójną koronę - sięgnął po puchar, mistrzostwo Holandii oraz wygrał z PSV Puchar Mistrzów (grał przez 120 minut wygranego po rzutach karnych finałowym meczu z Benfiką Lizbona). W 1989 roku sięgnął z PSV po dublet (mistrzostwo i puchar), a w 1990 po raz trzeci zdobył krajowy puchar.

W 1990 roku Nielsen wrócił do Danii i grał w drugoligowym wówczas Fremad Amager. W 1991 roku przeszedł do Boldklubben 1903, a latem 1992 trafił do FC København, z którym w 1993 roku wywalczył Puchar Danii. Po tym sukcesie przeszedł do Næstved BK. W 1993 roku jako piłkarz tego klubu zakończył karierę.