Tak rozpoczęła się jego przygoda z aktorstwem. W 1946 r. zadebiutował na dużym ekranie epizodyczną rolą, śpiewaka z gitarą w pierwszym powojennym polskim filmie Zakazane piosenki. W 1951 zdał egzamin eksternistyczny. W latach 1948–1955 występował w Łodzi; w Teatrze Pinokio (1948–1949) i w Teatrze Nowym (1949–1955). W 1955 r. przeniósł się do Warszawy grając kolejno w: Teatrze Klasycznym w latach 1955–1969, Teatrze Polskim w latach 1970–1977 i Teatrze na Woli w latach 1977–1981.

Z filmem związał się na dobre w latach 50. Największą popularność i uznanie przyniosła mu rola Kazimierza Pawlaka w komediowej trylogii Sylwestra Chęcińskiego, na którą składają się filmy: Sami swoi (1967), Nie ma mocnych (1974) oraz Kochaj albo rzuć (1977). Stworzył w nich duet z Władysławem Hańczą. Kolejną rolą Kowalskiego, która spotkała się z popularnością jest dozorca Popiołek w serialu Dom Jana Łomnickiego. Ponadto zagrał w przeszło 100 filmach i serialach telewizyjnych, kreując zwykle role drugoplanowe i epizodyczne, jednakże niezwykle wyraziste.

W 1988 r. otrzymał nagrodę Wiktora dla najpopularniejszej postaci Telewizji Polskiej.

Życie prywatne W latach 1943–1990 jego żoną była Stanisława z domu Osikowska, z którą mieli dwóch synów: Jana (ur. 1946) oraz Macieja (1956–1982).