Lilacs in the Spring. Później zaczął występować w wielu serialach, grając epizodyczne role m.in. w Dixon of Dock Green, a także The Jack Benny Program.
W maju 1958 odbyła się premiera filmu z jego udziałem pt. Inne miejsce, w którym wystąpił obok Lany Turner. Podczas kręcenia filmu Connery najpierw wykręcił rękę, a później pobił partnera Turner, gangstera Johnny’ego Stompanato, który podejrzewał swoją kochankę o romans z aktorem i z tego powodu wszczął awanturę na planie filmowym. W 1959 zagrał jedną z głównych ról w filmie produkcji Walt Disney Pictures pt. Darby O’Gill i krasnoludki w reżyserii Roberta Stevensona, a jego udany występ jako Michael McBridge sprawił, że później stał się jednym z kandydatów do obsadzenia roli Jamesa Bonda. W 1961 wystąpił w roli Wrońskiego w filmie Anna Karenina, obok Claire Bloom, która wcieliła się w tytułową bohaterkę.