Sezon 2009/2010 Rafael Benítez zasugerował, że odejście Samiego Hyypii z Liverpoolu może dać szansę Kelly’emu na wejście do pierwszego zespołu i uważnie obserwował go w okresie przedsezonowym. Po raz pierwszy zagrał od początku w meczu o stawkę przeciwko Olympique Lyon w Lidze Mistrzów 20 października 2009 r., a w 74. minucie zszedł z boiska na skutek kontuzji. Został uznany graczem meczu na oficjalnej stronie klubu po imponującym występie. 25 lutego wszedł na boisko jako rezerwowy w spotkaniu z Unireą Urziceni w Lidze Europy. Następnie zadebiutował w lidze w spotkaniu z Portsmouth.
Sezon 2010/2011 Kelly zagrał w spotkaniach w Lidze Europy z FK Rabotniczki Skopje, Trabzonsporem, Steauą Bukareszt oraz Utrechtem. Następnie wystąpił w przegranym spotkaniu z Northampton Town w trzeciej rundzie Pucharu Ligi. 21 października rozegrał pełne 90 minut w pojedynku z SSC Napoli w fazie grupowej Ligi Europy. Kelly po raz pierwszy zaczął od początku mecz w Premier League w tym sezonie przeciwko Chelsea. Liverpool wygrał 2:0, a on został wychwalany za swój występ.