Mimo to, Ranganathan, po zapoznaniu się z klasyfikacją dziesiętną, rozpoczął prace nad zupełnie innym rodzajem klasyfikacji.
Pierwsze szkice klasyfikacji, która obecnie jest zwana klasyfikacją dwukropkowa powstały jeszcze w Londynie. Na pomysł struktury nowej klasyfikacji Ranganathan wpadł, kiedy oglądał w sklepie z zabawkami. Kiedy wracał do ojczyzny, był już przekonany o ważności bibliotek i bibliotekoznawstwa dla narodu hinduskiego. Ranganathan przepracował na stanowisku bibliotekarza 20 lat. Przez ten czas, pomógł w stworzeniu Stowarzyszenia Bibliotek Madrasu, propagował również ideę sieci bezpłatnych bibliotek publicznych w całych Indiach oraz utworzenie nowoczesnej Indyjskiej Biblioteki Narodowej.
Ranganthan był pracoholikiem. Spędzał w pracy 13 godzin dziennie, pracował siedem dni w tygodniu i nie brał urlopów. Nawet kiedy się ożenił w listopadzie 1928 pojawił się w pracy wieczorem po ceremonii. Razem ze swoją żoną Saradą miał tylko jednego syna.
Pierwsze lata pracy bibliotecznej upłynęły Ranganathanowi na opracowaniu zagadnień związanych z zarządzaniem i klasyfikacją.