Pod względem zajmowanej powierzchni, wynoszącej 217,52 km², zajmował przedostatnie miejsce wśród powiatów ziemskich w województwie. Największą powierzchnię w powiecie miały gminy: Janów – 22,3 km², Kochłowice – 20,7 km² oraz Mysłowice – 20,4 km², najmniejszą natomiast: Kończyce i Pawłów – po 1,4 km² oraz Bykowina – 1,6 km².
thumb|left|Kościół na Wzgórzu Doroty thumb|left|Kłodnica w Gliwicach Obszar powiatu rozciągał się pomiędzy 18°44′ a 19°10′ długości geograficznej wschodniej i między 50°12′ a 50°21′ szerokości geograficznej północnej. Jego rozciągłość w kierunku południkowym wynosiła ok. 17 km, a w kierunku równoleżnikowym ok. 29 km. Długość granic powiatu wynosiła 105 km.
Pod względem geograficznym powiat leżał w środkowej części Wyżyny Śląskiej (341.1). Od północy ograniczony był Garbem Bytomsko-Chrzanowskim – z grupą wzgórz zbudowanych ze skał triasowych. Od południa z kolei ograniczały go Wzgórza Łazisko-Mikołowskie (do 360 m n.p.m.) oraz Płaskowyż Murckowski (do 352 m n.p.m.).