Początkowo głównym pomieszczeniem karczmy była duża izba szynkowa, później powiększano je o pokoje zajezdne oraz stajnie i wozownie (stan). Często bryła budynku wyposażona była w ganki oraz podcienia i zwieńczona dachem polskim. W okresie klasycyzmu, w karczmach murowanych, charakterystycznymi elementami architektonicznymi były portyki i ryzality.
W Polsce występowały głównie dwa typy karczm: rzadziej spotykana na planie litery T, gdzie stan usytuowany jest prostopadle do budynku mieszkalnego na osi sieni przejazdowej na planie prostokąta – stan na przedłużeniu części mieszkalnej, z wjazdem od strony szczytowej przez podsienie.
Nieliczne zachowane karczmy polskie to: karczma „Rzym” w Suchej Beskidzkiej – powstała na początku XVIII wieku, karczma „Budzyń” w Lublinie – obecny budynek ma kształt uformowany w pierwszej połowie XIX wieku i jest oznaką przebiegającego tu wcześniej traktu Litewskiego, karczma u Karola Malajki w Opolu (XIX wiek) zachowana w pierwotnym stanie, nadal pełni swoją funkcję, „Stara Karczma” w Jeleśni, karczma w Ptaszkowie – barokowa, z końca XVIII wieku, posiada arkadowy ganek, karczma w Sławkowie – przypuszczalnie z 1701, karczma „Ostatni Grosz” w Głownie z 1740 – prawdopodobnie najstarszy budynek miasta, karczma (austeria) wawerska z początku XIX wieku w Wawrze w Warszawie, obecnie Zajazd