Grupą Coxetera – grupa z wyróżnionym układem generatorów którego elementy spełniają następujący układ relacji:
gdzie: czyli dla dowolnego
dla przy czym dla nie istnieje relacja między a .
Nazwa pojęcia pochodzi od nazwiska Harolda Coxetera. Grupy tego rodzaju są rozważane w teorii grup dyskretnych jako uogólnienie grup odbić generowanych przez odbicia względem hiperpowierzchni w przestrzeni euklidesowej. Każda grupa odbić jest grupą Coxetera, jeśli jej generatorami są odbicia względem hiperpowierzchni ograniczających wielościan fundamentalny.
Macierz gdzie nazywa się macierzą Coxetera danej grupy Coxetera. Macierz ta i sama grupa może być zadana za pomocą grafu Coxetera – grafu o wierzchołkach w którym wierzchołki i są połączone -krotną krawędzią, jeśli (w szczególności nie są w ogóle połączone, jeśli ) i są połączone grubą krawędzią, jeśli Czasem zamiast łączyć wierzchołki grafu krawędziami wielokrotnymi, łączy się je jedną krawędzią ze znakiem nad nią.
Własności Jeśli to mnożenie przez jest przemienne. jest rzędem elementu
Przykłady Każda grupa generowana przez dwa elementy rzędu 2 jest grupą Coxetera o macierzy postaci Jej graf Coxetera: center|100px
Grupa symetryczna jest grupą Coxetera względem generatorów dla ( jest transpozycją elementów i ).