mały|Grupa Rubika to przykład obiektu badanego przez teorię grup. mały|Graf Cayleya grupy wolnej F2
Teoria grup – dział matematyki wyższej, konkretniej algebry abstrakcyjnej, badający grupy. Początkowo rozważano głównie grupy cykliczne i grupy permutacji, jednak z czasem zaczęto badać ich uogólnienia zdefiniowane aksjomatycznie, co zapoczątkowało historycznie pierwszy dział algebry abstrakcyjnej. Teorię grup można uważać za ogólne badania nad symetrią.
Struktury będące grupami – np. dodatnie liczby wymierne z mnożeniem – rozważano już w starożytności, jednak badania tych grup, którym ta dziedzina poświęca szczególną uwagę, zaczęły się wieki później. W I połowie XIX wieku Évariste Galois wprowadził ten termin w kontekście permutacji i zastosował grupy do badań wielomianów. Późniejsi uczeni znaleźli zastosowania grup do innych dziedzin matematyki, np.: lemat Burnside’a jest wykorzystywany w kombinatoryce; Sophus Lie wprowadził grupy nazwane od jego nazwiska, którymi opisał symetrie równań różniczkowych; Felix Klein zapoczątkował program erlangeński: za pomocą grup na nowo zdefiniował geometrię i jej cele, klasyfikując przy tym jej dotychczasowe obszary; Henri Poincaré zdefiniował grupy homotopii i homologii, otwierając topologię algebraiczną.