Категорією називається пара множин: — множина математичних об'єктів та — множина морфізмів. Поняття морфізму у теорії категорій узагальнює поняття відображення. Запис означає, що За допомогою теорії категорій формулюються властивості математичних об'єктів через їх відображення, що зберігають їх структуру. На об'єктах й морфізмах задаються наступні операції. Унарні операції та які зіставляють кожному морфізмові пару математичних об'єктів та які називаються відповідно областю визначення та областю значення морфізму . Унарна операція яка зіставляє кожному об'єкту з множини так званий одиничний морфізм ; зокрема, якщо то одиничний морфізм є морфізмом з у Замість пишуть також або ( від «ідемпотент»). Тернарна операція яка зіставляє кожній трійці об'єктів операцію композиції, яка дає по парі морфізмів та їхню композицію При цьому виконуються наступні алгебричні тотожності: та для усіх та ; (асоціативність композиції).
Дану композицію можна записати й наступним чином:
Прикладом категорії може бути реляційна система (частково впорядкована множина), у якій об'єктами є елементи а множина морфізмів з об'єкта у об'єкт категорії де є непустою лише у випадку, якщо У цьому випадку складається лише з одного морфізму, який називається морфізмом порядку. Частковий порядок називається також квазіпорядком, а частково впорядкована множина — квазівпорядкованою.
Якщо є категорією, то дуальна категорія визначається як категорія, яка містить ті самі об'єкти, що й категорія однак у якій множина об'єкта у об'єкт ототожнюється із Композиція морфізмів у дуальній категорії визначається як композиція морфізмів Таким чином, будь-яке математичне поняття або твердження, яке відноситься до декотрої категорії, має дуальне твердження або поняття («процес обернення стрілок»).
Категорія називається підкатегорією категорії якщо об'єкти належать до об'єктів тобто а також якщо формізми належать до морфізмів тобто Тотожні морфізми та у обох категоріях є однаковими та закон композиції морфізмів категорії породжується законом композиції морфізмів категорії Підкатегорія категорії називається повною, якщо для будь-якої пари справджується рівність
Зазвичай користуються наступними позначеннями морфізмів: гомоморфізм ендоморфізм — група автоморфізмів об'єкта (в ).
Нехай є морфізмом категорії Для кожного об'єкта розгляньмо відображення який ставить у відповідність кожному елементові елемент Морфізм називється мономорфізмом, якщо наведене відображення є ін'єктивним для будь-якого об'єкта .
Нехай тепер — довільний морфізм та — довільний об'єкт категорії Розгляньмо відображення що ставить у відповідність кожному елементові елемент Морфізм називається епіморфізмом, якщо задане відображення є ін'єктивним для будь-якого об'єкта категорії Зрозуміло, що є епіморфізмом лише тоді, коли він розглядається як елемент з й є мономорфізмом. Іншими словами, епіморфізм отримується шляхом дуалізації поняття мономорфізму.
Таким чином, морфізм називається мономорфізмом, якщо (відповідно ). Мономорфізм називають також вкладенням (ін'єкцією), а епіморфізм — накладанням (сюр'єкцією).
Запевнимося у цьому, розглянувши мономорфізм зробивши припущення, що це відображення не є ін'єктивним. Тоді за декотрих різних та одержимо Оберімо одноелементну множину та нехай та визначаються рівностями та Тоді та Оскільки то одержуємо суперечливість із визначенням мономорфізму.
Нехай тепер є епіморфізмом та його образом у є підмножина Візьмімо дві множини та із перетином таким чином, щоб справджувалися умови: є два взаємно однозначних відображення та які співпадають на та є різними поза та які дають взаємно однозначне відображення Оберімо тоді одержимо відображення та Відображення та є різними, але Наведена множина пов'язана із поняттям амальгами, яке застосовується до алгебр.
Композиція мономорфізмів є знову мономорфізмом (так само, як композиція ін'єктивних відображень є ін'єктивною). Якщо є мономорфізмом, то — мономорфізм.
Якщо є епіморфізмом, то — є епіморфізмом. Зрозуміло, що композиція двох епіморфізмів є епіморфізмом.
Якщо є одночасно мономорфізмом (ін'єкцією) й епіморфізмом (сюр'єкцією), то — ізоморфізм. Конкретніше, морфізм називається ізоморфізмом, якщо існує морфізм такий, що та тобто якщо морфізм є зворотним. Ізоморфізм позначається Композиція ізоморфізмів є ізоморфізмом.
Нехай тепер Розгляньмо мономорфізми та Говорять, що мономорфізм мажорує мономорфізм та пишуть (або ), якщо існує морфізм такий, що Відношення є рефлексивним й транзитивним.
Припустімо, що також тоді існують ізоморфізми та такі, що та Однак тоді та і оскільки та є мономорфізмами, то та
Два мономорфізма та для яких та називаються еквівалентними (при цьому говорять, що мономорфізми та мажорують один одного).
Ретракція морфізму називається такий морфізм що
Перетин морфізму — це такий морфізм що
За допомогою аксіоми вибору оберемо у класі еквівалентних мономорфізмів по представнику (в якості представника класу мономорфізмів, що еквівалентні тобто класу усіх ізоморфізмів із областю значення ). Отримані таким чином мономорфізми називаються підоб'єктами об'єкта Підоб'єкти об'єкта у цьому випадку є не просто об'єктами категорії а декотрими парами де є мономорфізмом (який називається канонічним мономорфізмом у ).
Фактороб'єкт та канонічний епіморфізм визначаються дуально: у цьому випадку розглядають відношеня мажорування на епіморфізмах із спільною областю визначення. Це відношення визначається наступним чином: якщо існує морфізм такий, що (тобто якщо у дуальній категорії мономорфізм мажорує мономорфізм ). Відношення між підоб'єктами чи фактороб'єктами є відношенням (часткового) порядку (для підоб'єктів та замість записують також чи ).
У категорії множин (як й у категорії груп) прямий добуток співпадає із класичним прямим добутком. Однак пряма сума є їх об'єднанням (за припущення, що дані множини не перетинаються). Пряма сума груп — їх вільний добуток (тому у літературі можна зустріти замість терміну «пряма сума» термін «вільний добуток»), а пряма сума абелевих груп — їх класична пряма сума.
Нехай та нехай — пронумерована елементами множини скінченна множина (сім'я) морфізмів тоді для будь-якого відображення множини до множини визначають відображення Говорять, що морфізми визначають представлення об'єкта в якості прямого добутку об'єктів якщо для довільного попереднє відображення є бієктивним. Важливо зауважити, що у цьому випадку — це не просто об'єкт а об'єкт, який є наділеним сім'єю морфізмів у які називаються канонічними проекціями добутку на співмножники
Дуальним чином можна представити об'єкт у вигляді суми сімейства об'єктів за допомогою морфізмів (для довільного відображення повинне бути бієктивним). У цьому випадку пряма сума є наділеною канонічними вкладеннями (які можуть і не бути мономорфізмами).
Приклади категорій. Розгляньмо деякі приклади. Категорія Об'єкти категорії — множини. Для довільних множин та двох множин під розуміється множина усіх відображень на а під композицією — звичайна композиція відображень. Аксіоматика теорії множин, що нині широко використовується, є аксіоматикою Бернайса-Гьоделя, яка базується на відмінності понять класу й множини: множиною називається клас, який є елементом якого-небудь класу (припускаються також «власні класи», тобто класи, які не є множинами — наприклад, клас усіх множин). Однак у цій аксіоматиці поняття класу усіх функторних морфізмів функтора у функтор (законний — об'єкти категорії утворюють множину) є незаконним, коли клас об'єктів категорії є власним. Справді, будь-який функторний морфізм є відображенням класу об'єктів у клас морфізмів відповідно він є ототожнюваний із підмножиною добутку утвореною усеможливими парами (де ). Відтак, якщо є власним класом, то й є власним класом. Але у такому випадку не може бути елеметом жодного класу. Таким чином, якщо клас об'єктів категорії — не множина, то «класу» не існує. Категорія Об'єктами категорії є топологічні простори. Під для двох довільних топологічних просторів та розуміють множину усіх неперервних відображень на Під у цьому випадку композицією розуміють звичайну композицію відображень (композиція двох неперервних відображень також є неперервною). Категорія Об'єктами категорії є групи. Під для двох довільних груп та розуміють множину усіх гомоморфізмів групи на групу Під композицією розуміють звичайну композицію гомоморфізмів. Категорія Об'єктами категорії є комутативні (абелеві) групи, а морфізми — знову гомоморфізми. Нехай У цьому випадку можна вважати підгрупою абелевої групи Іншими словами, вибір, який входить до визначення підоб'єкта, можна здійснити таким чином, щоб кожний підоб'єкт мав вигляд де a для усіх
Функтор Розгляньмо категорії та Коваріантним функтором з до називається «функція» яка складається із: відображення яке ставить у відповідність кожному об'єкту об'єкт ; відображень (відповідно ),
визначених для усіх пар об'єктів з категорії та таких, що та (відповідно ).
Функтор складається із відображень об'єктів й відображення морфізмів який зберігає добуток й тотожні морфізми. Функтор називається повним, якщо відображення є сюр'єктивним; функтор називається точним, якщо відображення є ін'єктивним. Варто відзначити, що точний функтор може переводити неізоморфні об'єкти у ізоморфні.
Таким самим чином визначаються контраваріантні функтори з до (які є також коваріантними функторами із до та навпаки, з до де та — дуальні до категорій та категорії відповідно).
Мала категорія Мала категорія — категорія, у якої та є множинами. Окрім категорії усіх множин, просторів, кілець тощо розглядають категорію множин, просторів, кілець із потужністю, яка є обмеженою декотрим кардиналом, який називається універсумом Гротендика й визначається аксіоматично. Універсум Гротендика — це множина яка має наступні властивості: якщо та то ; ; якщо то ; якщо — сім'я, для якої та то
Подібна аксіоматика є незалежною від аксіом Цермело-Френкеля із аксіомою вибору. Користуючись аксіомами універсуму, можна переконатися, що кожна категорія із об'єктами малої потужності є еквівалентною малій категорії.
Категорія булевих кілець є еквівалентною категорії булевих алгебр (алгебр логічних висловлювань). Якщо є булевим кільцем, то операції визначаються за формулами:
Існування універсуму є рівносильним існуванню сильно недосяжних кардиналів у теорії множин. Як казав Архімед у своєму творі «Псамміт», «серед чисел, які ми назвали й опублікували у написаній до Зевксиппа книзі, декотрі перебільшують не лише число пісчинок у об'ємі, який дорівнює заповненій Землі, але навіть у об'ємі, рівному світу». Відповідно, число пісчинок на Землі — деяке конкретне натуральне число. Однак дати безпосереднє визначення цього числа, назвати саме це число практично неможливо. Послідовний перебір пісчинок є нездійснюваним. Відповідно, кількість пісчинок на Землі недосяжним натуральним числом.