Ма́тричне чи́слення у математиці — це спеціальна система позначень для обчислення функцій багатьох змінних, що застосовується переважно на просторах матриць. Цей підхід дозволяє об'єднувати різні частинні похідні однієї функції за багатьма змінними та/або функції багатьох змінних за однією змінною у вектори чи матриці, що розглядаються як цілісні об'єкти. Це значно спрощує такі операції, як знаходження максимуму або мінімуму функції багатьох змінних та розв'язання систем диференціальних рівнянь. Описані тут позначення є загальноприйнятими в статистиці та інженерії, тоді як у фізиці частіше використовують тензорне індексне позначення.
Два альтернативні підходи до системи позначень поділяють матричне числення на дві окремі групи. Головна відмінність між ними полягає в тому, як саме записують похідну скаляра за вектором — у вигляді вектора-стовпця чи вектора-рядка. Обидва варіанта можливі, навіть якщо за замовчуванням вектори в поєднанні з матрицями прийнято вважати векторами-стовпцями (а не векторами-рядками). Певний конкретний підхід може бути загальноприйнятим у межах однієї дисципліни, де активно застосовується матричне числення (наприклад, в економетриці, статистиці, теорії оцінювання та машинному навчанні). Однак навіть в одній і тій самій галузі різні автори можуть використовувати протилежні підходи. Авторам з обох груп властиво писати так, ніби саме їхній варіант нотації є стандартним. Поєднання результатів різних авторів без ретельної перевірки того, чи є їхні системи позначень узгодженими між собою, може призвести до серйозних помилок. Визначення цих двох підходів та їхній порівняльний аналіз наведено в розділі "Правила розташування".
Сфера застосування Під матричним численням розуміють сукупність різних систем позначень, у яких матриці та вектори застосовуються для впорядкованого запису частинних похідних кожного елемента залежної змінної за кожним елементом незалежної змінної. Загалом, як залежна, так і незалежна змінні можуть бути скаляром, вектором або матрицею. Кожне з таких поєднань призводить до власного набору правил або окремого обчислювального апарату (у ширшому розумінні цього поняття). Матрична форма запису є зручним інструментом, що дозволяє компактно та впорядковано подати велику кількість таких похідних.
Як перший приклад розглянемо градієнт із векторного аналізу. Для скалярної функції трьох незалежних змінних градієнт задається векторним рівнянням:
де позначає одиничний вектор у напрямку для всіх . Таку узагальнену операцію диференціювання можна розглядати як похідну скаляра f за вектором , а отриманий результат зручно подавати у формі вектора.
До складніших прикладів належить диференціювання скаляра за матричною змінною. Отриману структуру називають градієнтною матрицею, яка об'єднує частинні похідні за кожним окремим компонентом, зберігаючи їхні вихідні позиції всередині отриманої матриці. У цьому випадку скаляр має бути функцією кожної з незалежних змінних у матриці. Як інший приклад, якщо задано -вектор залежних змінних або функцій від незалежних змінних, ми можемо розглянути похідну залежного вектора за незалежним вектором. Результат можна зібрати в матрицю розміру , яка охоплює всі можливі варіації таких частинних похідних.
Усього можливі дев'ять комбінацій залежно від використання скалярів, векторів чи матриць. Очевидно, що з урахуванням більшої кількості елементів у кожній із незалежних та залежних змінних загальна кількість потенційних варіантів стає надто великою. Шість видів похідних, які найкраще можна структурувати в матричній формі, наведено в таблиці нижче. +Типи матричних похідних Типи Скаляр Вектор Матриця Скаляр Вектор Матриця Тут термін «матриця» вжито в його найзагальнішому значенні, з огляду на те, що вектори є всього лише матрицями з одним стовпцем (а скаляри — векторами з одним рядком). Крім того, для позначення векторів використано малі жирні літери, а для матриць — великі жирні літери. Ці позначення застосовуються впродовж усієї статті.
Зверніть увагу, що ми могли б розглянути й похідну вектора за матрицею або будь-які інші випадки, що відповідають порожнім коміркам наведеної таблиці. Проте такі похідні найбільш природно представляти у вигляді тензорів рангу, що перевищує 2, через що вони не вкладаються акуратно в межі звичайної матриці. У наступних трьох розділах наведено визначення кожному з цих типів похідних та показано їхній зв'язок з іншими галузями математики. Детальніша таблиця наведена в розділі "Правила розташування".
Зв'язок з іншими похідними Матрична похідна є зручною формою запису, що дозволяє впорядковувати частинні похідні під час виконання обчислень. У функціональному аналізі стандартним підходом до диференціювання за векторами є похідна Фреше. Якщо матрична функція від матричної змінної є диференційованою за Фреше, то обидва види похідних узгоджуються з точністю до розбіжностей у позначеннях. Як і загалом для частинних похідних, деякі формули залишаються справедливими й за слабших аналітичних умов, ніж існування похідної у вигляді апроксимуючого лінійного відображення.
Використання Матричне числення застосовують для виведення оптимальних стохастичних оцінювачів, що часто передбачає використання множників Лагранжа. Зокрема, воно використовується для обґрунтування таких методів:
Фільтр Калмана Фільтр Вінера ЕМ-алгоритм для сумішей гаусових розподілів Градієнтний спуск
Позначення Векторні та матричні похідні, наведені в наступних розділах, повною мірою розкривають переваги матричної форми запису, де одна змінна відображає значну кількість змінних. Далі ми розрізнятимемо скаляри, вектори та матриці за їхнім шрифтом. Нехай позначає простір дійсних матриць розміру , що мають рядків та стовпців. Такі матриці позначатимуться великими жирними літерами: , , тощо. Елемент простору , тобто вектор-стовпець, позначається малою жирною літерою: , , тощо. Елемент простору є скаляром і позначається малою курсивною літерою: , , тощо. Символ позначає транспоновану матрицю, — слід матриці, а або — її визначник. За замовчуванням припускається, що всі функції належать до класу диференційованості , якщо не зазначено інше. Зазвичай літери з першої половини алфавіту (a, b, c, ...) застосовуються для позначення констант, а з другої половини (t, x, y, ...) — для позначення змінних.
ПРИМІТКА: Як зазначалося вище, існують альтернативні системи позначень для структурування систем частинних похідних у векторах та матрицях, і єдиного стандарту наразі ще не сформовано. У двох наступних вступних розділах задля зручності та щоб уникнути надмірного ускладнення матеріалу використано угоду про нотацію чисельника. Наступний за ними розділ присвячено детальнішому розбору правил розташування елементів. Важливо усвідомити таке:
Незважаючи на використання термінів «нотація чисельника» та «нотація знаменника», насправді існує більше ніж два можливих варіанти позначень. Причина полягає в тому, що вибір на користь чисельника чи знаменника (або в деяких ситуаціях — чисельника чи змішаного варіанта) може бути зроблений незалежно для таких типів похідних, як похідна скаляра за вектором, вектора за скаляром, вектора за вектором та скаляра за матрицею. До того ж чимало авторів комбінують свої варіанти розташування елементів різними способами. Вибір нотації чисельника у вступних розділах нижче не означає, що цей варіант є єдино «правильним» або «найкращим». Різні типи розташування елементів мають свої переваги та недоліки. Серйозні помилки можуть виникнути внаслідок недбалого поєднання формул, написаних у різних нотаціях, а перетворення з одного формату в інший вимагає неабиякої обережності. Як результат, під час роботи з наявними формулами найкращою політикою, ймовірно, є визначення того, яка саме нотація використовується, та дотримання її узгодженості, а не спроба використовувати один і той самий підхід у всіх ситуаціях.
Альтернативи Індексне позначення тензорів із властивим йому правилом підсумовування Ейнштейна дуже подібне до матричного числення, за винятком того, що в кожен момент часу записується лише один компонент. Його перевага полягає в тому, що тут можна легко оперувати тензорами довільно високого рангу, тоді як тензори рангу, вищого за два, є досить громіздкими для матричного запису. Всю описану тут роботу можна виконати в цій нотації без використання матричних позначень з однією змінною. Однак багато задач у теорії оцінювання та інших галузях прикладної математики призводять до появи надто великої кількості індексів, які важко відстежувати, що свідчить на користь матричного числення в цих сферах. Крім того, правило Ейнштейна може бути дуже корисним для доведення наведених тут тотожностей (див. розділ про диференціювання) як альтернатива традиційному покомпонентному запису, який стає громіздким, якщо всюди тягнути за собою знаки явного підсумовування. Зауважте, що матрицю можна вважати тензором другого рангу.
Похідні з векторами
Оскільки вектори є матрицями, що мають лише один стовпець, найпростішими матричними похідними є векторні похідні.
Запропонована тут система позначень дозволяє описувати звичайні операції векторного аналізу завдяки ототожненню простору -вимірних векторів із евклідовим простором , а скалярного простору — із . Відповідне поняття із векторного аналізу наведено в кінці кожного підрозділу.
ПРИМІТКА: Матеріал цього розділу викладено з використанням угоди про нотацію чисельника з навчальною метою. Деякі автори використовують інші правила нотації. У розділі "Правила розташування" це питання розглядається детальніше. Наведені далі тотожності представлені у вигляді, сумісному з усіма загальноприйнятими угодами про розташування елементів.
Похідна вектора за скаляром Похідна вектора за скаляром у нотації чисельника записується у вигляді:
У векторному аналізі похідна вектора за скаляром відома як дотичний вектор вектора і позначається як . Зверніть увагу, що в цьому випадку .
Приклад: Простими прикладами цього є вектор швидкості в евклідовому просторі, який є дотичним вектором до радіус-вектора, що розглядається як функція часу. Аналогічно, прискорення є дотичним вектором до вектора швидкості.
Похідна скаляра за вектором Похідна скаляра за вектором у нотації чисельника записується у вигляді:
У векторному аналізі градієнт скалярного поля (незалежними координатами якого є компоненти вектора ) є транспонованою матрицею щодо похідної скаляра за вектором.
Наприклад, у фізиці електричне поле є градієнтом електричного потенціалу, взятим із протилежним знаком.
Похідна за напрямком скалярної функції від просторового вектора у напрямку одиничного вектора (представленого в цьому випадку у вигляді вектора-стовпця) визначається через градієнт таким чином:
Використовуючи щойно введене позначення для похідної скаляра за вектором, ми можемо переписати похідну за напрямком як Така форма запису є надзвичайно зручною під час доведення правил диференціювання добутку та складних функцій, оскільки фінальні вирази мають вигляд, аналогічний до звичних формул для похідних скалярних функцій.
Похідна вектора за вектором Кожен із двох попередніх випадків можна розглядати як окремий випадок похідної вектора за вектором за умови відповідного використання одновимірного вектора. Аналогічно показано, що матричні похідні зводитимуться до векторних похідних відповідним чином.
Похідна вектор-функції (вектора, компоненти якого є функціями) за вхідним вектором у нотації чисельника записується у вигляді:
У векторному аналізі похідна вектор-функції за вектором , компоненти задають координати простору, називається диференціалом відображення (або матрицею Якобі).
Диференціал (пряме перенесення) уздовж вектор-функції за вектором в задається виразом:
Диференціювання матриць