В теории вероятностей и статистике гауссовский процесс — это случайный процесс, у которого любое конечное подмножество случайных величин имеет совместное многомерное нормальное распределение. Иными словами, любая конечная линейная комбинация этих величин распределена нормально. Распределение гауссовского процесса – это совместное распределение всех входящих в него случайных величин, и оно задаёт распределение вероятностей на множестве функций с непрерывной областью определения.

В машинном обучении гауссовский процесс используется как метод , поскольку предсказания для новых точек опираются на функцию близости между ними (ядро). Результатом прогноза служит не только точечная оценка, но и информация о неопределенности, представленная в виде одномерного нормального распределения.

Для вычисления прогнозов с использованием ряда ядер применяются методы линейной алгебры - в частности, кригинг.

Гауссовский процесс назван в честь Карла Фридриха Гаусса, поскольку в его основе лежит понятие гауссовское (нормальное) распределение. Гауссовский процесс может рассматриваться как бесконечномерное обобщение многомерного нормального распределения. Эти процессы применяются в статистическом моделировании благодаря своим аналитическим свойствам. Например, если случайный процесс моделируется как гауссовский, распределения производных величин (таких как среднее значение процесса на заданном интервале или погрешность его выборочной оценки) можно получить в явном виде.

Определение Случайный процесс с непрерывным временем является гауссовским тогда и только тогда, когда для любого конечного множества индексов из множества индексов

- многомерная гауссовская случайная величина.. — «"The probability distribution of a function is a Gaussian processes if for any finite selection of points , the density is a Gaussian"». Иначе говоря, любая линейная комбинация имеет одномерное нормальное (гауссовское) распределение. Используя характеристические функции случайных величин, свойство Гаусса можно сформулировать следующим образом: - гауссовское тогда и только тогда, когда для любого конечного множества индексов , существуют вещественные значения , где такие, что для всех выполнено равенство

Где - мнимая единица.

Числа и - ковариации и средние значения переменных в процессах соответственно.

Ковариационные функции Главная особенность гауссовских процессов заключается в том, что они полностью определяются статистикой второго порядка . В частности, если математическое ожидание гауссовского процесса равно нулю, то его поведение полностью описывается ковариационной функцией. Неотрицательная определенность этой функции позволяет разложить её в спектр с помощью разложения Карунена — Лоэва. По ковариационной функции можно судить о стационарности, изотропии, гладкости и периодичности процесса.

Стационарность означает, что процесс зависит только от расстояния между любыми двумя точками и . Если процесс стационарный, то он зависит от взаимного расположения своих точек, расстояния между ними, , в ином случае, он нестационарный, то есть зависит от фактического положения точек и . Примером может послужить частный случай , процесс броуновского движения: он является стационарным.

Если процесс зависит только от евклидово расстояния (но не от направления), его называют изотропным. Стационарный и изотропный процесс называют однородным. На практике стационарность и изотропия отражают отсутствие различий в поведении процесса в зависимости от положения наблюдателя.

Суть гауссовских процессов заключается в получении априорных распределений вероятности, гладкость которых зависит от взятой ковариационной функции. Если мы ожидаем, что для "лежащих близко" входных точек и соответствующие им выходные точки и также "лежат близко", тогда присутствует предположение о непрерывности функции. Если мы хотим допустить значительное смещение, то нужно выбрать более грубую ковариационную функцию. В качестве примеров крайнего поведения можно привести ковариационную функцию Орнштейна — Уленбека и квадратичную экспоненциальную функцию, где первая не дифференцируема нигде, а последняя бесконечно дифференцируема.

Периодичность понимается индуцирование периодических закономерностей в поведении процесса. Формально это достигается путём отображения входного значения на двумерный вектор

Обычные ковариационные функции

Существует ряд общих ковариационных функций: Константа: Линейная функция: Гауссовский шум: Квадратичная экспоненциальная функция: Функция Орнштейна — Уленбека: Matérn: Периодическая функция: Рациональная квадратичная функция:

Здесь . Параметр является характеристикой масштаба длины процесса (практически, «насколько близко» две точки и должны быть, чтобы значительно влиять друг на друга), - это символ Кронекера и - среднеквадратическое отклонение колебаний шума. Кроме того, является модифицированной функцией Бесселя и - это гамма-функция, вычисленная по . Сложную ковариационную функцию можно определить как линейную комбинацию других более простых ковариационных функций затем, чтобы объединить различную информацию об имеющихся наборах данных.

Полученные результаты зависят от значений гиперпараметров (например, и ), определяющих поведение модели.

Броуновское движение как интеграл гауссовских процессов Винеровский процесс (математическая модель броуновского движения) - это интеграл от гауссовского белого шума. Он не стационарен, однако имеет стационарные приращения.

Процесс Орнштейна — Уленбека — это стационарный гауссовский процесс.

Броуновский мост (подобный процессу Орнштейна — Уленбека) является примером гауссовского процесса, приращения которого не являются независимыми.

Дробное броуновское движение является гауссовским процессом, ковариационная функция которого является обобщением функции винеровского процесса.

Приложения

Гауссовский процесс может быть использован как априорное распределение вероятностей функций в байесовском выводе. Для любого множества из N точек в нужной области функций возьмите многомерное гауссовское распределение, ковариационный матричный параметр которого является определителем Грама взятых N точек с некоторым желаемым ядром, и выборку из этого распределения.

Вывод непрерывных значений на основе гауссовского процесса, определяемого предыдущими ковариациями, известен как кригинг (регрессия на основе гауссовского процесса). Поэтому, гауссовские процессы полезны в качестве мощного нелинейного многомерного инструмента интерполяции. Регрессия на основе гауссовского процесса может быть дополнительно расширена для решения задач обучения как с учителем, так и без (самообучение).

Прогноз гауссовского процесса или кригинг

Когда речь идёт об основной проблеме регрессии на основе гауссовского процесса (кригинге), предполагается, что для гауссовского процесса , наблюдаемого в координатах , вектор значений является всего лишь одной из выборок многомерного гауссовского распределения, размерность которого равна числу наблюдаемых координат . Следовательно, согласно допущению о нулевом распределении, , где - ковариационная матрица между всеми возможными парами для заданного множества гиперпараметров . Таким образом, логарифм предельной вероятности равен:

и максимизация этой предельной вероятности по отношению к даёт полную характеристику гауссовского процесса . Первое выражение зависит от неспособности модели соответствовать наблюдаемым значениям, а второе выражение прямо пропорционально сложности модели. Указав и сделав прогноз о ненаблюдаемых значениях в координатах , останется сделать график выборок из прогностического распределения , где последующая средняя оценка определяется как

и последующая оценка дисперсии B определяется как

где - ковариация между новой оценкой координаты и всеми другими наблюдаемыми координатами для данного гиперпараметрического вектора , и определены как и прежде, а является дисперсией в точке , продиктованной вектором . Последующая средняя оценка ("точечная оценка") является линейной комбинацией наблюдений ; аналогичным образом дисперсия фактически не зависит от наблюдений . Известным узким местом в прогнозировании гауссовского процесса является то, что вычислительная сложность прогнозирования является кубической по числу точек , то есть вычисление может быть невозможным для больших наборов данных. Чтобы обойти эту проблему, ведутся работы по разреженным гауссовским процессам, которые обычно основаны на идее построения репрезентативного набора для данного процесса .

См. также Априорная вероятность Кригинг

Среднеквадратическое отклонение

Примечания

Внешние ссылки The Gaussian Processes Web Site, including the text of Rasmussen and Williams' Gaussian Processes for Machine Learning A gentle introduction to Gaussian processes A Review of Gaussian Random Fields and Correlation Functions

Программное обеспечение STK: a Small (Matlab/Octave) Toolbox for Kriging and GP modeling Kriging module in UQLab framework (Matlab) Matlab/Octave function for stationary Gaussian fields Yelp MOE – A black box optimization engine using Gaussian process learning ooDACE – A flexible object-oriented Kriging matlab toolbox. GPstuff – Gaussian process toolbox for Matlab and Octave GPy – A Gaussian processes framework in Python Interactive Gaussian process regression demo Basic Gaussian process library written in C++11 scikit-learn – A machine learning library for Python which includes Gaussian process regression and classification - The Kriging toolKit (KriKit) is developed at the Institute of Bio- and Geosciences 1 (IBG-1) of Forschungszentrum Jülich (FZJ)

Категория:Случайные процессы Категория:Теория вероятностей Категория:Объекты, названные в честь Карла Фридриха Гаусса