У статистиці, коефіціє́нт кореля́ції Пі́рсона (ККП, ) — це коефіцієнт кореляції, який вимірює кореляцію між двома наборами даних. Це співвідношення коваріації двох змінних до добутку їхніх стандартних відхилень; таким чином, це, по суті, унормована міра коваріації, така, що її результат завжди має значення між −1 та 1. Як і сама коваріація, ця міра може відображати лише лінійну кореляцію змінних, і не враховує багатьох інших типів взаємозв'язків і кореляцій. Як простий приклад, можна було би очікувати, що вік і зріст групи підлітків із середньої школи матимуть коефіцієнт кореляції Пірсона значно більший за 0, але менший за 1 (оскільки 1 означало би нереалістично ідеальну кореляцію).
Назва й історія
Розробив його Карл Пірсон на основі спорідненої ідеї, запропонованої Френсісом Гальтоном у 1880-х роках, математичну формулу для якої вивів та опублікував Огюст Браве 1844 року. Назва цього коефіцієнта є одним із прикладів закону Стіглера.
Визначення
Коефіцієнт кореляції Пірсона це коваріація двох змінних, поділена на добуток їхніх стандартних відхилень. Вигляд цього визначення містить «момент добутку», тобто середнє значення (перший момент відносно початку координат) добутку змінних, скоригованих на їхні середні значення; тому в назві й використовують означення «моменту добутку».
Для сукупності
Коефіцієнт кореляції Пірсона, коли його застосовують до сукупності, зазвичай позначують грецькою літерою ρ (ро), й можуть називати коефіцієнтом кореляції сукупності () або коефіцієнтом кореляції Пірсона для сукупності (). Для пари випадкових змінних (наприклад, Зріст та Вага), формулою для ρReal Statistics Using Excel, "Basic Concepts of Correlation" , отримано 22 лютого 2015 р. є
де — коваріація — стандартне відхилення — стандартне відхилення .
Формулу для можливо виразити через середнє значення та математичне сподівання. Оскільки
формулу для також можливо записати як
де та визначено як вище — середнє значення — середнє значення — математичне сподівання.
Формулу для можливо виразити через нецентровані моменти. Оскільки
формулу для також можливо записати як
Для вибірки
Коефіцієнт кореляції Пірсона, коли його застосовують до вибірки, зазвичай позначують через і можуть називати коефіцієнтом кореляції вибірки () або коефіцієнтом кореляції Пірсона для вибірки (). Формулу для можливо отримати, підставивши оцінки коваріацій та дисперсій на основі вибірки до наведеної вище формули. Для парних даних , що складаються з пар, визначають як
де — розмір вибірки — окремі точки вибірки з індексом i (середнє значення вибірки); й аналогічно для .
Перегрупування дає таку формулу для :
де визначено як вище.
Ця формула пропонує зручний однопрохідний алгоритм обчислення кореляцій вибірок, хоча, залежно від задіяних чисел, вона іноді може бути чисельно нестійкою.
Подальше перегрупування дає таку формулу для :
де визначено як вище.
Еквівалентний вираз дає формулу для як середнє добутків стандартних оцінок наступним чином:
де визначено як вище, а визначено нижче — стандартна оцінка (й аналогічно для стандартної оцінки ).
Доступні й альтернативні формули для . Наприклад, можливо використовувати наступну формулу для :
де визначено як вище, а (ви́біркове стандартне відхилення); й аналогічно для .
Для спільно гауссових розподілів
Якщо спільно гауссові, з нульовим середнім значенням і дисперсією , то .
Практичні проблеми
В умовах сильного шуму виділяння коефіцієнта кореляції між двома наборами стохастичних змінних нетривіальне, особливо коли канонічно-кореляційний аналіз показує зниження значень кореляції через значний внесок шуму. Узагальнення цього підходу наведено в іншому місці.
У випадку відсутності даних, Ґаррен вивів оцінювання максимальною правдоподібністю.
Деякі розподіли (наприклад, стійкі розподіли, відмінні від нормального) не мають визначеної дисперсії.
Математичні властивості
Значення коефіцієнта кореляції Пірсона як для вибірки, так і для сукупності перебувають на або між −1 та 1. Кореляції, які дорівнюють +1 чи −1, відповідають точкам даних, що лежать точно на прямій (у випадку коефіцієнта кореляції вибірки), або двовимірному розподілу, якого лежить на прямій (у випадку коефіцієнта кореляції сукупності). Коефіцієнт кореляції Пірсона симетричний: corr(X,Y) = corr(Y,X).
Ключовою математичною властивістю коефіцієнта кореляції Пірсона є його щодо окремих змін розташування та масштабу в обох змінних. Тобто ми можемо перетворити X на , і перетворити Y на , де a, b, c, та d сталі, а , не змінивши коефіцієнта кореляції. (Це справджується як для коефіцієнта кореляції сукупності, так і для коефіцієнта кореляції вибірки.) Загальніші лінійні перетворення кореляцію змінюють: щодо того, як це застосовувати, див. .
Тлумачення
Коефіцієнт кореляції набуває значень з −1 по 1. Абсолютне рівне значення 1 означає, що лінійне рівняння описує взаємозв'язок між X та Y ідеально, з усіма точками даних на одній прямій. Знак кореляції визначається нахилом регресії: значення +1 означає, що всі точки даних лежать на прямій, за якої Y зростає зі зростанням X, і навпаки для −1. Значення 0 означає, що між змінними немає лінійної залежності.
Загальніше, додатний тоді й лише тоді, коли Xi та Yi перебувають з одного боку від своїх середніх значень. Відтак, коефіцієнт кореляції додатний, коли Xi та Yi схильні бути одночасно більшими або одночасно меншими за свої середні значення. Коефіцієнт кореляції від'ємний (антикореляція), коли Xi та Yi схильні перебувати по різні боки від своїх середніх значень. Більше того, що сильніша будь-яка з цих тенденцій, то більше абсолютне значення коефіцієнта кореляції.
Роджерс та Найсвандер перелічили тринадцять способів тлумачення кореляції або простих функцій від неї: Функція від сирих оцінок та середніх значень Стандартизована коваріація Стандартизований нахил лінії регресії Геометричне середнє двох нахилів регресії Квадратний корінь співвідношення двох дисперсій Середній векторний добуток стандартизованих змінних Функція кута між двома стандартизованими регресійними лініями Функція кута між двома векторами змінних Перемасштабована дисперсія різниці стандартизованих оцінок Оцінка за правилом повітряної кульки Пов'язана з двовимірними еліпсами ізоконцентрації Функція статистичного критерію із запланованих експериментів Співвідношення двох середніх
Геометричне тлумачення ]
Для нецентрованих даних існує зв'язок між коефіцієнтом кореляції та кутом φ між двома регресійними лініями, та , отриманими в результаті регресії y на x та x на y відповідно. (Тут φ відкладають проти годинникової стрілки в першому квадранті, утвореному навколо точки перетину ліній, якщо , чи проти годинникової стрілки з четвертого до другого квадранту, якщо .) Можливо показати, що якщо стандартні відхилення рівні, то , де sec та tg — тригонометричні функції.
Для центрованих даних (тобто даних, зміщених на середні значення їхніх відповідних змінних, таким чином, щоби середнє значення кожної змінної було нульовим) коефіцієнт кореляції також можливо розглядати як косинус кута θ між двома спостережуваними векторами в N-вимірному просторі (для N спостережень кожної змінної).
Коефіцієнти як нецентрованої (не пірсоново сумісної), так і центрованої кореляції можливо визначати для набору даних. Наприклад, припустімо, що виявлено, що п'ять країн мають валовий національний продукт 1, 2, 3, 5 та 8 мільярдів доларів відповідно. Припустімо, що ці ж п'ять країн (у тому ж порядку) мають 11 %, 12 %, 13 %, 15 % та 18 % бідності. Тоді нехай x та y будуть впорядкованими 5-елементними векторами, що містять наведені вище дані: та .
За звичайною процедурою визначення кута θ між двома векторами (див. скалярний добуток) коефіцієнт нецентрованої кореляції становить
Цей коефіцієнт нецентрованої кореляції ідентичний косинусній подібності. Наведені вище дані було свідомо обрано так, щоби вони бути ідеально корельованими: . Тому коефіцієнт кореляції Пірсона мусить дорівнювати рівно одиниці. Центрування даних (зміщення x на та y на ) дає та , звідки
як і очікувалося.
Тлумачення розміру кореляції
Декілька авторів запропонували настанови для тлумачення коефіцієнта кореляції. Проте всі такі критерії дещо довільні. Тлумачення коефіцієнта кореляції залежить від контексту та цілей. Кореляція 0,8 може бути дуже низькою, якщо йдеться про перевірку фізичного закону з використанням високоякісних інструментів, але може вважатися дуже високою в соціальних науках, де внесок від ускладнювальних чинників може бути більшим.
Висновування
Статистичне висновування на основі коефіцієнті кореляції Пірсона часто зосереджується на одній з наступних двох цілей:
Одна мета полягає в перевірці нульової гіпотези, що істинний коефіцієнт кореляції ρ дорівнює 0, на основі значення коефіцієнта кореляції вибірки r. Інша мета полягає в тому, щоби вивести довірчий інтервал, який при повторюваному вибиранні має задану ймовірність містити ρ.
Методи досягнення однієї або обох цих цілей обговорюються нижче.
Використання перестановкового критерію
Перстановкові критерії забезпечують прямий підхід до здійснення перевірок гіпотез і побудови довірчих інтервалів. Перестановковий критерій для коефіцієнта кореляції Пірсона містить наступні два кроки:
Використовуючи первинні паровані дані (xi, yi), випадково визначити пари заново, створивши новий набір даних (xi, yi′), де i′ — перестановка множини {1,…,n}. Перестановку i′ вибирають випадково, з рівними ймовірностями для всіх n! можливих перестановок. Це рівнозначне вибиранню i′ випадково без повторів з множини {1, …, n}. У натяжці, тісно пов'язаному підході, i та i′ є рівними й вибираються з {1, …, n} з повторами; Побудувати коефіцієнт кореляції r з цих увипадковлених даних.
Щоби виконати перевірку перестановкового критерію, повторіть кроки (1) та (2) велику кількість разів. p-значення для перестановкового критерію — це частка значень r, породжених на кроці (2), більших за коефіцієнт кореляції Пірсона, обчислений із первинних даних. Тут «більший» може означати як більший за абсолютним значенням, так і більший за значенням зі знаком, залежно від того, чи потрібен , чи критерій.
Використання натяжки
Для побудови довірчих інтервалів для коефіцієнта кореляції Пірсона можливо використовувати натяжку. В «непараметричній» натяжці n пар (xi, yi) перевибирають зі спостережуваного набору з n пар «з повторами», й коефіцієнт кореляції r обчислюють на основі цих перевибраних даних. Цей процес повторюють велику кількість разів, і цей емпіричний розподіл перевибраних значень r використовують для наближення вибіркового розподілу цієї статистики. 95 %-вий довірчий інтервал для ρ можливо визначити як інтервал, що простягається від 2,5-го до 97,5-го перцентиля перевибраних значень r.
Стандартна похибка
Якщо та — випадкові змінні, то стандартною похибкою, пов'язаною з кореляцією у випадку нульової гіпотези, є
де — кореляція (за припущення r≈0), а — розмір вибірки.
Перевірка з використанням розподілу Ст'юдента
Для пар з некорельованого двовимірного нормального розподілу, вибірковий розподіл ст'юдентованого коефіцієнта кореляції Пірсона дотримується t-розподілу Ст'юдента зі ступенями вільності n − 2. Зокрема, якщо змінні в основі мають двовимірний нормальний розподіл, то змінна
у випадку нульової гіпотези (нульової кореляції) має розподіл Ст'юдента.Rahman, N. A. (1968) A Course in Theoretical Statistics , Charles Griffin and Company, 1968 Це приблизно виконується у випадку не нормальних спостережуваних значень, якщо розміри вибірок достатньо великі.Kendall, M. G., Stuart, A. (1973) The Advanced Theory of Statistics, Volume 2: Inference and Relationship , Griffin. (Section 31.19) Для визначення критичних значень для r потрібна обернена функція:
Також можливо використовувати асимптотичні підходи для великих вибірок.
Інша рання стаття пропонує графіки та таблиці для загальних значень ρ, для малих розмірів вибірки, та обговорює підходи до обчислень.