У статистиці функція ло́гіт (, , від ) — це , що відповідає стандартному логістичному розподілу. Вона має багато застосувань в аналізі даних та машинному навчанні, особливо в перетвореннях даних.
Математично логіт — це обернення стандартної логістичної функції , тому логіт визначають як для
Через це логіт також називають логарифмі́чними ша́нсами (), оскільки він дорівнює логарифму шансів , де — це ймовірність. Таким чином, логіт є функцією, що відображує ймовірності з інтервалу у дійсні числа на інтервалі , подібно до функції пробіта.
Визначення Якщо — це ймовірність, то — відповідні шанси; імовірності — це логарифм шансів, тобто
Основа використовуваної функції логарифма не має великого значення в контексті цієї статті, допоки вона більша за 1, але найчастіше використовують натуральний логарифм з основою . Вибір основи відповідає вибору для значення: основа 2 відповідає шеннону, основа — нату, а основа 10 — гартлі; ці одиниці зокрема застосовують в інформаційно-теоретичних інтерпретаціях. Для кожної основи функція логіт набуває значень між від'ємною та додатною нескінченністю.
«Логістичну» функцію будь-якого числа задають як обернення :
Різниця між 'ами двох імовірностей є логарифмом співвідношення шансів (), що дозволяє спростити запис правильного поєднання співвідношень шансів лише додаванням та відніманням:
Ряд Тейлора для функції логіта задає наступний вираз:
Історія Для пристосування методів лінійної регресії до області, де виходом є значення ймовірності , а не будь-яке дійсне число , розглядали декілька підходів. У багатьох випадках такі зусилля зосереджували на моделюванні цієї задачі шляхом відображення інтервалу у , з наступним виконанням лінійної регресії над цими перетвореними значеннями.
1934 року використав для виконання цього відображення інтегральну функцію нормального розподілу й назвав свою модель пробітом (), скороченням від (). Проте це є обчислювально витратнішим.
1944 року використав логарифм шансів і назвав цю функцію логітом (), скороченням від , за аналогією до пробіту:
Логарифм шансів широко використовував Чарлз Сандерс Пірс (наприкінці XIX століття). 1949 року запровадив загальновживаний термін логарифмічні шанси ();. логарифмічні шанси події це логіт імовірності цієї події.. Барнард також запропонував термін лоди () як абстрактний вигляд , але зазначив, що «на практиці слід зазвичай використовувати термін „шанси“, оскільки він знаніший у повсякденному житті».
Використання та властивості Логіт у логістичній регресії є окремим випадком функції зв'язку в : він є канонічною для розподілу Бернуллі. В абстрактнішому сенсі логіт є для біноміального розподілу, див. . Функція логіта є від'ємною похідною від . Логіт також є центральним елементом імовірнісної моделі моделі Раша для вимірювання, яку, серед іншого, застосовують у психологічному та освітньому оцінюванні. Обернену до логіта функцію (тобто, логістичну функцію) іноді також називають функцією expit. В епідеміології рослинних захворювань логістична, ґомпертцева та мономолекулярна моделі сукупно відомі як моделі річардсонового сімейства. Функцію логарифмічних шансів імовірностей часто використовують в алгоритмах оцінювання стану через її числові переваги в разі малих імовірностей. Замість множення дуже малих чисел із рухомою комою, для обчислення спільної ймовірності (в логарифмічних шансах) імовірності в логарифмічних шансах можливо просто підсумовувати.
Порівняння з пробітом
Тісно пов'язані з функцією (і логітовою моделлю) функція і . Як , так і — це сигмоїдні функції з областю визначення між 0 і 1, що робить їх , тобто оберненими до інтегральних функцій розподілів імовірності (ІФР). Насправді є логістичного розподілу, а — квантильною функцією нормального розподілу. Функцію пробіт позначують через , де — це ІФР стандартного нормального розподілу:
Як показано на графіку праворуч, функції і надзвичайно подібні за умови масштабування функції так, щоб її нахил у точці відповідав нахилу функції . У результаті іноді використовують замість логітових моделей, оскільки для певних задач (наприклад, у теорії відгуку завдання) їх втілення простіше.
Див. також Сигмоїдна функція — обернена до логіта : бінарний логіт, багатозначний логіт, умовний логіт, вкладений логіт, змішаний логіт, розгорнутий логіт, порядковий логіт
, має схожу форму Перцептрон Пробіт — інша функція з тими же областями визначення та значень, що й логіт
Перетворення даних (статистика) Арксинус (перетворення) Модель Раша
Примітки
Посилання Which Link Function — Logit, Probit, or Cloglog? 12.04.2023
Література