Історія теорії ймовірності відзначена багатьма унікальними особливостями. Передусім, на відміну від інших розділів математики, які виникли приблизно в тому ж проміжку часу, (наприклад, математичного аналізу або аналітичної геометрії), у теорії ймовірностей по суті не було античних або середньовічних попередників, вона цілком — здобуток Нового часу. Довгий час теорія ймовірностей вважалася суто дослідною наукою і «не зовсім математикою», її строге обґрунтування було розроблено тільки в 1929 році, тобто навіть пізніше, ніж аксіоматика теорії множин (1922). У наші дні теорія ймовірностей займає одне з перших місць у прикладних науках за широтою своєї області застосування; «Немає майже жодної природничої науки, в якій так чи інакше не застосовувалися б ймовірнісні методи».
Історики виділяють у розвитку теорії ймовірностей кілька періодів. Передісторія, до XVI століття включно. В античні часи і в Середньовіччя натурфілософи обмежувалися метафізичними міркуваннями про походження випадковості і її значення у природі. Математики в цей період розглядали й іноді розв'язували завдання, пов'язані з теорією ймовірностей, але ніяких загальних методів і тематичних понять ще не з'явилося. Головним досягненням цього періоду можна вважати розвиток комбінаторних методів, які пізніше стали в пригоді творцям теорії ймовірностей. Початок формування в другій половині XVII століття основних понять і методів теорії ймовірностей для випадкових величин зі скінченною кількістю значень. Стимулом спочатку слугували переважно проблеми, що виникали в азартних іграх, проте область застосування теорії ймовірностей майже відразу починає розширюватися, включаючи в себе прикладні завдання демографічної статистики, страхової справи і теорії наближених обчислень. На цьому етапі важливий внесок в ідеї нової науки внесли Паскаль і Ферма. Християн Гюйгенс ввів два фундаментальних поняття: числова міра ймовірності події, а також поняття математичного сподівання випадкової величини. У XVIII столітті з'явилися монографії із систематичним викладом теорії ймовірностей. Першою з них стала книга Якоба Бернуллі «Мистецтво припущень» (1713 рік). У ній Бернуллі запропонував класичне означення ймовірності випадкової події як відношення кількості рівно можливих випадків, пов'язаних із цією подією, до загальної кількості випадків. Він також виклав правила підрахунку ймовірності для складних подій і дав перший варіант ключового «закону великих чисел», який пояснює, чому частота події в серії випробувань не змінюється хаотично, а в певному сенсі прагне до свого граничного теоретичного значенням (тобто ймовірності). Ідеї Бернуллі розвинули на початку XIX століття Лаплас, Гаусс та Пуассон. Застосування імовірнісних методів у прикладній статистиці значно розширилося. Поняття ймовірності було розвинуте для неперервних випадкових величин, завдяки чому з'явилася можливість застосування методів математичного аналізу. З'являються перші спроби застосування теорії ймовірностей у фізиці. До кінця XIX століття з'являються статистична фізика, сувора теорія помилок вимірювання, ймовірнісні методи проникають у різноманітні прикладні науки. У XX столітті в фізиці була створена теорія мікросвіту, а в біології — теорія спадковості, обидві вони більшою мірою ґрунтуються на імовірнісних методах. Карл Пірсон розробив алгоритми математичної статистики, які широко застосовуються для аналізу прикладних вимірювань, перевірки гіпотез і прийняття рішень. А. М. Колмогоров дав класичну аксіоматику теорії ймовірностей. З інших нових сфер застосувань теорії ймовірностей необхідно згадати теорію інформації і теорію випадкових процесів. Філософські суперечки про те, що таке ймовірність і в чому причина її стійкості, тривають.
Етимологія Ймовірне (), очікуване () та інші тотожні назви походять з латинської probabilis та verisimilis, були запропоновані Цицероном та означають «правдоподібний», або «цілком схвалений».
Походження У стародавньому та середньовічному Законі про Докази було розроблено класифікацію ступенів доведення, ймовірностей, презумпцій та напівдоказів, для того щоб можна було подолати неоднозначні ситуації в судах. В добу Відродження ставки були обговорені з точки зору шансів таких як «десять до одного», також у страхуванні морських суден виплати оцінювались на основі інтуїтивних ризиків, але не було ніякої теорії, яка б дозволяла точно рахувати такі премії чи ставки. Математичні методи у ймовірності з'явились у П'єра де Ферма та Блеза Паскаля (1657) в таких питаннях як справедливий розподіл частки в азартних іграх з перервами. Християн Гюйгенс (1657) дав комплексне трактування цього об'єкта.
Середньовічна Європа та початок Нового часу
Перші завдання імовірнісного характеру виникли в різних азартних іграх — кістках, картах та ін. Французький канонік XIII століття правильно підрахував всі можливі суми очок після підкидування трьох кісток і вказав кількість способів, якими може вийти кожна з цих сум. Цю кількість способів можна розглядати як першу кількісну міру очікуваності події, аналогічну ймовірності. До Фурніваля, а іноді і після нього, цей захід часто підраховували невірно, вважаючи, наприклад, що суми 3 і 4 очка рівноімовірні, так як обидва можуть вийти «тільки одним способом»: за результатами підкидування «три одиниці» і «двійка з двома одиницями» відповідно. Водночас не враховувалося, що три одиниці справді виходять тільки одним способом: , а двійка з двома одиницями — трьома: , так що ці події не рівноімовірні. Аналогічні помилки неодноразово траплялися і в подальшій історії науки.
У великій математичної енциклопедії «Сума арифметики, геометрії, відносин і пропорцій» італійця Луки Пачолі (1494) містяться оригінальні завдання на тему: як розділити ставку між двома гравцями, якщо серія ігор перервана достроково. Приклад такого завдання: гра йде до 60 очок, переможець отримує всю ставку в 22 дуката, в ході гри перший гравець набрав 50 очок, другий — 30, і тут гру довелося припинити; потрібно справедливо розділити вихідну ставку. Рішення залежить від того, що розуміти під «справедливим» розділом; сам Пачолі запропонував ділити пропорційно набраним очкам (55/4 і 33/4 дуката); пізніше його рішення було визнано помилковим.
Великий алгебраїст XVI століття Джироламо Кардано присвятив аналізу гри змістовну монографію «Книга про гру в кості» (1526 рік, опублікована посмертно). Кардано провів повний і безпомилковий комбінаторний аналіз для значень суми очок і вказав для різних подій очікуване значення частки «сприятливих» подій: наприклад, під час підкидання трьох кісток частка випадків, коли значення всіх 3 кісток збігаються, дорівнює 6/216 або 1/36. Кардано зробив проникливе зауваження: реальна кількість досліджуваних подій може при невеликому числі ігор сильно відрізнятися від теоретичного, але чим більше ігор в серії, тим частка цієї відмінності менше. По суті, Кардано близько підійшов до поняття ймовірності: Отже, є одне загальне правило для розрахунку: необхідно врахувати загальну кількість можливих випадінь і кількість способів, якими можуть з'явитися дані випадання, а потім знайти відношення останнього числа до числа залишившихся можливих випадінь. Інший італійський алгебраїст, Нікколо Тарталья, розкритикував підхід Пачолі до вирішення завдання про розподіл ставки: адже якщо один із гравців ще не встиг набрати жодного очка, то алгоритм Пачолі віддає всю ставку його супернику, що важко назвати справедливим, оскільки деякі шанси на виграш у відстаючого все ж є. Кардано і Тарталья запропонували свої (різні) способи розділу, але згодом і ці способи були визнані невдалими.
Дослідженням даної теми займався і Галілео Галілей, який написав трактат «Про вихід очок при грі в кості» (1718 рік, опублікований посмертно). Виклад теорії гри у Галілея відрізняється вичерпною повнотою і ясністю. У своїй головній книзі Діалог про дві найголовніші системи світу, птоломєєвої і коперникової» Галілей також вказав на можливість оцінки похибки астрономічних та інших вимірів, причому заявив, що малі помилки вимірювання найімовірніше, ніж великі, відхилення в обидві сторони різноімовірні, а середній результат повинен бути близький до істинного значення вимірюваної величини. Ці якісні міркування стали першим в історії пророкуванням нормального розподілу помилок.
XVII століття: Паскаль, Ферма, Гюйгенс
У XVII столітті почало формуватися чітке уявлення про проблематику теорії ймовірностей і з'явилися перші математичні (комбінаторні) методи вирішення імовірнісних задач. Засновниками математичної теорії ймовірностей стали Блез Паскаль і П'єр Ферма.
Перед цим математик-аматор шевальє де Мере звернувся до Паскаля щодо так званого «завдання про очки»: скільки разів потрібно підкинути дві кістки, щоб ставити на одночасне випадання хоча б раз двох шісток було вигідно? Паскаль і Ферма вступили в листування між собою щодо даного завдання і споріднених питань (1654). В рамках цього листування вчені обговорили низку проблем, пов'язаних з ймовірними розрахунками; зокрема, розглядалася стара задача про розподіл ставки, і обидва вчених прийшли до рішення, що треба розділити ставку відповідно шансам, що залишаються на виграш. Паскаль вказав де Мері на помилку, допущену ним під час вирішення «завдання про окуляри»: в той час як де Мері невірно визначив рівноімовірні події, отримавши відповідь: 24 підкидування, Паскаль дав правильну відповідь: 25 підкидувань.
Паскаль в своїх працях далеко просунув застосування комбінаторних методів, які систематизував у своїй книзі «Трактат про арифметичний трикутник» (1665). Спираючись на імовірнісний підхід, Паскаль навіть доводив (у посмертно опублікованих нотатках), що бути віруючим вигідніше, ніж атеїстом (див. «Парі Паскаля»).
Тематика дискусії Паскаля і Ферма (без подробиць) стала відома Християнові Гюйгенсу, який опублікував власне дослідження «Про розрахунки в азартних іграх» (1657): перший трактат з теорії ймовірностей. У передмові Гюйгенс пише: Я вважаю, що при уважному вивченні предмета читач помітить, що має справу не тільки з грою, але що тут закладаються основи дуже цікавої і глибокої теорії. У трактаті Гюйгенса детально викладаються питання, розглянуті Ферма і Паскалем, але ставляться і нові питання. Головним досягненням нідерландського вченого стало введення поняття математичного очікування, тобто теоретичного середнього значення випадкової величини. Гюйгенс також вказав класичний спосіб його підрахунку: Якщо кількість випадків, в яких виходить сума a, дорівнює p, а кількість випадків, в яких виходить сума b, дорівнює q, то вартість мого очікування дорівнює . Гюйгенс, як видно з цитати, спочатку використовував термін «вартість», а термін «очікування» з'явився вперше при перекладі трактату Гюйгенса Ван Схоутеном на латинську мову і став загальноприйнятим у науці.
У книзі є велика кількість завдань, деякі з рішеннями, інші «для самостійного вирішення». З останніх особливий інтерес і жваве обговорення викликала «задача про розорення гравця». У дещо узагальненому вигляді вона формулюється так: у гравців A і B є a і b монет відповідно, в кожній грі виграється одна монета, ймовірність виграшу A в кожній грі дорівнює p, потрібно знайти ймовірність повного його розорення. Повне загальне рішення «задачі про розорення» дав Абрахам де Муавр півстоліття пізніше (1711). У наші дні імовірнісна схема «задача про розорення» використовується при вирішенні багатьох завдань типу «випадкове блукання».
Гюйгенс проаналізував і завдання про розподіл ставки, давши його остаточне рішення: ставку треба розділити пропорційно можливостям виграшу при продовженні гри. Він також вперше застосував імовірнісні методи до демографічної статистики і показав, як розрахувати середню тривалість життя.